Искусственный интеллект и социальный рейтинг: начало эпохи цифрового концентрационного лагеря «в интересах человечества»?

Социальный рейтинг сегодня — не что иное, как совокупность социальных индикаторов, оценку которым дает некая автоматизированная система. В упрощенном виде весь процесс сводится к следующей схеме: в сложную алгоритмическую систему стекаются массивы информации (как выясняется, далеко не объективной и имеющей высокую погрешность) по всевозможным аспектам жизни человека и общества в целом.

Система обрабатывает и анализирует поступившие данные и на основании заранее заданных программистами критериев выдает персональную оценку тому или иному человеку и ставит «диагноз» его взаимоотношениям с социумом. На основе выходных данных, то есть индивидуальной оценки или рейтинга гражданина, государственные учреждения и общественные институты будут формировать модель взаимодействия с ним. Именно здесь, в природе социального рейтинга, кроется ответ на главный вопрос: стоит ли внедрять эту модель контроля и оценки общества или нет? По нашему мнению, — нет, не стоит.

Лоббисты социального рейтинга, преимущественно крупные бизнес-структуры (не только в Китае, но и во многих странах мира), ратуют за его внедрение, поскольку видят в нем «передовой» и «технически совершенный» инструментарий оценки социально-экономических и поведенческих паттернов человека в мире «цифрового капитализма».

Таким образом они выводят на первый план ультракапиталистическую идею — рассматривать человека как некий товар с «ценником». Попытки навязать некий универсальный шаблон «правильного» потребителя с точки зрения цифрового капитализма XXI века вряд ли способны значительно и надолго увеличить генерацию прибыли, равно как и повысить управляемость общества в целом.

Скорее, наоборот. Против соцрейтинга, во-первых, будет сама природа человека, поскольку любая система диктата меньшинства, вне зависимости от имеющихся средств и методов контроля за сегрегацией (рабовладельческий строй в период Античности, колониальные режимы в Новое время или система апартеида в XX веке), на длинной дистанции обречена.

Во-вторых, уже выявленные технологические изъяны и несовершенства конструкции «умной оценки общества» в равной степени будут работать против всех членов общества, даже формально привилегированных — и это один из главных рисков, который не учитывают сторонники соцрейтинга. Гарантированного иммунитета от результатов воздействия технологии не будет ни у кого.

Основные проблемы концепции социального рейтинга при применении на практике:

Непрозрачность правил и алгоритмов, на основе которых система социального рейтинга будет давать оценки поведению человека.
Никто не застрахован от социального деранкинга.
Система социального рейтинга может иметь большое количество звеньев.
Цифровая дискриминация человека.
Система социального рейтинга ведет к социальной дестабилизации.

В России, несмотря на отсутствие комплексных исследований по данной проблематике, тем не менее, уже создается юридическая основа для неких критериев оценки людей и общества в целом, схожих по своей природе с социальным рейтингом.

Неоднозначный, и, по нашему мнению, чрезвычайно опасный пример Китая иллюстрирует необходимость самым решительным образом противодействовать возможному внедрению рейтинговых систем на территории Российской Федерации.

В этом смысле подход Евросоюза может быть взят за основу. В целях объективной оценки феномена соцрейтинга и формирования комплекса мер по защите конституционных прав российских граждан в эпоху «цифрового капитализма» полагаем, что настало время инициировать полноценные научные исследования по данной теме.

Полученные результаты должны быть вынесены на широкое публичное обсуждение с участием представителей всех слоев общества (научно-экспертного сообщества, правозащитных организаций, законодателей, деловых кругов, политических партий, гражданского общества и т. д.) По их итогам, вероятно, следует рассмотреть возможность закрепления достигнутых результатов на общероссийском референдуме.
Это краткая версия статьи. Полностью прочитать можно тут

мне непонятны и не нравятся формулировки типа приведенной: "Цифровой концлагерь".

"Концентрационный Лагерь" у меня словосочетание вызывает только определенные ассоциации

Нехорошая формулировка. дабы не разбрасываться неподобающими сущностными всуе

Цитата:

Система обрабатывает и анализирует поступившие данные и на основании заранее заданных программистами критериев выдает персональную оценку тому или иному человеку и ставит «диагноз» его взаимоотношениям с социумом. На основе выходных данных, то есть индивидуальной оценки или рейтинга гражданина, государственные учреждения и общественные институты будут формировать модель взаимодействия с ним. Именно здесь, в природе социального рейтинга, кроется ответ на главный вопрос: стоит ли внедрять эту модель контроля и оценки общества или нет? По нашему мнению, — нет, не стоит.

Слышал, что китайцы планируют использовать эту систему ~в течение ста лет, после чего будут сделаны выводы об ее эффективности

Цитата:

Лоббисты социального рейтинга, преимущественно крупные бизнес-структуры (не только в Китае, но и во многих странах мира), ратуют за его внедрение, поскольку видят в нем «передовой» и «технически совершенный» инструментарий оценки социально-экономических и поведенческих паттернов человека в мире «цифрового капитализма».

Здесь вся суть: капитализм ) То есть, грубо говоря, чем более вы активный потребитель, тем более вы надежный и важный член общества. Общества Потребления :показывает язык:

Если это действительно так, тогда я абсолютно против подобной системы. А если без капитализма, просто рейтинг социальный, я все равно буду против: не должен компьютер определять мою важность и ценность для общества, определять это должны живые люди, живое общество. И то лишь по тому, что они видят и знают, ибо когда все твои действия записываются (камеры), получается пожизненная слежка, что тоже спорно. Кому-то пофиг, а другим нет. Не потому, скрывают что-то, нет, причина в другом: просто не хочется, чтобы за тобой повсюду следили, это неприятно. Осознавать, что каждый твой чих или чесание в носу будет запечатлено и обработано

Цитата:

Таким образом они выводят на первый план ультракапиталистическую идею — рассматривать человека как некий товар с «ценником»

Именно! Обесчеловечивание человека.

Цитата:

Основные проблемы концепции социального рейтинга при применении на практике:

Согласен со всеми пунктами.

Цитата:

настало время инициировать полноценные научные исследования по данной теме.

Лишь путем экспериментов можно научно определить, что это и как это. Если действительно нужно кому-то.
Китайцы будут проводить свой эксперимент в течение как минимум всего этого века ) А для России можно взять один какой-нибудь город и там (и только там) проводить эксперимент длительностью в несколько лет хотя бы.
На бумаге ничего точно не узнать, нужны практические эксперименты.

Поздно. Оплачено. (C)

Гугл с конце этого года похоронит печеньки (Cookies). А это вроде бы их хлеб - они с помощью кукисов следят за тем, кто какие сайты посещает, и таким образом зарабатывают на рекламе. Если бы у гугла не было не менее эффективного альтернативного способа ранжирования пользователей - они бы не решились на подобное безумие.

вот когда я вижу что то про искусственный интеллект, я все время вспоминаю фразу про отдел занимающийся искусственным интеллектом в нашем Вычислительном центре Академии Наук. Дык вот, говорилось, что искусственным интеллектом занимаются только те, кому естественного не хватает.

graytiger писал(а):

вот когда я вижу что то про искусственный интеллект, я все время вспоминаю фразу про отдел занимающийся искусственным интеллектом в нашем Вычислительном центре Академии Наук. Дык вот, говорилось, что искусственным интеллектом занимаются только те, кому естественного не хватает.

О началось.... Цензура

"Говорят, что кур доят".

vovka7550 писал(а):

graytiger писал(а):

вот когда я вижу что то про искусственный интеллект, я все время вспоминаю фразу про отдел занимающийся искусственным интеллектом в нашем Вычислительном центре Академии Наук. Дык вот, говорилось, что искусственным интеллектом занимаются только те, кому естественного не хватает.

О началось.... Цензура

"Говорят, что кур доят".

Справедливости ради хочу заметить ,что правильнее выражение будет выглядеть так -"Говорят В МОСКВЕ кур доят'. Конкретно и ясно.

Ну наконец-то клеймо раба приобретает цивилизованный вид :смех:

О, дивный Новый Мир! ... Цензура

Теперь запасаемся поп-корном и ждем возвращения Терминатора Арнольда с пулеметом в помощь отдоенным курам. Да придет спаситель, аминь ))

Цитата:

по нашему мнению, чрезвычайно опасный пример Китая...
В этом смысле подход Евросоюза может быть взят за основу

Что за заказуха Евросоюза и очередная бочка на китаёзов? осталось дело за кружевными трусами и мир победит [большой смайл трусов]
Искусственный интеллект, социальный рейтинг, цифровой концлагерь, «интересы человечества» - диво дивное что люди вдувают сранья ....

(как выясняется, далеко не объективной и имеющей высокую погрешность)
Устранить погрешности и сделать объективной, всего то и делов!

Verchovcev писал(а):

Ну наконец-то клеймо раба приобретает цивилизованный вид :смех:

Раб - принадлежащий другому (Хозяину), который за него отвечает, обязан кормить лечить и давать кров, как только он будет не в состоянии это делать, раба отпускают.
Учите историю

Рабов давно уже нет, есть не пойми что (хуже раба).

Михаил писал(а):

мне непонятны и не нравятся формулировки типа приведенной: "Цифровой концлагерь".

"Концентрационный Лагерь" у меня словосочетание вызывает только определенные ассоциации

Нехорошая формулировка. дабы не разбрасываться неподобающими сущностными всуе

Термин "цифровое средневековье" Вас устроит? Мы, уже давно, живём в несвободном мире, достаточно сравнить Российскую Империю и РФ.
А, все Ваши ассоциации не более чем плод усилий штатных пропагандистов.

По-моему, здесь это будет достаточно в тему.

Просмотр доступен только для зарегистрированных пользователей

Искусственным интеллектом там и не пахнет.
Ничего не имею против такого рейтинга на уровне корпорации. Но на уровне государства, где выбора нет, должно отсутствовать как явление и быть запрещенным по всему миру. Очередная рабовладельческо-коммунистическая чепуха, которая унижает любую личность, даже самую недоразвитую, просто своим существованием. Называть соц.рейтинг "ультракапиталистическим" наглое лицемерие и прямое вранье. Это не что иное, как всеми любимый коммунизм, который снял почти все свои маски. Когда тебе, как индивидууму, ничего не принадлежит и не существует личной частной собственности. Даже те самые циферки рейтинга, которые в полном контроле "царей". Показывать на западные страны тоже не стоит. Так как разрабатывают этот рейтинг там приверженцы неомарксизма. Отвратительнейшего явления, такого же как и неонацизм.

"Система обрабатывает и анализирует поступившие данные и на основании заранее заданных программистами критериев" Ок. Какое отношение к этому имеет ИИ? Автор в курсе вообще что такое ИИ, и кто такой Норберт Винер? Не так давно мы проходили нано-все подряд.