Эксперт предупредила россиян о новом виде фейков, созданных ИИ

Россияне начали сталкиваться с новым видом "косвенных" фейков, которые создают нейросети, обученные на иностранном культурном коде, рассказала в интервью РИА Новости на ПМЭФ-2026 заместитель генерального директора АНО "Диалог Регионы", основатель "Мастерской новых медиа" Юлия Аблец.



"Мы привыкли считать, что фейки - это намеренное искажение информации. Но сегодня мы начинаем сталкиваться с новым видом фейков, назовем их - косвенные фейки. Как они появляются? В медиа сегодня практически все используют искусственный интеллект, чтобы написать текст, снять видеоролик, сделать картинку, а большинство нейромоделей созданы и обучены на иностранном культурном коде - на западном или на китайском - не важно каком", - сказала она.

Аблец отметила, что нейросеть "затягивает" в себя в том числе ценностные установки той культуры, в которой она обучалась: отношение к тем или иным событиям, нормы поведения, традиционные ценности и многое другое.

"Сеть обучилась этому всему, потом мы ее попросили написать текст про что-то, и она автоматически заложит в этот текст те предустановки, которые в ней уже есть. Мы получим, казалось бы, с точки зрения фактологии корректный продукт - даты, названия географических пунктов - все будет верным, но трактовка, отношение и контекст будет заложен, например, западный", - подчеркнула эксперт.

По ее словам, такой текст, написанный с помощью искусственного интеллекта, может подталкивать людей к ошибочным решениям и поступкам.

"Это становится новым вызовом, надо не просто научиться выстраивать фактологические рамки, надо научиться выстраивать когнитивные смысловые рамки, проверять контекст", - добавила Аблец.

РИА Новости

minionnm писал(а):

Frankenstein-2018 Иоганн Вольфганг Гёте: «Нет рабства безнадежнее, чем рабство тех рабов, себя кто мнит свободными от оков».

Ну всё, приехали. Значит, нет никакого выбора... Это только злой умысел кого-то, и каждый наш выбор навязан кем-то..

да ладно все равно все сдохнем и воскреснем как в фильме на ютуб Каждый 88-ой

Добавлено спустя 1 минуту 16 секунд:

Раньше сдохнешь или позже Или будь как в Фар Край 6

нейросеть это просто программа которая рандомно генерирует
всё что проанализирует из тех баз данных - "которые её кормят"

допустим эти базы данных будут состоять из сюжетов игр, фантастики и тд...
а мы - ЛЮДИ - столько всего напридумывали ))))
так что игра будет очень разнообразной -
- любая политика, религия и любая "жёлтая" пресса - обзавидуется ))

я к чему? к тому что ИИ будет просто с нами играть - а сюжетов - бесконечно
играть не для того чтобы захватить человечество - а играть просто ради ИГРЫ )))

Frankenstein-2018 писал(а):

sergey-kyiv писал(а): Вероятно, всего лишь найти Ваши иллюзии о себе любимом, усилить их, а потом использовать. А где там написано о любви к себе? Всё, что я читаю или слышу, не меняет моего фундаментального взгляда на мир. Я способен понять и принять чужую точку зрения, но не отождествляю себя с ней. Я беру её к сведению, но не делаю своей собственной

А зачем писать о любви к себе? Инстинкт самосохранения - базовый двигатель любого человека. И как в анекдоте про женщину, которая рассказывает юноше, что тот её старыми сказками про не такую как все и исключительную, не проймёт. На что тот отвечает, "конечно, не пройму"! "Ты же не такая, как все. Ты - особенная!". Точно так же сможет ИИ подобрать ключик и к Вам, не сейчас, конечно, ибо он ещё слишком негибок.

Фигня редкая.
Непредвзятого мнения не бывает ни у ИИ, ни у людей.
Многие тут понаписывали, что надо книгам и фактам доверять, то сё, а ведь это то же самое. Книги, факты и их поляризация тоже людьми созданы.
Касательно цензуры-везде и всегда она есть. Вопрос в мере и степени.

Ребята ну зачем вы выкладываете этот бред сюда. Фейк это искажение информации иная интерпретация не может называться косвенным фейком эта статья ровно то о чем в ней пытаются соврать)

DenonDX писал(а):

Фигня редкая. Многие тут понаписывали, что надо книгам и фактам доверять, то сё, а ведь это то же самое. Книги, факты и их поляризация тоже людьми созданы.

У меня было несколько раз когда люди мне рассказывали историю которая произошла со мной.
Их не волновало когда я говорил что было не так,они лучше знают и источник информации надёжный. :mrgreen:

DenonDX писал(а):

Фигня редкая. Непредвзятого мнения не бывает ни у ИИ, ни у людей. Многие тут понаписывали, что надо книгам и фактам доверять, то сё, а ведь это то же самое. Книги, факты и их поляризация тоже людьми созданы. Касательно цензуры-везде и всегда она есть. Вопрос в мере и степени.

Однозначно согласен с Вами. Однако, акцент статьи несколько другой. Народ ведь не воспринимает ИИ, как заведомо недружественный сервис. Тётки юзают его как психолога, студенты отдают писать работы в универ и т.д. Но создатели ИИ решают свои задачи - коммерческую и, возможно, разведывательную - вспомним вчерашнее сообщение о 30 000 000 000 фотографий из Pokemon Go, проданных военному ведомству США. Аналогия просматривается ясно, как мне кажется.

deadcover писал(а):

В России позаблочили доступ к западным ИИ, как эти ИИ будут учиться у российских пользователей культурным ценностям? К чему теперь жаловаться? Враг здесь точно не ИИ.

В США заблочили доступ к восточным ИИ, как эти ИИ будут учиться у граждан США культурным ценностям:
Враг точно не сша.

Данная новость напомнила мне скандал с игрой Mass Effect, когда мадам (мегакакой-то специалист в чем-то, дипломированный коучер в 100 поколении) кидала на всю Амэрику претензию, а на вопрос разработчика "А вы в неё играли? Сами это видали?" ответила эпично "Мне подруга рассказала, я её верю и этого достаточно...".
Да если так можно было, то Альтман не искал бы финансирования, ему ЦРУ безлимитку бы выдала... Да и вообще там очередь думаю очень длинная была бы...

Но в РФ вскоре останутся только китайские нейросети!
Остальные вообще запретят!
И каково будет узнать школьникам о героических действиях китайских солдат на острове Доманском?))

FA2000 писал(а):

Данная новость напомнила мне скандал с игрой Mass Effect, когда мадам (мегакакой-то специалист в чем-то, дипломированный коучер в 100 поколении) кидала на всю Амэрику претензию, а на вопрос разработчика "А вы в неё играли? Сами это видали?" ответила эпично "Мне подруга рассказала, я её верю и этого достаточно...". Да если так ... ... можно было, то Альтман не искал бы финансирования, ему ЦРУ безлимитку бы выдала... Да и вообще там очередь думаю очень длинная была бы...

А подтверждённые новости о продаже 30 миллиардов снимков местности, сделанных игроками Pokemon Go, министерству войны США, не желаете прокомментировать или "это другое"?

Рявкин писал(а):

нейросеть это просто программа которая рандомно генерирует всё что проанализирует из тех баз данных - "которые её скормят"

Ну вы прям сильно все утрировали. Модель учится не для поиска по базам, а для весов связей между токенами, соединением смыслов. Она обучается на нейронном уровне и создает текст скорее вероятносто, а не рандомно. Это вероятность возникновения следующего слова в генерации на основе данных машинного обучения и теущего контекста. И строит информацию не рандомно, а с вероятностью, которая выработана на обучении на реальных данных. Сеть не хранит никакой базы - только параметры связей. Если проще - она выбирает из слов с похожим смыслом. Указанный вами "рандом" можно рассматривать только в понятии параметра "температуры", т.е. уровню креативности сети. Это нужно, чтобы можно было управлять стилем, настроением, направлением и восприятием текста и вариативностью идей.

Точно Аблец? Не Альбац???

Рявкин писал(а):

нейросеть это просто программа которая рандомно генерирует всё что проанализирует из тех баз данных - "которые её кормят" допустим эти базы данных будут состоять из сюжетов игр, фантастики и тд... а мы - ЛЮДИ - столько всего напридумывали )))) так что игра будет очень разнообразной - - любая политика, религия и любая "жёлтая" ... ... пресса - обзавидуется )) я к чему? к тому что ИИ будет просто с нами играть - а сюжетов - бесконечно играть не для того чтобы захватить человечество - а играть просто ради ИГРЫ )))

everyone писал(а):

Ну вы прям сильно все утрировали. Модель учится не для поиска по базам, а для весов связей между токенами, соединением смыслов. Она обучается на нейронном уровне и создает текст скорее вероятносто, а не рандомно. Это вероятность возникновения следующего слова в генерации на основе данных машинного обучения и теущего контекста. И строит информацию не ... ... рандомно, а с вероятностью, которая выработана на обучении на реальных данных. Сеть не хранит никакой базы - только параметры связей. Если проще - она выбирает из слов с похожим смыслом. Указанный вами "рандом" можно рассматривать только в понятии параметра "температуры", т.е. уровню креативности сети. Это нужно, чтобы можно было управлять стилем, настроением, направлением и восприятием текста и вариативностью идей.

всё что вы написали, не противоречит мне,
скорее мой текст дополняет ваш - и признаю что не наоборот ))

Добавлено спустя 33 минуты 13 секунд:

everyone писал(а):

на обучении на реальных данных

и такое понятие как - РЕАЛЬНЫЕ данные,
для нейросети реальность может быть и обыкновенная фантастика или сюжеты бесконечных игр ))
нейросети ВСЁ по барабану - для неё реальность - это всё что мы напридумывали и оцифровали!
а человечество накопило много разных-разных данных )))