Эксперт предупредила россиян о новом виде фейков, созданных ИИ

Россияне начали сталкиваться с новым видом "косвенных" фейков, которые создают нейросети, обученные на иностранном культурном коде, рассказала в интервью РИА Новости на ПМЭФ-2026 заместитель генерального директора АНО "Диалог Регионы", основатель "Мастерской новых медиа" Юлия Аблец.



"Мы привыкли считать, что фейки - это намеренное искажение информации. Но сегодня мы начинаем сталкиваться с новым видом фейков, назовем их - косвенные фейки. Как они появляются? В медиа сегодня практически все используют искусственный интеллект, чтобы написать текст, снять видеоролик, сделать картинку, а большинство нейромоделей созданы и обучены на иностранном культурном коде - на западном или на китайском - не важно каком", - сказала она.

Аблец отметила, что нейросеть "затягивает" в себя в том числе ценностные установки той культуры, в которой она обучалась: отношение к тем или иным событиям, нормы поведения, традиционные ценности и многое другое.

"Сеть обучилась этому всему, потом мы ее попросили написать текст про что-то, и она автоматически заложит в этот текст те предустановки, которые в ней уже есть. Мы получим, казалось бы, с точки зрения фактологии корректный продукт - даты, названия географических пунктов - все будет верным, но трактовка, отношение и контекст будет заложен, например, западный", - подчеркнула эксперт.

По ее словам, такой текст, написанный с помощью искусственного интеллекта, может подталкивать людей к ошибочным решениям и поступкам.

"Это становится новым вызовом, надо не просто научиться выстраивать фактологические рамки, надо научиться выстраивать когнитивные смысловые рамки, проверять контекст", - добавила Аблец.

РИА Новости

Победители пишут историю - ИИ ее рассказывает, но все равно, рано или поздно, все тайное станет явным.

Чтобы не трещали эти ыксперты, а человечество потихоньку стирает грани между культурами и становится ближе друг к другу, взаимопроникает друг в друга. К пользе и выгоде всех. Не скажу, что уже становится единым человечеством, до этого еще далеко, но то, что этот путь неизбежен, и он уже выбран - это точно. При выработке единых правил и, особенно, равных прав для всех.

Рявкин писал(а):

и такое понятие как - РЕАЛЬНЫЕ данные, для нейросети реальность может быть и обыкновенная фантастика или сюжеты бесконечных игр )) нейросети ВСЁ по барабану - для неё реальность - это всё что мы напридумывали и оцифровали! а человечество накопило много разных-разных данных )))

Все, что не является генерацией нейросети является реальными данными. Все остальное - синтез. Все знания человечества, которые мы используем повседневно, есть результат накопленного опыта. И именно этот опыт используется для синтеза. А нейросети вполне способны отделить фантастику, сюжеты игр, научные знания и бытовое мировоззрение. LLM моделям не может быть "по-барабану", потому что разные области знаний в текущем контексте имеют разные математические веса.
Ну а если говорить про объективную РЕАЛЬНОСТЬ, то вы и сами не сможете полновесно ответить на вопрос - что реально, а что нет. Все, что вы знаете о жизни (за исключение вашего личного опыта) вам так или иначе РАССКАЗАЛИ люди, имеющие различный авторитет в вашем мировоззрении. Это и можно считать личной базой математических весов вашего мозга.

everyone писал(а):

нейросети вполне способны отделить фантастику, сюжеты игр, научные знания и бытовое мировоззрение

everyone писал(а):

Ну а если говорить про объективную РЕАЛЬНОСТЬ, то вы и сами не сможете полновесно ответить на вопрос - что реально, а что нет.

--------------------------------------

тоесть вы со мной спорите, против моих утрированных определений, так?
но сами пишите что не можете полновесно ответить на вопрос - что реально, а что нет.

так вот вопрос - нейросеть кто читает? кто делает оценку её рандомной генерации? ))
кто создаёт базы для неё ?

так что повторю

Рявкин писал(а):

и такое понятие как - РЕАЛЬНЫЕ данные, для нейросети реальность может быть и обыкновенная фантастика или сюжеты бесконечных игр )) нейросети ВСЁ по барабану - для неё реальность - это всё что мы напридумывали и оцифровали! а человечество накопило много разных-разных данных )))

Добавлено спустя 3 минуты 59 секунд:

вы ещё спорили что нейросеть не может генерировать рандомно,
с чего ради то не может - человек прикажет - будет генерировать рандомно ))
плюс она даже не поймёт что ей что то кто то приказал ))

DobriyDjuk
У вас все построено на фейках, то есть, на вранье? Прям ВСЁ или частично все же?
И "присесть за правду" это как, примеры? Кого посадили за правду в России? Еще раз: за правду. За. Правду. И только. Будьте внимательны к вопросу.

AllBAF писал(а):

Пусть сначала пользоваться научится..

Видел ролики, где россияне задают вопросы (голосом) получают явно ошибочные ответы. Например, нечто вроде "сколько будет два плюс два" или "сколько букв я в таком-то слове" и тп. Так что дело не только в умении пользоваться, ибо когда ваш "голосовой помощник" ошибается так явно, глупо, это выглядит странно, мягко говоря...

everyone писал(а):

Кааак проснется таки у масс трезвый взгляд и критическое мышление к поступаемой информации по всем источникам...

Для вас это может быть откровением, но я слушаю, что говорят эксперты в эфире передачи у Соловьева, не кусками слушаю, а полностью практически, и скажу так: проговаривают часть реальных проблем в России. Не все, но все же кое-что есть, и это хорошо. Их слышат миллионы россиян. Да, там не обо всем говорят, либо не обо всем целиком, как следовало бы, но тем не менее – говорят.
Тут важно знать меру и не впадать в эмоции. Перевороты это пройденный этап конкретно для России, больше там переворотов не будет (вагную, можем поспорить), будет планомерное развитие государства. Единственное, что может быть на уровне, скажем так, близком к перевороту, это попытки терактов со стороны Запада для дестабилизации обстановки внутри. С этим, однако, Россия справится, тоже вангую (и можем поспорить)
Тенденции я вижу, проблемы мира мне очевидны, так что понимаю суть вещей. В целом. Знаю не все конечно, но прогнозы могу делать.

Abi3 писал(а):

Кстати это далеко не первый раз, когда Касперская садится в лужу на теме ИИ. Сегодня она к тому же заявила, что ИИ повышает производительность труда всего на 1–1.5%, и называла эту пользу «статистической погрешностью». Пока бизнес по всему миру ..

А может быть она имела ввиду только Россию?

maxad писал(а):

Но вы имейте в виду, что хорошей цензуры мнений не бывает и быть не может. Цензура мнения - это оксюморон. То есть не обманывайтесь, нельзя делать то же самое, только в хороших целях.

Полностью согласен: я за свободное высказывание мнений, но с оговоркой, что если тезис критика опровергли, "разбили в пух и прах", критик обязан признать это и поменять свое мнение на истинное, доказанное в ходе публичной дискуссии/спора/диспута. Потому, что помимо ПРАВА на мнение и слово, у человека, у гражданина должна быть и обязанность. Обязанность выслушать, понять и принять факт того, что его одолели в споре, успешно оспорили, опровергли и тд. А не так, что пришел на публичную площадку некий Гозман, вякнул свое "свободу Синцову" и был таков ) Не, так не пойдет. То есть, да, он волен говорить, но он *обязан* выслушать ответ, контру, и получив ответ, не имея возможности парировать, обязан признать свою неправоту относительно Синцова. Если вы помните, о ком я говорю. История старая, но идеальна для нашего примера.
Вот тогда я бы посмотрел на всех и любых критиков. А то вякнуть может любой, а реально аргументировать – единицы.

Легенда Зоны писал(а):

Смотрите только Первый канал и Скабееву! Только там правда!

Сарказм бывает умный, а бывает и глупый. Увы, у вас второй вариант, так как в программе "60 минут", которую вы скорее всего не смотрите, не считая отдельные кусочки, что для вас вырезают критиканы в своих роликах в ютубе, очень много показывают из западных сми, чтобы у зрителя была возможность сопоставлять информацию, что доносят из России и с Запада. Какая западная программа делает то же самое для своих зрителей, мм?

sergey-kyiv писал(а):

Вот нельзя использовать слово "набег" и всё. Даже, не смотря на то, что это случилось много веков назад. Ну и т.д.

А гугл тоже говорит как бы официально.. по Армении, например ) Мол, вот выборы, а про фейки или подлоги говорит оппозиция, что есть намек на то, что их слушать не нужно. Ну да, ну да...

sergey-kyiv писал(а):

Инстинкт самосохранения - базовый двигатель любого человека.

Правда. Но не до конца. Потому, что на основе лишь этой урезанной информации можно сделать в том числе ложные выводы обо всех или о любом отдельно взятом человеке. Простой пример: когда человек вопреки чувству самосохранения идет добровольцем на войну. Не важно, по какую сторону баррикад, просто идет добровольно. Война это "наличие вероятности умереть в любой миг", и все это понимают. Однако, есть люди, кто искренне идет туда, мотивируя это чем-либо, не суть чем, важен факт того, что своим действием он противоречит концепции "люди ведомы инстинктом самосохранения".
А теперь мое краткое пояснение: это возможно потому, что в отличие от животных, разумная форма жизни вольна не подчиняться инстинктам

sergey-kyiv писал(а):

Но, да, в Европе сейчас неожиданно и необъяснимо происходит много всякого плохого, что без непоощряемых теорий объяснить трудно.

Да, например, тема с мигрантами и ростом националистических настроений среди коренного населения. Тема интересная, но вот ЭТУ тему, скажем, в Евроньюс не поднимают. Вместо этой важнейшей темы обсуждают что угодно другое ) А тема про мигрантов и противостояние им, в теории, может привести к гражданской войне и росту нацизма в странах Европы.
Наверно это кому-то нужно, что много лет назад была придумана и воплотилась идея "мультикультурализма", стратегическая цель не ясна, но можно попытаться подумать над этим...

sergey-kyiv писал(а):

А подтверждённые новости о продаже 30 миллиардов снимков местности, сделанных игроками Pokemon Go, министерству войны США, не желаете прокомментировать или "это другое"?

Мне лично нравится, когда со временем подтверждается то, что ранее считалось кем-либо "конспирологией". Да, некоторые "теории" и правда глупы, но люди порой делают ошибочные выводы, что раз одна конспирология глупа и бессмысленна, то и все они глупы и бессмысленны. А вот и нет, не все.

Рявкин писал(а):

для нейросети реальность может быть и обыкновенная фантастика или сюжеты бесконечных игр ))

Правда )
Спросишь про что-либо в играх, получаешь ответ, как будто говорим о реальном мире. А что, удобно: четко и по фактам, полный разбор "по полочкам". В отличие от политики в реальном мире, где гугл не всегда дает ответ, иногда предлагает просто ссылки на сайты, по-старинке, так сказать...

Raptor303 писал(а):

В отличие от политики в реальном мире

во-во, для нейросети политика гораздо туманней (неполная база данных - причём ВСЕГДА )
чем например те же сказки или сюжеты игр - где всё разложено по полочкам и!!
и ясно кто плохой и кто хороший и что лучше делать и что делать нельзя

Добавлено спустя 6 минут 55 секунд:

а если нейросеть начнёт анализировать нашу историю...
то вот тут уж точно всё генерируется рандомно -
- при чём генерирует не ИИ - а мы, ЛЮДИ!
и мы - Люди, начинаем генерировать РАНДОМНО свою историю с самого детства ))

Рявкин писал(а):

тоесть вы со мной спорите, против моих утрированных определений, так? но сами пишите что не можете полновесно ответить на вопрос - что реально, а что нет. так вот вопрос - нейросеть кто читает? кто делает оценку её рандомной генерации? )) кто создаёт базы для неё ?

Вы пишите, что сети генерируют рандомно. Вы можете пояснить свою мысль? Что означает для вас "рандомная генерация"? Вы случайно не путаете это слово с вероятностной выборкой? Просто фраза "рандомная генерация" настолько общая, что и вы в текущей беседе под нее тоже нехило попадаете со своими терминами и выводами. (Это к вопросу о том, что такое реальность). На основе какой области знаний вы делаете свои утверждения? Или это тоже рандомный процесс, типы высосано из...? В таком случае у нейросети против вас будет порядочная фора, потому что она обучена на гораздо большем объеме данных, чем вы. И так же как вы она не ищет по базам, а использует знания для создания контекста.
Вы ведь способны отвечать на вопросы, используя предметную область? Почему у LLM это иначе то? Это к вопросу о том, что нейросети отличают, какие веса будет приоритетнее в академических вопросах, а какие в вопросах вымышленных компьютерных героев.

everyone писал(а):

Вы можете пояснить свою мысль? Что означает для вас "рандомная генерация"? Вы случайно не путаете это слово с вероятностной выборкой?

нет, не путаю )) вероятность - это наука!
а я говорю тоже про науку, но не про вероятность!
а про - так сказать генерацию случайностей
(за само понятие случайность - разговор отдельный)
но! это минимум не вероятность (понятие вероятность тоже разговор отдельный)

everyone писал(а):

В таком случае у нейросети против вас будет порядочная фора, потому что она обучена на гораздо большем объеме данных, чем вы.

дело в том - что вы себя демонстрируете неким моралистом, а не программистом ))
ИИ будет делать то - что ему пропишут !!!!!!!!
А ваши ГИПОТЕТИЧЕСКИЕ ценности,
для ИИ ни чем не отличаются от любой так называемой "фени" ))

ещё раз - если вы ИИ будете программировать только в одном векторе,
вы всегда будете в проигрыше с вашими конкурентами

Рявкин писал(а):

а про - так сказать генерацию случайностей (за само понятие случайность - разговор отдельный)

Хорошо, если говорить в таких терминах, то генерация случайностей в пределах чего? Вероятностной выборки? Это примерно как выбрать слово псевдослучайным образом из массива синонимов (ну очень грубое сравнение, конечно). Выборка подается в предметной области в рамках контекста.
Вы уже потихоньку переходите на личности, называя меня моралистом, но я не защищаю никого или ничего. Я просто говорю, что вы либо не договариваете про "случайный выбор из множества вероятностей", указывая на "рандомную генерацию" с целью искажения информации, либо не понимаете разницу.
Однако, спустя несколько постов прихожу к выводу, что вы просто хотите выдать желаемое за действительное, намеренно утрируя довольно сложные вполне научные понятия для популизма.
Мне нечего защищать и отстаиваить. Я в самом первом сообщении написал: "Ну вы прям сильно все утрировали". И все таки указал почему. Вы даже и сами согласились, что в целом мы дополнили одну и туже картинку, но вроде вы "ровнее".
Сложный математический (научный) процесс вы обернули в обертку некоего всезнающего гуру, который имеет свои намерения, цели и самоосознание, указывая, что данные будут предоставляться не прендметно, а рандомно (также не указав - по какой выборке будет производиться выбор). А теперь мы уже по серьезному перешли к отдельным беседам про случайности и вероятности. Я знаю про процедуру выравнивания весов после машинного обучения различных слоев сети. Но назвать это "ИИ будет делать то - что ему пропишут !!!!!!!!" - на каком из этапов машинного обучения? Или вы про теории заговоров вообще? Ну тут тогда я точно не силен - готов вас послушать.

Martovsky88 писал(а):

Эксперт предупредила

Обожаю желтуху, которую видно издалека даже боковым зрением!

everyone писал(а):

Хорошо, если говорить в таких терминах, то генерация случайностей в пределах чего? Вероятностной выборки?

сразу нет!
генерация случайностей это...
ну например -
- ИИ генерирует коментарий по изображению,
и случайно там в кадре пролетала муха которую никто не видел кроме ИИ ))
а ИИ это расценивает как часть контекста,
добавляет что то своё по своим алгоритмам - учитывая эту муху ))
текст получается неадекватным - и человека садят в тюрьму ))

Добавлено спустя 5 минут 31 секунду:

everyone писал(а):

Однако, спустя несколько постов прихожу к выводу, что вы просто хотите выдать желаемое за действительное, намеренно утрируя довольно сложные вполне научные понятия для популизма.

именно так должен прореагировать судья )) если он человек )))
а если он ИИ то заметит что муха была хромая!! ))

не думаю что вы поняли мой пример,
не думаю по причине ваших непонятках в рандомных генерациях ))
-----------------------------------------------------

everyone писал(а):

"ИИ будет делать то - что ему пропишут !!!!!!!!" - на каком из этапов машинного обучения?

на любом из этапов )))
вы меня провоцируете шутить над вашей компетенцией ))

Добавлено спустя 1 минуту 46 секунд:

вы знаете что такое причинно - следственная связь?
так вот нейросетка это знает лучше вас))
и ни в право, и ни влево, и даже по вашим нравственно-моральным позициям -
- нейросетка не уйдёт от того что в ней запрограммировано

Рявкин писал(а):

и случайно там в кадре пролетала муха которую никто не видел кроме ИИ )) а ИИ это расценивает как часть контекста,

В текущем контексте: если муха была, то это объективный и точный анализ, если мухи не было - это галлюцинация. Но по вашему предложению видно, что муха все же была, только ее никто не видел. Мы от технологий разве не объективности добиваемся? Чтобы без эмоций, непредвзято, точно, полновесно и все такое. Ну либо пример не очень жизненный у вас... Сами запутали и сами предположили, что я вас не понял. Ну признаюсь, на таком примере не понял и никто не поймет. Особенно про рандомную генерацию. Согласитесь, совсем другое дело, если бы мухи не было. Ну тогда можно смело предположить, что это вы не теми терминами пользуетесь и что-то там про компетентность.
Я не спорю, что у любой сети, которая так или иначе в общем доступе есть системный промпт, который не отменить и настройки, вроде температуры и top-k, top-p, штрафы, стоп-слова и прочие другие. Но как это мешает то?
Вы всю свою жизнь также обучаетесь на какой-то литературе, которая тем или иным образом подготовлена (параметризирована). У вас есть свои настройки - совесть, мораль и нравственность (ну и что-нибудь еще наверняка).

вот допустим - есть приказ - троллить рявкина. (точка)
нейросетка будет это делать разными способами ))
то втираясь к нему в доверие, то ещё чё нибудь..
алгоритмы зависят от мастерства программистов!
а сама риторика от нейросетки )) от её базы риторики троллинга ))

Рявкин писал(а):

вот допустим - есть приказ - троллить рявкина. (точка) нейросетка будет это делать разными способами )) то втираясь к нему в доверие, то ещё чё нибудь.. алгоритмы зависят от мастерства программистов! а сама риторика от нейросетки ))

Вот тут я полностью согласен, чо Но это лишь настройка модели. Это дает определенный окрас информации и частично влияет на достоверность. Все как и в жизни. Куда ценнее не то, как модель ограничена, а какое у нее контекстное окно и количество весов (и это совсем не весь список само собой). Если выкинуть облачные сервисы и получить "на руки" базу весов и интерфейс, куда их загрузить - теперь вы становитесь тем, кто настраивает модель (тот самый мастерский программист). Разве нет?

everyone
Всё! я сдаюсь на милость Победителя, ибо сегодня 14 июня!!!
- Международный банный день — неофициальный праздник,
который отмечают ежегодно 14 июня

Добавлено спустя 1 минуту 36 секунд:

Kalex
меня поймёт ))
видел его тут )))