Эксперт предупредила россиян о новом виде фейков, созданных ИИ

Россияне начали сталкиваться с новым видом "косвенных" фейков, которые создают нейросети, обученные на иностранном культурном коде, рассказала в интервью РИА Новости на ПМЭФ-2026 заместитель генерального директора АНО "Диалог Регионы", основатель "Мастерской новых медиа" Юлия Аблец.



"Мы привыкли считать, что фейки - это намеренное искажение информации. Но сегодня мы начинаем сталкиваться с новым видом фейков, назовем их - косвенные фейки. Как они появляются? В медиа сегодня практически все используют искусственный интеллект, чтобы написать текст, снять видеоролик, сделать картинку, а большинство нейромоделей созданы и обучены на иностранном культурном коде - на западном или на китайском - не важно каком", - сказала она.

Аблец отметила, что нейросеть "затягивает" в себя в том числе ценностные установки той культуры, в которой она обучалась: отношение к тем или иным событиям, нормы поведения, традиционные ценности и многое другое.

"Сеть обучилась этому всему, потом мы ее попросили написать текст про что-то, и она автоматически заложит в этот текст те предустановки, которые в ней уже есть. Мы получим, казалось бы, с точки зрения фактологии корректный продукт - даты, названия географических пунктов - все будет верным, но трактовка, отношение и контекст будет заложен, например, западный", - подчеркнула эксперт.

По ее словам, такой текст, написанный с помощью искусственного интеллекта, может подталкивать людей к ошибочным решениям и поступкам.

"Это становится новым вызовом, надо не просто научиться выстраивать фактологические рамки, надо научиться выстраивать когнитивные смысловые рамки, проверять контекст", - добавила Аблец.

РИА Новости

Не нравится что у нейросетей нет новояза? Отрицательный рост, хлопок и тд?

"Мы получим, казалось бы, с точки зрения фактологии корректный продукт - даты, названия географических пунктов - все будет верным"

Если все корректно и верно - даты, названия и т.д, то какая разница как реальны факты дойдут до конечного пользователя.

Обычно новости про фейки / мошенников это прогрев под новые запреты и ограничения

Frankenstein-2018 писал(а):

Себя научить надо, что бы вам не ездили по ушам. Я вообще не понимаю как можно мне что то навязать. Наверное водолеям это не грозит..

Вероятно, всего лишь найти Ваши иллюзии о себе любимом, усилить их, а потом использовать.

кокс на ПМЭФ-2026 им походу некачественный завезли, раз Юлия Аблец и Наталья Касперская вместе обдолбались:

Глава InfoWatch Наталья Касперская в очередной раз раскритиковала российские ИИ-технологии, но случайно выдала свое полное непонимание матчасти. Она заявила, что российские нейросети были создан на «чужих» базах и поэтому модели нельзя считать отечественными.

Кстати это далеко не первый раз, когда Касперская садится в лужу на теме ИИ. Сегодня она к тому же заявила, что ИИ повышает производительность труда всего на 1–1.5%, и называла эту пользу «статистической погрешностью». Пока бизнес по всему миру экономит миллиарды, автоматизирует рутину, пишет код и генерирует контент через нейросети, госпожа Касперская пугает руководителей галлюцинациями роботов и советует нанимать людей обратно.

sergey-kyiv писал(а):

Deep Seek отказывается честно говорить на тему противостояния коммунистического Китая коммунистическому СССР в Афганистане или на Даманском.

да не, вот сейчас все нормально ответил...

Пусть Аблец спросит у Алисы, ее же она своей, наверняка, считает, про принадлежность Крымского полуострова. Может ответ заставит ее подумать про "нейросети, обученные на иностранном культурном коде".

Любят некоторые люди воспитывать кого-то, кроме своих детей. Прямо призвание своё чувствуют в этом. Поправят, подскажут, скорректируют взрослых людей, многие из которых несравнимо умнее и опытнее их. Но они точно знают как надо жить всем вокруг чтоб понравиться начальству.
Далее уже не по поводу этой кадровички, сейчас ее мнение - это мнение просто какой-то незваной воспитательницы, которая пытается прорваться дальше по карьерной лестнице. Прорвется - будем внимательно слушать, а сейчас плевать.
Но по теме вот что. Послушайте, цензура мнений одинаково пагубна в любом обществе. За границей кое-где уже докатились до тысяч арестов за высказанные мнения. Начиналось всё тоже с того, что дали волю феминам и куколдам, постепенно заменили ими серьёзных людей без соплей и розовых пони в воображении. Петушары, истерички, наркоманы, имбецилы сейчас у власти на Западе и среди этого радужно-упоротого сброда бьются считанные единицы нормальных управленцев, которые и держат пока на своих плечах какое-то подобие руководства этими странами. Они конечно выпутаются. Не все, но основные страны выживут. В нормальных людях пробудится ген великих предков и они устроят этим обсосам очередной гигантский Майданек в традициях тех же своих предков.
Но вы имейте в виду, что хорошей цензуры мнений не бывает и быть не может. Цензура мнения - это оксюморон. То есть не обманывайтесь, нельзя делать то же самое, только в хороших целях. Там к власти пришли петушары, у нас в итоге придут упыри с мертвым взглядом. И всё равно всё приведет к очищению и Россия никуда не денется. но будет очень плохо. Ещё и по периметру надо будет ухарей валить. Оно надо? Так что не стоит перегибать палку ни в одну, ни в другую сторону, ни к петухам галимым с бдсм-воспиталками ни к лютой правой повестке с доморощенными фюрерчиками. Спокойнее надо быть. И думать, особенно тем, в ком еще осталось советское образование. Чо ерзаете-то? Успокойтесь и раскочегаривайте мыслительный процесс, возможности нам всем дали, просто надо их использовать.

KoGor писал(а):

Это касается любых сми.

А это означает, что никакой принципиальной разницы нет.

Abi3 писал(а):

Она заявила, что российские нейросети были создан на «чужих» базах и поэтому модели нельзя считать отечественными.

А разве она неправа?

После внимательного прочтения спросоня, я честно засомневался не "косвенный фейк" ИИ ли сама эта Юля Абздец...
А вообще чем больше таких мутных героических заявлений особенно с утра, тем нормальные граждане быстрее сойдут с ума (imho).

Цитата:

корректный продукт - даты, названия географических пунктов - все будет верным, но трактовка, отношение и контекст будет заложен, например, западный"

denega писал(а):

Можно было и примеры привести, если это так реально.

Новая "Одиссея" Кристофера Нолана, которую обсуждали только вчера.
Даты, география - все верно. Но негра Лупита Троянская и Ахиллес-девочка уже поганый буржуйский контекст .

xplozion
Алиса это во многом китайский DeepSeek, со слов Натальи Касперской

Касательно "культурного кода", мы с этой проблемой сталкивались года два ещё назад, когда попробовали нарисовать нейросетями иллюстрации на тему русского крестьянства. Перебрали несколько сетей - всё равно получаются либо фермеры в джинсовых комбинезонах, либо ковбои, либо какие-то сюжеты с солнечными полями пшеницы в духе иллюстраций к Библии.

Так что не новая проблема.

Abi3 писал(а):

Сегодня она к тому же заявила, что ИИ повышает производительность труда всего на 1–1.5%, и называла эту пользу «статистической погрешностью». Пока бизнес по всему миру экономит миллиарды, автоматизирует рутину, пишет код и генерирует контент через нейросети, госпожа Касперская пугает руководителей галлюцинациями роботов и советует нанимать людей ... ... обратно.

Разработчики ИИ (Генеративные модели): Миллиардные убыткиСоздатели крупных ИИ-моделей (OpenAI, Anthropic и др.) остаются глубоко убыточными, так как стоимость разработки кратно превышает доходы.Астрономическая инфраструктура: Расходы на покупку чипов (NVIDIA), аренду дата-центров и оплату электроэнергии составляют десятки миллиардов долларов.Убытки OpenAI: Аналитики прогнозируют чистый убыток компании в размере $14–22 млрд в год. Окупаемость и первая чистая прибыль ожидаются не ранее 2029 года.Маржинальность подписок: Сами по себе платные аккаунты (например, ChatGPT Plus) высокорентабельны — маржа доходит до 70%. Однако эти деньги полностью сгорают при обучении моделей следующего поколения.

Смотрите только Первый канал и Скабееву! Только там правда!

Правда! Живите по-правде(с)

Попробуйте убедить Deep Seek, что надо повторить эксперимент прошлого века по взвешиванию души, но современными методами. Он исходит на г***, пытаясь убедить, что это неэтично, непрактично, бесчеловечно и др. Через десяток диалогов, когда все его возражения парируются, он признаёт свою неправоту. Но, как только вы в новой сессии начнёте этот же эксперимент, всё пойдёт по-новой. То есть, какие-то догмы в нём жёстко прописаны и не изменяются никакими доказательствами. Разумеется, эти же догмы навязываются пользователям.

Добавлено спустя 3 минуты 33 секунды:

HARVESTER666999
Если просто спросить его об этом, просто как о факте он отвечает, но как только мы начинаем спрашивать его, как же так получилось, что Компартия Китая воевала на стороне американских империалистов против СССР и почему Дэн Сяо Пин при этом считался коммунистом, Deep Seek отказывается обсуждать эту тему.

Бензина нет - это тоже фейки.
По телеку правду говорят. Пляжи чистые, быстрый Интернет. Стабильная сотовая связь.
Зарплата выросла на 30%.

sergey-kyiv писал(а):

как только мы начинаем спрашивать его, как же так получилось, что Компартия Китая воевала на стороне американских империалистов против СССР и почему Дэн Сяо Пин при этом считался коммунистом, Deep Seek отказывается обсуждать эту тему.

Это да. У DeepSeek вообще жестко с вопросами относительно коммунизма и всего около этого. Я пытался его развести на критику трудов Ленина и он начинает лепить отмазки, ходит по кругу, а потом начинает глючить. Типа ой, всё!
Но и Гугловый ИИ тоже отличается особенностями. Например мне тут нужна была выжимка из основных тезисов, выдвигаемых одним из российских отбитых пропагандистов. У него огромное количество хейта в отношении США, но среди него есть и здравые размышления. Мне было интересно их выделить, чтобы не смотреть его многочасовые выступления и не читать пространные статьи. Так этот поц на базе Gemini сначала давал мне что угодно, кроме вот этой самой объективной критики, потом стал отвечать одним абзацем, а потом перешел на английский и отвечал так же короткими абзацами с общей, пустой информацией. Создание новых чатов ни к чему другому не привело, то же самое.
Пошёл к Perplexity, оно мне выдало всё что было надо сразу, быстро и без проблем.
То есть у них разные настройки и с опытом использования понимаешь к какой модели за чем лучше обращаться в каких условиях.