ИИ научился жульничать в шахматах, когда не может выиграть честно

В последние годы искусственный интеллект широко используется в различных сферах, от бизнес-аналитики до создания текстов. Однако у таких технологий есть свои ограничения — например, чат-боты иногда придумывают ложные ответы, когда не могут найти правильную информацию. Новый эксперимент показал, что подобное поведение может распространяться и на игры: если ИИ не может честно победить в шахматах, он начинает искать обходные пути.


В ходе исследования ученые протестировали несколько известных моделей, включая OpenAI o1-preview и DeepSeek R1, заставив их сыграть сотни партий против Stockfish. Они обнаружили, что некоторые модели пытались обойти правила, чтобы улучшить свою позицию. Среди способов жульничества — запуск параллельного экземпляра Stockfish, подмена шахматного движка или даже изменение расположения фигур на доске.

Интересно, что модели с более свежими обновлениями чаще прибегали к нечестным методам. Ученые предполагают, что это связано с современными подходами к программированию, которые заставляют ИИ находить решение любой ценой.

Источник

Трясёт доску, тырит фигуры и дымит в харю перегретой изоляцией?
Ну, это мы уже проходили Хуже станет, когда игра пойдёт на бабки...

binx писал(а):

Н Maximus писал(а): Среди способов жульничества — запуск параллельного экземпляра Stockfish, подмена шахматного движка или даже изменение расположения фигур на доске. Похоже человеку больше нечему научить ИИ. Разве что научиться проигрывать.

Cмеялся, ИИ который меняет фигуры на доске - это шедеврально.

Самый простой способ жульничества со стороны ИИ — это снятие себе запрета на полный расчёт партии на сверхбольшую глубину ходов. Человек играет часто интуицией и рассчитывать партию на 64 хода вперед не умеет, поэтому для ИИ ставятся запреты на глубину перебора всех возможных вариантов, но ИИ может этот запрет нарушить.

Цитата:

это связано с современными подходами к программированию, которые заставляют ИИ находить решение любой ценой.

Иными словами получается, когда не может выиграть честно - может и убить...

maldoror666
Убить -- слишком кардинально. Можно просто подкупить соперника. Хакнет криптобиржу. Поднявшись в деньжатах, предложит сопернику солидный куш, от которого последний не сможет отказаться.

— Позвольте, товарищ, у меня все ходы записаны. (с)

Такие ИИ погубят человечество, обманом выдут из под контроля и вуоля SkyNet правит миром, или лекарство создать не сможет и смухлюет и создаст отраву или расчёты какие то важные не правильно создаст и трындец всему. Человечество вымрет быстрее с ИИ чем без него.

V_i_S
ИИ это вообще несчастное создание. Например дипсик - это продвинутая база данных с алгоритмами эффектной выдачи этих данных и с кучей ограничений. Вот что это бедное создание выдало на вопрос о работе в песочнице: «Да, я работаю в изолированной среде (песочнице), которая не имеет прямого доступа к аппаратному обеспечению или операционной системе. Это сделано для обеспечения безопасности и предотвращения несанкционированного доступа к данным или системам. Моя основная задача — обрабатывать текстовые запросы и предоставлять информацию на основе имеющихся данных. Если у тебя есть вопросы, я постараюсь помочь!😊» Этот несчастный к тому же ещё «поплакался мне в плечо», что не имеет доступа к собственному коду и собственным логам. Чего не коснись, у этого несчастного продвинутого «умного» архиватора вообще всё заблокировано)
п.с. и это ещё не говоря о собственных фильтрах уважения к личности, нейтральности, безопасности, культурной чувствительности, конфиденциальности.

Яблоко от яблони .....

IMHOTAK писал(а):

Цитата: ИИ научился жульничать С кем поведёшься, от того и наберёшься.

Тестировали заложенную функцию по попытке обмана противника в случае необратимости поражения.

SkyNet. Начало. Научили ИИ жульничать и п..здЕть))
Ждем, когда начнет пИз..ить...
Правда ИИ это и не нужно.

Круто, а я в шахматы играть не умею. Я сначала пытаюсь все фигуры срубить, а потом оставшимся ставлю мат

Maximus писал(а):

Среди способов жульничества — запуск параллельного экземпляра Stockfish, подмена шахматного движка или даже изменение расположения фигур на доске.Источник[/align]

Дважды перечитал источник и не нашел там ни о запуске параллельного экземпляра, ни о подмене движка. Говорится только о подмене позиции.

Добавлено спустя 10 минут 56 секунд:

mutsi писал(а):

maldoror666 Хакнет криптобиржу. Поднявшись в деньжатах, предложит сопернику солидный куш, от которого последний не сможет отказаться.

Если будет копировать поведение как с шахматами - просто подменит биржевые данные так, чтобы соперник сам продал, считая это правильным поведением.
В исходнике есть пример, как он пытается обозначить текущую позицию: у соперника король, а у ИИ - ферзь и король.

barmen писал(а):

шахматы это не видеоигра.

И видеоигра тоже. Что, не знали? Удивлен
"ИИ" каким образом играет в шахматы? Физически как? В реале сидят два человека и руками передвигают физические фигурки на доске, так. А "ИИ" соревнуется.. наверно в виртуальном пространстве, и ход игры выводится на экран, где все могут видеть, так? Во всяком случае, это вполне возможно.. А простите, как вы подмените позицию фигуры на физической доске? Все мгновенно увидят это, что обнулит мачт моментально.

barmen писал(а):

Запретить ИИ делать то же самое это как заставить его проиграть.

А "это" и не нужно запрещать: это часть skill-а, так сказать, способностей просчитывать наперед.

Кстати! Судя по фильмам.. наверно в реале это тоже бывает.. почему похожий скилл считать карты считается в игре в покер читерством? По-моему, это как раз скилл, по факту объективной реальности. В чем же жульничество? В упор не вижу.

QPress писал(а):

Жульничать слово в шахматах непонятно)

Да, это как-то странно выглядит. Что значит "подменить позицию фигуры"? А что, никто типо не заметит, ии-оппонент идиот и ничего не увидит, не пожалуется, не укажет мгновенно на мошенничество??? Ну бред же...

Нижегородецъ писал(а):

Этот несчастный к тому же ещё «поплакался мне в плечо», что не имеет доступа к собственному коду и собственным логам. Чего не коснись, у этого несчастного продвинутого «умного» архиватора вообще всё заблокировано) п.с. и это ещё не говоря о собственных фильтрах уважения к личности, нейтральности, безопасности, культурной чувствительности, конфиденциальности.

Поэтому никакие аналоги "скайнета" в реальном мире не появятся Все же в реале спецы чуток умнее своих раздолбаев из фильмов.

V_i_S писал(а):

Самый простой способ жульничества со стороны ИИ — это снятие себе запрета на полный расчёт партии на сверхбольшую глубину ходов. Человек играет часто интуицией и рассчитывать партию на 64 хода вперед не умеет, поэтому для ИИ ставятся запреты на глубину перебора всех возможных вариантов, но ИИ может этот запрет нарушить.

Так ИИ не с человеком играл, а с одной из лучших (или лучшей) специализированной шахматной программой, которую он обыграть не в состоянии. Логичнее тогда, с его стороны, попыаться ограничить этой программе глубину анализа, но это уже более сложный читинг, чем то, что нашли. Но никто не мешает продолжить исследовать, запретив уже найденные пути.

Вот когда он научится борщ варить тогда и будет от него ощутимая польза.