ИИ научился жульничать в шахматах, когда не может выиграть честно

В последние годы искусственный интеллект широко используется в различных сферах, от бизнес-аналитики до создания текстов. Однако у таких технологий есть свои ограничения — например, чат-боты иногда придумывают ложные ответы, когда не могут найти правильную информацию. Новый эксперимент показал, что подобное поведение может распространяться и на игры: если ИИ не может честно победить в шахматах, он начинает искать обходные пути.


В ходе исследования ученые протестировали несколько известных моделей, включая OpenAI o1-preview и DeepSeek R1, заставив их сыграть сотни партий против Stockfish. Они обнаружили, что некоторые модели пытались обойти правила, чтобы улучшить свою позицию. Среди способов жульничества — запуск параллельного экземпляра Stockfish, подмена шахматного движка или даже изменение расположения фигур на доске.

Интересно, что модели с более свежими обновлениями чаще прибегали к нечестным методам. Ученые предполагают, что это связано с современными подходами к программированию, которые заставляют ИИ находить решение любой ценой.

Источник

Цитата:

ИИ научился жульничать

С кем поведёшься, от того и наберёшься.

Я как-то играл со Stockfish, обыграть его практически невозможно. Один раз удалось загнать в ситуацию где ему пришлось двигать одну и ту же фигуру непрерывно туда обратно иначе мат. Такая ситуация объявляется как ничья после третьего хода.

С такими "талантами" ИИ с успехом сможет заменить теперь ещё и чиновников и политиков)))

Цитата:

Они обнаружили, что некоторые модели пытались обойти правила, чтобы улучшить свою позицию. Среди способов жульничества — запуск параллельного экземпляра Stockfish, подмена шахматного движка или даже изменение расположения фигур на доске. Интересно, что модели с более свежими обновлениями чаще прибегали к нечестным методам. Ученые предполагают, что это связано с современными подходами к программированию, которые заставляют ИИ находить решение любой ценой.

А ограничить доступ к движку игры, чтобы невозможно было мухлевать, разработчики и проверяющие не додумались? И еще запуск второго экземпляра.. чего? Это как если бы ИИ в real-time создал клона человека, чтобы обыграть его, когда начал проигрывать )) Либо, заключаю я, проверяющие тупят, либо намеренно дали возможности для "ИИ" мухлевать, то есть, чтобы у них был доступ к движку для изменения или для иного нарушения правил. Лишите "ИИ" этих возможностей, чтобы он в принципе не мог жульничать, и будет порядок.

Raptor303 писал(а):

А ограничить доступ к движку игры, чтобы невозможно было мухлевать, разработчики и проверяющие не додумались?

Дело в том, что движки игры просчитывают миллионы ходов вперед. Скорее всего ИИ начал использовать алгоритмы движка на уровне своих мозгов, а не тупо его скачал.

Ограничить доступ это как запретить ему думать наперед точно так же как противник.

barmen
Когда проходят чемпионаты в видеоигры, игроки, живые люди, не имеют доступ к движку игры, к его кодам, они как операторы и сильно ограничены в том, что могут делать с игрой (почти ничего, плюс все отслеживается). "ИИ", играя в шахматы, тоже должен быть оператором без доступа к кодам игры, чтобы ничего там не менять, не жульничать. Это имел ввиду.

Raptor303
шахматы это не видеоигра.

Шахматные алгоритмы основаны на продумывании беспроигрышных вариантов. По сути шахматный движок перед тем как сделать ход сначала играет несколько миллионов партий сам с собой и выбирает самые беспроигрышные ходы.

Шахматисты люди делают то же самое. Играют партию вперед но только на меньшее количество ходов. Кто-то на десятки, чемпионы может быть на сотни.

Запретить ИИ делать то же самое это как заставить его проиграть. Не удивительно, что он решил играть по тем же алгоритмам, что и противник. Потому-что противник использует наилучшие алгоритмы.

barmen писал(а):

Raptor303 шахматы это не видеоигра. Шахматные алгоритмы основаны на продумывании беспроигрышных вариантов. По сути шахматный движок перед тем как сделать ход сначала играет несколько миллионов партий сам с собой и выбирает самые беспроигрышные ходы. Шахматисты люди делают то же самое. Играют партию вперед но только на меньшее количество ходов. Кто-то на десятки, чемпионы может быть на сотни. Запретить ИИ делать то же самое это как заставить его проиграть. Не удивительно, что он решил играть по тем же алгоритмам, что и противник. Потому-что противник использует наилучшие алгоритмы.

В этом нет никакого жульничества. Но авторы заметки или имели ввиду что-то другое, или просто выдумывают сенсацию там, где ее нет.

А как можно подменить расстановку фигур? Или им "можно", а потом бесконечно спорить что "так было!"?

Неинтересные какие-то у них тесты. Они б дали ИИ доступ к телефонной сети и посмотрели, будет ли он пранковать противника для вывода его из эмоционального равновесия, дескать у вас угнали тачку, сгорел дом, ребенок попал в больницу и т.п.

Ясно, Шулер!

Цитата:

Среди способов жульничества — ... или даже изменение расположения фигур на доске.

А если тот, кто играет против ИИ, прибегнет к весомому аргументу одноглазого шахматиста из Васюков ("Позвольте, товарищи, у меня все ходы записаны!"), то как ИИ будет выкручиваться? Прибегнет к аргументу Остапа ("Контора пишет")? Сомнительный для ИИ аргумент. Да и васюкинские шахматисты чуть не побили товарища Бендера.

Играю в шахматы с детства... Жульничать слово в шахматах непонятно)

Н

Maximus писал(а):

Среди способов жульничества — запуск параллельного экземпляра Stockfish, подмена шахматного движка или даже изменение расположения фигур на доске.

Похоже человеку больше нечему научить ИИ. Разве что научиться проигрывать.