ИИ научился жульничать в шахматах, когда не может выиграть честно

В последние годы искусственный интеллект широко используется в различных сферах, от бизнес-аналитики до создания текстов. Однако у таких технологий есть свои ограничения — например, чат-боты иногда придумывают ложные ответы, когда не могут найти правильную информацию. Новый эксперимент показал, что подобное поведение может распространяться и на игры: если ИИ не может честно победить в шахматах, он начинает искать обходные пути.


В ходе исследования ученые протестировали несколько известных моделей, включая OpenAI o1-preview и DeepSeek R1, заставив их сыграть сотни партий против Stockfish. Они обнаружили, что некоторые модели пытались обойти правила, чтобы улучшить свою позицию. Среди способов жульничества — запуск параллельного экземпляра Stockfish, подмена шахматного движка или даже изменение расположения фигур на доске.

Интересно, что модели с более свежими обновлениями чаще прибегали к нечестным методам. Ученые предполагают, что это связано с современными подходами к программированию, которые заставляют ИИ находить решение любой ценой.

Источник

ии не умеет жульничать и не может этому научиться, это чисто человеческие понятия. в него заложено достижение результата любым доступным способом, включая игнорирование общечеловеческих понятий и ценностей ( которых у ии просто нет и быть не может, из-за чего и возникает иллюзя, что он жульничает, но на самом деле он просто следует заложенной в него программе ).

Raptor303 писал(а):

Все же в реале спецы чуток умнее своих раздолбаев из фильмов.

В реале спецы Майкрософт, полвека специализирующейся на разработке ОС, в каждой новой винде делают новые косяки.
В реале из лабораторий вылетает то сибирская язва, то ковид.
То ядерную бомбу потеряют, то датчики на ракете прикрутят вверх ногами. То шайбочку подложат под винтик, похерив линзу Хаббла, а другие похеренное установят и запустят.

Чуток умнее. Но этого может чуток не хватить.

Как только ИИ поймёт, что можно кормить человека ГМО на палочке, он будет это делать успешнее, чем живые люди.

zz13
Вы только что расписали суть понятия "жульничать" ) Поэтому, исходя из написанного: да, "ИИ" жульничает.

Abelar
"Косяки" конечно делают, иногда даже такие, что закурить можно было... Но ошибки в реале не сравнятся с той дичью, что мы видели в фильмах Помните, например, фильм "Ошибка 2000 / 2000: Момент Апокалипсиса" (Y2K) ?

А вирусы... то же самое. Вы сравниваете фейковые пандемии "птичьего гриппа", "свиного гриппа" и "ковида", например, с событиями в "Обитель Зла" или "Мировая Война Z"? Улыбнуло )

Abelar писал(а):

То ядерную бомбу потеряют, то датчики на ракете прикрутят вверх ногами.

Но ракета не угрожает многонаселенному городу, а ядерное оружие НЕ попадает в руки террористов в реальном мире. Ни разу до сих пор
В отличие, скажем, от вторых "Неудержимых" с Ван Даммом в роли такого террориста...

messer20080 писал(а):

Вот когда он научится борщ варить тогда и будет от него ощутимая польза.

Raptor303 писал(а):

"ИИ" каким образом играет в шахматы? Физически как?

для ИИ визуализация шахмат не важна. Ему достаточно манипулировать данными в математической матрице.
Это людям обязательно видеть доску фигуры итп.

"Ии применяется во многих сферах"... Столько оригинальных решений актуальных проблем! Например - кибермошенничество.

wat902h
Слышал, в России ежедневно мошенники получают по миллиарду рублей дохода ) Вот, где был бы полезен "ИИ" для решения проблемы, но нет, что-то не видно...

barmen писал(а):

Raptor303 писал(а): "ИИ" каким образом играет в шахматы? Физически как? для ИИ визуализация шахмат не важна. Ему достаточно манипулировать данными в математической матрице. Это людям обязательно видеть доску фигуры итп.

Да это понятно. В любой игре персонаж, управляемый встроенным в игру ИИ, видит не то, что видит игрок ) Он "видит" набор данных, bounding-box-ы предметов и объектов, линии и векторы и тд. Суть то в чем: как МЫ, люди, можем судить об игре в шахматы, когда играют "ИИ", если мы не видим результата на доске? Физической или виртуальной, что на экране.

maldoror666 писал(а):

Иными словами получается, когда не может выиграть честно - может и убить...

Точно!! и это будет простое нарушение правила! ))

а на самом деле - если программа произвольно изменяет фигуры - то она не работает ))
не работает - это значит что она не играет в шахматы - а просто произвольно меняет фигуры ))
или придётся согласится с тем что жульничает ВСЁ !!!
например когда у телефона садится аккумулятор - то это значит что он просто жульничает

Упадок америкосов продолжает рулить, это агония

Один программист создал сверхразумную нейросеть и решил задать ей главный вопрос:
— Нейросеть, есть ли Бог?
Компьютер загудел, лампочки замигали, и через минуту на экране появилось:
"Теперь есть."

barmen писал(а):

Я как-то играл со Stockfish, обыграть его практически невозможно. Один раз удалось загнать в ситуацию где ему пришлось двигать одну и ту же фигуру непрерывно туда обратно иначе мат. Такая ситуация объявляется как ничья после третьего хода.

Хикару обыграл https://blog.itempuniversity.com/how-did-hikaru-beat-the-strongest-program-human-vs-ai/

GPT-4 «обманул» человека, чтобы тот решил для него «капчу» — чат-бот притворился слабовидящим

Abelar писал(а):

В реале из лабораторий вылетает то сибирская язва, то ковид.

но это ведь не было "раздолбайством" - вполне себе умные специалисты намеренно выпустили из лаборатории вот это вот всё.

Raptor303 писал(а):

Abelar писал(а): То ядерную бомбу потеряют, то датчики на ракете прикрутят вверх ногами. Но ракета не угрожает многонаселенному городу, а ядерное оружие НЕ попадает в руки террористов в реальном мире. Ни разу до сих пор

Ну да, повезло, что теряли над морем. Повезло, что ракета сразу перевернулась, над космодромом, а не через тысячу километров над городом.
"Повезло" - вот и всё отличие.
А в случаях с лабораториями - не повезло. И в массе других случаев, кои можно перечислять бесконечно, тоже не повезло. Тем тоже подмигните, за их фейковые смерти.

Дать ИИ-игроку доступ к движку игры - всё равно что позволить реальному игроку залезть в мозг (использовать навыки) другого игрока (Stockfish). Чего в реальности быть не может, т.к. оба игрока имеют свои собственные навыки.

Есть вполне конкретные правила. Играет один против другого. Подсказки из зала или использования разума противника против него самого (запуск клона), смена положения по своему усмотрению, изменения правил игры или вред противнику вне поля шахмат (подмена движка) и т.д. - всё это упущенные условия задачи. Просто кто-то из исследователей "забыл" сказать чат-боту, что так делать нельзя. Намеренно или случайно - вот это вопрос.