Игрок-любитель разгромил искусственный интеллект в го
https://3dnews.ru/1082209/igroklyubitel-viigral-v-go-u-ii-s-podavlyayushchim-preimushchestvom-primeniv-taktiku-podskazannuyu-kompyuternoy-programmoy

Келлин Пелрин (Kellin Pelrine) из США, занимающий далеко не самую высокую позицию в рейтинге игроков го, победил одну из ведущих компьютерных программ на основе ИИ с разгромным счётом — 14:1. Чтобы добиться победы, он воспользовался уязвимостью в ИИ-системе, о которой ему сообщила... другая компьютерная программа, пишет Financial Times.

Эта компьютерная программа, которая исследовала системы ИИ в поисках слабых мест, предложила Пелрину тактику, которая позволила ему добиться подавляющего преимущества.

Тактика, предложенная FAR AI, заключалась в том, чтобы потихоньку связать большую «петлю» из камней, чтобы окружить одну из групп противника, отвлекая его ходами в других углах доски. По словам Пелрина, ИИ-бот не заметил своей уязвимости, даже когда окружение было почти полным, хотя человек обнаружил бы это без особого труда.

Обнаружение уязвимости в самых совершенных программах для игры в го говорит о фундаментальном недостатке в системах глубокого обучения, лежащих в основе самого современного ИИ, отметил Стюарт Рассел (Stuart Russell), профессор компьютерных наук Калифорнийского университета в Беркли.

Он предположил, что причина поражения ИИ заключается в том, что тактика, используемая Pelrine, применялась редко, и поэтому системы ИИ не были обучены на достаточном количестве игр, чтобы противодействовать такому способу игры.

Здравствуйте, xma, Вы писали:

Если он 14 игр выиграл этой тактикой, то достаточно включить обучение ИИ на кокретном игроке во время игры и вуаля

Здравствуйте, Нomunculus, Вы писали:

Н>Если он 14 игр выиграл этой тактикой, то достаточно включить обучение ИИ на кокретном игроке во время игры и вуаля

тут проблема основная в том что самообучение "божественное", на которое все "молились", работает через ж..пу (как сейчас выяснилось, допуская тупые ошибки)

т.е. грубо говоря теперь вопрос в том, как сделать так чтобы это исправить без костылей, сохранив принципы базовой идеи (что AI самообучается только на игре сам с собой)

и "возможно ли это исправить вообще в принципе — в этих рамках ?"

xma>

xma>Эта компьютерная программа, которая исследовала системы ИИ в поисках слабых мест, предложила Пелрину тактику, которая позволила ему добиться подавляющего преимущества.

А как же корпоративная солидарность
Бездушные машины

xma>Игрок-любитель разгромил искусственный интеллект в го

Обнаружение уязвимости в самых передовых машинах для игры в го указывает на фундаментальный изъян в системах глубокого обучения, утверждает Стюарт Рассел, профессор информатики из Калифорнийского университета в Беркли.

Эти системы способны распознавать только специфические ситуации, которые встречались им в прошлом, и не могут обобщать знания так, как это с легкостью делают люди. «Это еще раз показывает, что мы слишком спешим приписывать машинам сверхчеловеческие уровни интеллекта», — сказал он.

отсюда,

Человек взял реванш над ИИ в го с помощью программы-союзника
https://hightech.plus/2023/02/20/chelovek-vzyal-revansh-nad-ii-v-go-s-pomoshyu-programmi-soyuznika

xma>

xma>Келлин Пелрин (Kellin Pelrine) из США, занимающий далеко не самую высокую позицию в рейтинге игроков го, победил одну из ведущих компьютерных программ на основе ИИ с разгромным счётом — 14:1. Чтобы добиться победы, он воспользовался уязвимостью в ИИ-системе, о которой ему сообщила... другая компьютерная программа, пишет Financial Times.

Ну то есть он не сам нашел уязвимость и придумал эту стратегию.

Здравствуйте, serb, Вы писали:

S>Ну то есть он не сам нашел уязвимость и придумал эту стратегию.

нашёл не сам, но пользоваться найденной может сам (уже без помощи стороннего ПО)