Pause Giant AI Experiments: An Open Letter
Хабр: Бенгио, Маск и Возняк призвали приостановить обучение систем ИИ мощнее GPT-4
Некоммерческая организация Future of Life опубликовала письмо, в котором глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта призвали «немедленно приостановить» обучение систем ИИ, «более мощных, чем GPT-4».
В письме говорится, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества». В нём содержится призыв к лабораториям приостановить обучение на шесть месяцев.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски будут управляемыми», — подчёркивают авторы письма.
В целом я к подобным письмам отношусь скептически, но тут достаточно известные люди подписались под ним. Думаю, заслуживает внимания.
| Батлерианский джихад |
| Батлерианский джихад — «крестовый поход» против компьютеров, мыслящих машин и наделённых разумом роботов. Два века хаоса. В результате был свергнут бог машинного разума и поднята новая концепция: «Человек не может быть заменён». |
| |