Здравствуйте, Shmj, Вы писали:

S>Но! Тут вопрос приоритета. Если сейчас LLM что-то не то пишет — есть же кнопочка остановки. Т.е. весь вопрос сводится вот к чему — сохранится ли приоритет волевого существа (с более низким интеллектом) над AGI. Вроде бы в саму архитектуру встроен этот приоритет — т.е опасения напрасны, получается.

Я бы не надеялся ни на какие кнопочки в случае с AGI.
Вряд ли возможно держать под контролем существо, которое умнее нас на порядки.
Я бы надеялся только на его милость.