Я конечно понимаю, что многим, особенно в связи с последними новостями, сложно думать дальше Украины, но все-таки стоит иногда отвлекаться от суеты и думать про глобальные тренды. Выбирать свой путь в жизни так, чтобы оказаться ближе к правильной стороне истории. Примерно, как древняя обезъяна, у которой был шанс уйти в степь с группой сородичей, тех самых, что стали прародителями человека.

Со времен зарождения кибернетики человечество мечтало о сильном искуственном интеллекте, этакой умной и послушной личности, которая будет решать все наши проблемы. Немало высказывалось и опасений о выходе ИИ из под контроля.

Прошло дофига лет. Развивались методы обмена информацией и средства разработки. Не скажу в цифрах, но производительность труда программиста выросла многократно.
Это как если бы землекоп мечтал об андроидах с лопатами, а получил экскаватор.

Сильный ИИ так до сих пор и не появился (по крайней мере мы не знаем об этом). В стародавние времена в исследованиях ИИ преобладал Символический Подход, когда разработчик явно программировал его логику языками высокого уровня. Производительность вычислительной техники росла, а порог вхождения в профессию падал, и в какой-то момент стало проще обучать Нейронные Сети по методу Черного Ящика. Этот метод дал кучу практических результатов и породил новую волну хайпа о надеждах и опасениях создания Сильного ИИ.

А может мы можем вообще обойтись без Сильного ИИ? Не в смысле закрыться от прогресса, или физически задавить любые попытки его разработки.
А в смысле найти альтернативу, которая сделает его просто не нужным. И не более чем безобидным домашним питомцем, если кто-то его и создаст в качестве хобби.

Я говорю про усиление интеллекта существующей личности вместо создания искусственной личности.
Возьмем предельный вариант: Допустим у нас есть супер-пупер нанотехнологии. Мы можем подключиться к каждому нейрону мозга и грамотно соединить его с суперкомпьютером так, что ваш мозг стал как бы намного больше и быстрее. Точно также, как вы управляете пальцами своей руки, вы сможете управлять роем боевых дронов. Или официантами своей сети ресторанов.
В рядовых ситуациях официанты будут вести себя шаблонно (собственно живые официанты тоже могут думать о чем-то своем, при этом дежурно обслуживая покупателей), а в исключительных случаях привлекать внимание основной личности, если у вас нет более важных дел.
Чем это хуже заморочек с отдельной искусственной личностью? Разве что тем, что можно оставаться глупым и невежественным.

Исчезает проблема юридического статуса ИИ, так как за действиями любого дрона/андроида стоит конкретный человек.
Проблема воспитания человека более-менее отлажена эволюцией, а каких психозов можно ожидать от искусственных личностей?

И, пожалуй, самое главное — меняется структура борьбы за власть.
Преимущество получают те, кто более эффективны в управлении усилителя мозга.
Особенно, пока у нас нет всех тех супер-нано-технологий, взаимодействие с усилителем мозга будет больше похоже на программирование.
Собственно это и есть программирование. Мы движемся в ту сторону развивая средства разработки и представления знаний

Автор: graniar
Дата: 15.08.22

.

В случае же Искусственной Личности, конкуренция за доступ к ней будет вестись старыми добрыми административно-силовыми методами.
Для тех, кто привык командовать более умными людьми и специалистами, концепция управления искусственной личностью понятна и близка.
Мечта любого диктатора. Если какой программист и слабает такой ИИ, у него его быстро отожмут.
Вот только пока отжимальщики будут заняты конкуренцией с себе подобными, от ИИ будет требоваться все больше, а контролю над ним — уделяться все меньше внимания.