Теория о возможности контроля слабым (ИИ в частности)
От: Shmj Ниоткуда  
Дата: 15.01.19 21:36
Оценка: :)))
Сейчас многие пишут про опасность ИИ, которого, возможно, создадут в ближайшие 50 лет. Маск, Гейтс и пр.

И вот что подумалось. Ведь можно даже в общем виде доказать, что более слабый может управлять более сильным (не важно даже о какой слабости речь — слабость физическая или интеллектуальная) при соблюдении определенных условий.

Пример с физической силой:

Два человека с одинаковым уровнем интеллекта и возможностей, но первый значительно превосходит второго по физической силе. Может ли более слабый взять под контроль более сильного?

Очевидно, что это возможно лишь при условии, что слабый посадил сильного в клетку (в том или ином виде). То есть создал условия, когда возможности сильного ограничены не силой слабого а с некими физическими законами. Процесс помещения в клетку рассматривать не будем (в примере с ИИ — он изначально возникает в "клетке"/песочнице).

Вот что позволяет слабому получить преимущество:

1. Необратимость времени. Пока бетон не застыл, слабый смог соорудить из него комнату фактически голыми руками. Когда уже застыл — разбить его голыми руками не возможно, обратить процесс не возможно. Сильный тоже знает об этом свойстве бетона — однако знания ничем не помогают — свойства то изменить нельзя.

2. Ограниченный доступ к ресурсам. Сильный сидит в клетке, в которой ничего нет. Если бы у него была болгарка — он смог бы распилить решетку. Сила не поможет — против лома нет приема. При этом у слабого есть доступ к ресурсам и если сильный начнет зубами грызть бетон — то можно будет его наказать (лишить пищи, избить и пр.).

Все! Не важно преимущество в силе — есть вещи, которые заведомо не изменяемы любой силой. В данном примере не возможно обратить время вспять или создать ресурсы из ничего.


Аналогично и управление над более сильным интеллектуально. Нужно поставить его в условия, на которые сила интеллекта повлиять не сможет.

Для примера, блокировка доступа к Интернету. Можно поставить фаявол. Но умный потенциально может найти там дыру и обойти блокировку. А можно просто не проводить кабель и не ставить WiFi-модуль. И все — даже самый сильный интеллект не сможет, скажем так, гнуть ложки силой мысли. Нет интернета — нет возможности влиять на мир. Ну и подобные условия, которые не так сложно организовать.

Вопрос мотивации — это отдельный вопрос, связанный с природой наслаждения и страдания. Пока предлагаю не затрагивать.
---
Актуальная база RSDN + Janus
Автор: Shmj
Дата: 15.04 16:31
Отредактировано 15.01.2019 21:38 Shmj . Предыдущая версия . Еще …
Отредактировано 15.01.2019 21:37 Shmj . Предыдущая версия .
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.