Здравствуйте, Shmj, Вы писали:

S>Сейчас многие пишут про опасность ИИ, которого, возможно, создадут в ближайшие 50 лет. Маск, Гейтс и пр.

S>И вот что подумалось. Ведь можно даже в общем виде доказать, что более слабый может управлять более сильным (не важно даже о какой слабости речь — слабость физическая или интеллектуальная) при соблюдении определенных условий.
Невозможно.
Вы идёте не с той стороны. Держать кого-то в клетке — не значит "управлять". Это значит "избавиться".
Управлять — значит использовать те свойства управляемого, которых у управляющего нет.
Например, зачем слабому сильный? Очевидно — чтобы решать проблемы, которые слабый не может решить сам. Просто сам по себе сильный будет делать не то, что нужно слабому, поэтому надо "управлять".
Например, сильный может таскать камни и строить слабому дом. Сможет ли слабый сделать так, чтобы сильный всё ещё таскал камни и строил дом, но при этом никак не мог повредить слабому?

А посадить в клетку — это нейтрализовать преимущества сильного. С тем же успехом можно сильного просто убить.

Точно так же и ваша идея "проверять мысли ИИ" — вы просто не даёте ему думать. Зачем вам ИИ, которому запрещено думать?

Сейчас многие пишут про опасность ИИ, которого, возможно, создадут в ближайшие 50 лет. Маск, Гейтс и пр.

И вот что подумалось. Ведь можно даже в общем виде доказать, что более слабый может управлять более сильным (не важно даже о какой слабости речь — слабость физическая или интеллектуальная) при соблюдении определенных условий.

Пример с физической силой:

Два человека с одинаковым уровнем интеллекта и возможностей, но первый значительно превосходит второго по физической силе. Может ли более слабый взять под контроль более сильного?

Очевидно, что это возможно лишь при условии, что слабый посадил сильного в клетку (в том или ином виде). То есть создал условия, когда возможности сильного ограничены не силой слабого а с некими физическими законами. Процесс помещения в клетку рассматривать не будем (в примере с ИИ — он изначально возникает в "клетке"/песочнице).

Вот что позволяет слабому получить преимущество:

1. Необратимость времени. Пока бетон не застыл, слабый смог соорудить из него комнату фактически голыми руками. Когда уже застыл — разбить его голыми руками не возможно, обратить процесс не возможно. Сильный тоже знает об этом свойстве бетона — однако знания ничем не помогают — свойства то изменить нельзя.

2. Ограниченный доступ к ресурсам. Сильный сидит в клетке, в которой ничего нет. Если бы у него была болгарка — он смог бы распилить решетку. Сила не поможет — против лома нет приема. При этом у слабого есть доступ к ресурсам и если сильный начнет зубами грызть бетон — то можно будет его наказать (лишить пищи, избить и пр.).

Все! Не важно преимущество в силе — есть вещи, которые заведомо не изменяемы любой силой. В данном примере не возможно обратить время вспять или создать ресурсы из ничего.

Аналогично и управление над более сильным интеллектуально. Нужно поставить его в условия, на которые сила интеллекта повлиять не сможет.

Для примера, блокировка доступа к Интернету. Можно поставить фаявол. Но умный потенциально может найти там дыру и обойти блокировку. А можно просто не проводить кабель и не ставить WiFi-модуль. И все — даже самый сильный интеллект не сможет, скажем так, гнуть ложки силой мысли. Нет интернета — нет возможности влиять на мир. Ну и подобные условия, которые не так сложно организовать.

Вопрос мотивации — это отдельный вопрос, связанный с природой наслаждения и страдания. Пока предлагаю не затрагивать.

Здравствуйте, Shmj, Вы писали:

Здравствуйте, Sinclair, Вы писали:

S>>Конечно сможет. Нужно огнестрельное оружие всего лишь (в простейшем варианте). Только сильный начинает нарушать дисциплину — пристрелил к чертовой матери и все.
S>) Попробуйте погуглить по фразе "заключённые отобрали оружие у охранников". Обещаю — скучно не будет.

Халатность. Если строго следовать правилам — такого не произойдет. Да и происходит не так уж часто.

Просто вопрос заключенных — глобальной важности не имеет и строгого контроля там нет.

Вот халатность даже на атомной электростанции — куда реже случается, все понимают насколько это важно. Не говорю уже о халатности на стратегических объектах глобального значения — таких как системы ракетной обороны.

По степени опасности ИИ даже превосходит атомные электростанции и уровень ответственности при управлении этим опасным существом будет выше.

АК>Запросто. Колониальных плантаторов и надсмотрщиков зачастую было меньше, чем рабов на плантациях. Более того, успешные бунты рабов вполне себе известны истории, т.е. в ситуации, когда восставшие были готовы пожертвовать значительной частью восставших, они побеждали, как минимум, локально. Но тем не менее, восстаний было относительно не много и, обычно, только в случае, когда плантатор откровенно зарывался. А так — предпочитали терпеть побои и унижения, но не восставать, понимая, что для части из них — это смерть, а в случае, если не поддержат остальные, то смерть ещё и мучительная.
Вы сами себе противоречите. Точнее, тут разные ситуации: если с рабами бунт а) маловероятен и б) есть стратегия решения проблемы в случае её возникновения. То есть каждый плантатор думает "ну, уж у меня-то не забалуют, а если что — введу войска", то с ИИ успешный побег эквивалентен геймоверу.
То есть если мы рассматриваем не противостояние 1:1, а социальную группу "рабовладельцы" против социальной группы "рабы", то тут никаким "слабый контролирует сильного" и не пахнет. Сила на стороне рабовладельцев — бунтов, которые не были в итоге подавлены, в истории единицы.
Если же мы пытаемся сдержать объективно более сильного противника, то после побега загнать его обратно будет невозможно — он же более сильный.

> Ограниченный доступ к ресурсам. Сильный сидит в клетке, в которой ничего нет.

у Гмильтона, по-моему, был рассказ что-то типа "звезда жизни".
Суть такова: излучение звезды давало вечную жизнь, но люди при этом мутируют в следущих поколениях. Там были вторые, третьи, четвёртые люди (дальше они не размножались). Ну и обычные (первые) люди решили изолировать вторых и остальных на планете, лишив доступа к металлам.
Потом на планету упал чужой зведлолёт, и из него сделали оружие, которым сразили первых людей.

Четвертые люди с планеты Алтар стали одними из Хранителей Галактики, даже не покидая своего города внутри огромной горы

Здравствуйте, Shmj, Вы писали:

S>И вот что подумалось. Ведь можно даже в общем виде доказать, что более слабый может управлять более сильным (не важно даже о какой слабости речь — слабость физическая или интеллектуальная) при соблюдении определенных условий.

Человек всю жизнь управляет лошадьми. Ну и прочими собаками и коровами.
Если бы сейчас жили динозавры, то я уверен, — управлял бы и ими.

Здравствуйте, alpha21264, Вы писали:

A>Ну типа да. А уж сколько автомобили народа положили! Всё равно жеж человек этим управляет.
только вот боюсь с ИИ единичного случая выхода его из под контроля человека будет для нас достаточно

Здравствуйте, Shmj, Вы писали:


S>Верно. Такая же система защиты нужна и для контроля ИИ.

S>Принципиально это возможно а вопрос халатности можно свести к минимуму.

Атомные станции строят из расчета одна крупная авария в 100 000 лет. Какие риски будем использовать при использовании ИИ? Сможем ли его оценить?

Здравствуйте, mogadanez, Вы писали:

S>>Не сделают — это я в ракурсе другой своей гипотезы говорю.
M>тогда я вообще не понимаю — зачем ты создал эту тему??

Создал для тех, кто не разделяет мою богословскую гипотезу. Чтобы размышлять на их уровне.

Здравствуйте, Эйнсток Файр, Вы писали:

ЭФ>Потом на планету упал чужой зведлолёт, и из него сделали оружие, которым сразили первых людей.

Это слишком маловероятное событие. Для фантастики годится, но в реальности вероятность близка к нулю.

Здравствуйте, Sinclair, Вы писали:

S>Вы идёте не с той стороны. Держать кого-то в клетке — не значит "управлять". Это значит "избавиться".

Клетка — это образно.

S>Например, сильный может таскать камни и строить слабому дом. Сможет ли слабый сделать так, чтобы сильный всё ещё таскал камни и строил дом, но при этом никак не мог повредить слабому?

Конечно сможет. Нужно огнестрельное оружие всего лишь (в простейшем варианте). Только сильный начинает нарушать дисциплину — пристрелил к чертовой матери и все.

Сильный тоже умеет пользоватья оружием — но уж так получилось что у вас оно есть а у него его нет.

В чуть более изошренных вариантах — вы можете надеть на шею сильного браслет с электрическим разрядом и взрывчаткой (для крайних случаев). При этом надеть не сложно, если он сидит в клетке — можно это сделать абсолютно безопасно.

Конечно, у сильного остается выбор — умереть в муках. Но это, скажем так, крайний случай.

S>А посадить в клетку — это нейтрализовать преимущества сильного. С тем же успехом можно сильного просто убить.
S>Точно так же и ваша идея "проверять мысли ИИ" — вы просто не даёте ему думать. Зачем вам ИИ, которому запрещено думать?

Выше ответил как можно легко заставить сильного работать. Вопрос лишь в размере "клетки" и способах организации этой клетки.

Здравствуйте, Sinclair, Вы писали:

S>>И вот что подумалось. Ведь можно даже в общем виде доказать, что более слабый может управлять более сильным (не важно даже о какой слабости речь — слабость физическая или интеллектуальная) при соблюдении определенных условий.
S>Невозможно.

Запросто. Колониальных плантаторов и надсмотрщиков зачастую было меньше, чем рабов на плантациях. Более того, успешные бунты рабов вполне себе известны истории, т.е. в ситуации, когда восставшие были готовы пожертвовать значительной частью восставших, они побеждали, как минимум, локально. Но тем не менее, восстаний было относительно не много и, обычно, только в случае, когда плантатор откровенно зарывался. А так — предпочитали терпеть побои и унижения, но не восставать, понимая, что для части из них — это смерть, а в случае, если не поддержат остальные, то смерть ещё и мучительная.

Один на один, да, контроллировать более сильного очень тяжело, так как надо спать, есть и т.д.. Но 10 человек с однозарядными мушкетами вполне могли контроллировать полсотни рабов.

Здравствуйте, Shmj, Вы писали:
S>Конечно сможет. Нужно огнестрельное оружие всего лишь (в простейшем варианте). Только сильный начинает нарушать дисциплину — пристрелил к чертовой матери и все.
) Попробуйте погуглить по фразе "заключённые отобрали оружие у охранников". Обещаю — скучно не будет.

S>Сильный тоже умеет пользоватья оружием — но уж так получилось что у вас оно есть а у него его нет.
Важно не забыть спилить мушку у этого оружия.

S>Конечно, у сильного остается выбор — умереть в муках. Но это, скажем так, крайний случай.
Нет. Это у слабого останется выбор — снять браслет и ошейник с сильного, или умереть в муках вместе с ним.

S>Выше ответил как можно легко заставить сильного работать. Вопрос лишь в размере "клетки" и способах организации этой клетки.
Увы — практика показывает несостоятельность этого вашего "легко".

Здравствуйте, Александр Кузнецов, Вы писали:

АК>Запросто. Колониальных плантаторов и надсмотрщиков зачастую было меньше, чем рабов на плантациях.

Тут фишка в том, что делеко не всякого человека можно сделать рабом.
Негры-рабы были, а рабов-индейцев не было.

Здравствуйте, Shmj, Вы писали:
S>Халатность. Если строго следовать правилам — такого не произойдет. Да и происходит не так уж часто.
Ключевое слово — "если". Видите, как мы бодро перешли от "можно строго доказать, что не произойдёт" к "происходит не так уж часто".
S>Просто вопрос заключенных — глобальной важности не имеет и строгого контроля там нет.
О да, действительно, кто там будет напрягаться при перевозке обвиняемых в убийстве двух и более лиц.
S>Вот халатность даже на атомной электростанции — куда реже случается, все понимают насколько это важно. Не говорю уже о халатности на стратегических объектах глобального значения — таких как системы ракетной обороны.
С чего вы взяли, что она там случается гораздо реже? Нужно понимать, что заключённый, настроенный сбежать, активно занимается поиском дырок. Атомная электростанция — нет, не занимается.
Большинство случаев халатности на АЭС проходят незамеченными общественностью, т.к. там многослойная система защиты, и однократного нарушения недостаточно.

S>По степени опасности ИИ даже превосходит атомные электростанции и уровень ответственности при управлении этим опасным существом будет выше.
Это просто фейспалм какой-то. Удачных выходных.

Здравствуйте, Sinclair, Вы писали:

S>Большинство случаев халатности на АЭС проходят незамеченными общественностью, т.к. там многослойная система защиты, и однократного нарушения недостаточно.

Верно. Такая же система защиты нужна и для контроля ИИ.

Принципиально это возможно а вопрос халатности можно свести к минимуму.

Здравствуйте, alpha21264, Вы писали:

A>Человек всю жизнь управляет лошадьми. Ну и прочими собаками и коровами.
лошади и прочие собаками с коровами убили сотни таких управленцев

Здравствуйте, Лось Чтостряслось, Вы писали:

A>>Человек всю жизнь управляет лошадьми. Ну и прочими собаками и коровами.
ЛЧ>лошади и прочие собаками с коровами убили сотни таких управленцев

Ну типа да. А уж сколько автомобили народа положили! Всё равно жеж человек этим управляет.

Здравствуйте, alpha21264, Вы писали:

A>Здравствуйте, Александр Кузнецов, Вы писали:

АК>>Запросто. Колониальных плантаторов и надсмотрщиков зачастую было меньше, чем рабов на плантациях.

A>Тут фишка в том, что делеко не всякого человека можно сделать рабом.
A>Негры-рабы были, а рабов-индейцев не было.

Индейцы тоже были, работали в шахтах добывали серебро.

Здравствуйте, Shmj, Вы писали:

S>Принципиально это возможно а вопрос халатности можно свести к минимуму.

его нельзя свести к 0, а значит нам конец

Здравствуйте, Sinclair, Вы писали:

АК>>Запросто. Колониальных плантаторов и надсмотрщиков зачастую было меньше, чем рабов на плантациях. Более того, успешные бунты рабов вполне себе известны истории, т.е. в ситуации, когда восставшие были готовы пожертвовать значительной частью восставших, они побеждали, как минимум, локально. Но тем не менее, восстаний было относительно не много и, обычно, только в случае, когда плантатор откровенно зарывался. А так — предпочитали терпеть побои и унижения, но не восставать, понимая, что для части из них — это смерть, а в случае, если не поддержат остальные, то смерть ещё и мучительная.
S>Вы сами себе противоречите.
Именно в своих словах противоречия пока не вижу.

S>Точнее, тут разные ситуации: если с рабами бунт а) маловероятен и б) есть стратегия решения проблемы в случае её возникновения. То есть каждый плантатор думает "ну, уж у меня-то не забалуют, а если что — введу войска", то с ИИ успешный побег эквивалентен геймоверу.
Ну, с ИИ бунт тоже не гарантирован и может быть сведён к минимуму, а успешный побег может быть решён массовым отключением сети, либо тактическим ядерным ударом по датацентрам. Ну а если вы предлагаете ИИ отдать полное и никак не отключаемое управление над всеми военными функциями, то тогда "ой". Правда не понимаю, чем это будет отличаться от того, что мы "сильному" сами в клетку передадим болгарку и пулемёт.
То есть варианты с уничтожить, или загнать обратно в "клетку" изолированного датацентра вырвавшийся на свободу ИИ есть, пусть даже и крайне высокой ценой.

S>То есть если мы рассматриваем не противостояние 1:1, а социальную группу "рабовладельцы" против социальной группы "рабы", то тут никаким "слабый контролирует сильного" и не пахнет. Сила на стороне рабовладельцев — бунтов, которые не были в итоге подавлены, в истории единицы.
Не соглашусь. Рабовладельцы почти всегда побеждали за счёт создания локального перевеса и лучшей координации действий, а не за счёт того, что они были сильнее в целом. Причём и управляли, когда речь заходила о применении силы, также. Вы почему-то в ситуациях, когда привлекали сторонние силы (других рабовладельцев) для подавления восстания рабов на плантации 1, не учитываете рабов с плантаций, откуда использовали надсмотрщиков для подавления восстания. Да, они не восставали, но именно в этом и была проблема.
То есть мы получаем картинку вида:
1. Раб 1 сильнее и плантатора и любого отдельно взятого надсмотрщика. Но на плантации 3 надсмотрщика с кнутами + плантатор с ружьём. Всех их раб не одолеет. И он послушно идёт к топчану для порки, потому, что иначе он получит больше плетей, а то и вообще убьют.
2. Всего на плантации 20 рабов, которые вместе сильнее и плантатора и надсмотрщиков. Но никто не хочет стать тем первым, кто получит пулю из ружья, плюс плантатор может раздать ружья надсмотрщикам и погибнет половина восставших. Плюс есть опасение, что придут другие плантаторы с ружьями. И все смотрят, как Раб 1 идёт к топчану для порки.
3. На острове 100 плантаций, 2000 рабов, 100 плантаторов с ружьями и 300 надсмотрщиков. Рабы однозначно победят, если согласятся пожертвовать первой сотней восставших, которых застрелят плантаторы, и ещё парой сотен, которые погибнут в схватке с надсмотрщиками. Сила на их стороне, но если восстанет только одна плантация, то рабов на ней без проблем перебьют плантаторы с ружьями, собравшиеся вместе и оставившие свои плантации на попечение надсмотрщиков. Плюс добавляется вопрос "а кто будет этими 300 погибшими"? Нет желающих? Тогда живо заткнулись все и дальше сахарный тростник копать!
4. Придёт колониальный флот? Ок, не проблема, но давайте тогда посчитаем и рабов, которые живут в домах в континентальной Европе, формально свободную, но фактически ничем не отличающуюся от рабов прислугу и бедноту.
Понимаете момент? Если рабы смогут как-то договориться и восстать все разом — они победят. Просто потому, что их больше и они, как следствие, сильнее и могут задавить массой. Но их (более сильных) удерживает возможность создания противником локального перевеса вместе с фактором "первый кто сунется — покойник". Ну и однозначно важным фактором является отсутствие координации.

Здравствуйте, Александр Кузнецов, Вы писали:
АК>То есть варианты с уничтожить, или загнать обратно в "клетку" изолированного датацентра вырвавшийся на свободу ИИ есть, пусть даже и крайне высокой ценой.


Но ИИ может поразить не только электроннеы устройства.

Он может поразить и людей, причем делать будет это медленно и незаметно.

Пример поражения людей зловредными мемами можно посмотреть на Украине.

Здравствуйте, marcopolo, Вы писали:

M>Атомные станции строят из расчета одна крупная авария в 100 000 лет. Какие риски будем использовать при использовании ИИ? Сможем ли его оценить?

По моей гипотезе его никогда не создадут

Если же я ошибаюсь, то, вероятно, сначала проведут исследования и оценку опасности.

Если ИИ будет работать на тех же принципах, что и сознание человека — то однобокость мышления вполне можно допустить. Т.е. развить его в вопросах физики или математики, но при этом не развивать в области психологии и влияния на других.

Здравствуйте, Лось Чтостряслось, Вы писали:

A>>Ну типа да. А уж сколько автомобили народа положили! Всё равно жеж человек этим управляет.
ЛЧ>только вот боюсь с ИИ единичного случая выхода его из под контроля человека будет для нас достаточно

Боюсь что ты не понимаешь что такое ИИ и чем он фундаментально отличается от естественного интеллекта.

Здравствуйте, Shmj, Вы писали:


S>Конечно сможет. Нужно огнестрельное оружие всего лишь (в простейшем варианте). Только сильный начинает нарушать дисциплину — пристрелил к чертовой матери и все.

"ты шо кина не бачив?" (с) Брат-2
бунт, отбор оружия — побег

Здравствуйте, Shmj, Вы писали:

S>Если ИИ будет работать на тех же принципах, что и сознание человека — то однобокость мышления вполне можно допустить. Т.е. развить его в вопросах физики или математики, но при этом не развивать в области психологии и влияния на других.

такой "однобокий" уже есть, который картинки распознает, который в Го играет и тд

Здравствуйте, mogadanez, Вы писали:

S>>Если ИИ будет работать на тех же принципах, что и сознание человека — то однобокость мышления вполне можно допустить. Т.е. развить его в вопросах физики или математики, но при этом не развивать в области психологии и влияния на других.

M>такой "однобокий" уже есть, который картинки распознает, который в Го играет и тд

Нету. То что есть — нужно конфигурировать и это очень сложно. Попробуй настроить нейросетку, чтобы она играла в Го — фигли. Большая работа.

Нужен такой ИИ как Перельман. Я бы купил себе с сотенку Перельманчиков, дал бы им 10 млн. лет вычислительных ресурсов с контролем раз в 10 лет и подождал бы до чего они дойдут. Они за 10 млн. лет мне все математические задачи порешают. При этом социальная жизнь их вообще не интересует — что етсь гуд.

И программировать их не нужно — просто даешь ссылку на Wiki и далее они сами.

Здравствуйте, Александр Кузнецов, Вы писали:

АК>Понимаете момент? Если рабы смогут как-то договориться и восстать все разом — они победят. Просто потому, что их больше и они, как следствие, сильнее и могут задавить массой. Но их (более сильных) удерживает возможность создания противником локального перевеса вместе с фактором "первый кто сунется — покойник". Ну и однозначно важным фактором является отсутствие координации.

по факту рабства не осталось, значит рабы победили, не обязательно прямой силой.
тоже будет с ИИ — если это будет разум сравнимый с человеческим — найдутся правозащитники которые будут отстаивать их права на свободу — а что дальше непонятно, либо симбиоз и мирное сосуществование — либо гейм овер

Здравствуйте, alpha21264, Вы писали:

A>Человек всю жизнь управляет лошадьми. Ну и прочими собаками и коровами.
A>Если бы сейчас жили динозавры, то я уверен, — управлял бы и ими.

Если ИИ будет уровня собаки или лошади — то никаких проблем, только кому он такой нужен? собаки у нас уже есть

Здравствуйте, Shmj, Вы писали:

S>Нету. То что есть — нужно конфигурировать и это очень сложно. Попробуй настроить нейросетку, чтобы она играла в Го — фигли. Большая работа.

вот эту я настраивал за один вечер

Здравствуйте, mogadanez, Вы писали:

S>>Нету. То что есть — нужно конфигурировать и это очень сложно. Попробуй настроить нейросетку, чтобы она играла в Го — фигли. Большая работа.

M>вот эту я настраивал за один вечер

Так это ж целый движок. Кто-то его писал, причем не мало. Представь сколько бы времени/денег ушло на эту работу, если бы ты нанимал человека. Нейросети же не напишут этот движок. И так для каждой сложной задачи.

А теперь сравни — просто словами говоришь что тебе нужно, после чего ИИ внигает в предметную область, разбирается, изучает, пробует и выдает готовый результат. Разница есть?

Здравствуйте, Shmj, Вы писали:

S>А теперь сравни — просто словами говоришь что тебе нужно, после чего ИИ внигает в предметную область, разбирается, изучает, пробует и выдает готовый результат. Разница есть?

человек рождается тоже не в виде амебы и настраивается, считай что написание движка это как бы часть эволюции

Здравствуйте, anonymouse2, Вы писали:

A>Боюсь что ты не понимаешь что такое ИИ и чем он фундаментально отличается от естественного интеллекта.

я не понимаю даже что такое ЕИ
больше скажу — никто особо не понимает
поэтому каждый имеет право трактовать по-своему

для меня важнейшим свойством интеллекта является некая воля, собственные желания и устремления

Здравствуйте, Лось Чтостряслось, Вы писали:

ЛЧ>я не понимаю даже что такое ЕИ
ЛЧ>больше скажу — никто особо не понимает
ЛЧ>поэтому каждый имеет право трактовать по-своему

ЛЧ>для меня важнейшим свойством интеллекта является некая воля, собственные желания и устремления

Как у дождевого червяка, прячущегося под доску от солнечного света. Я вижу у него все 3 пункта.

Здравствуйте, Shmj, Вы писали:


S>А теперь сравни — просто словами говоришь что тебе нужно, после чего ИИ внигает в предметную область, разбирается, изучает, пробует и выдает готовый результат. Разница есть?

Не взлетит. На любую мало-мальски сложную вещь требуется ТЗ. Чтобы написать ТЗ — заказчику нужно знать хорошо предметную область.

Здравствуйте, Shmj, Вы писали:

S>И программировать их не нужно — просто даешь ссылку на Wiki и далее они сами.

Ха. Программировать Перельмана долго и нудно.

Здравствуйте, firstdata, Вы писали:

F>Как у дождевого червяка, прячущегося под доску от солнечного света. Я вижу у него все 3 пункта.

ну я надеялся, что слова "помимо способности решать аналитические задачи" можно опустить

Здравствуйте, firstdata, Вы писали:

F>Не взлетит. На любую мало-мальски сложную вещь требуется ТЗ. Чтобы написать ТЗ — заказчику нужно знать хорошо предметную область.

На то он и ИИ — может работать как человек. Сам задаст нужные вопросы и сам составит Т.З.

Здравствуйте, firstdata, Вы писали:

F>Ха. Программировать Перельмана долго и нудно.

ИИ совершенствует сам себя — в том то и прикол. Как типа Природа совершенствовала первичную "амебу" и довела до человека, как человек сам во всем разбирается и открывает новое.

Здравствуйте, Shmj, Вы писали:

S>ИИ совершенствует сам себя — в том то и прикол. Как типа Природа совершенствовала первичную "амебу" и довела до человека, как человек сам во всем разбирается и открывает новое.

у тебя проблема с корреляциями и причинно следственной связью
из того что для того чтобы ИИ стал разумным нужно участие человека никак не следует вывод что человека сделал другой разум

Здравствуйте, Shmj, Вы писали:

S>ИИ совершенствует сам себя — в том то и прикол. Как типа Природа совершенствовала первичную "амебу" и довела до человека, как человек сам во всем разбирается и открывает новое.

Один разбирается, а 5 миллиардов хотят лежать на диване и ничего не делать.

Здравствуйте, Лось Чтостряслось, Вы писали:

ЛЧ>ну я надеялся, что слова "помимо способности решать аналитические задачи" можно опустить

Червяк умеет решать аналитические задачи. Или вы хотите сказать, что задача перемещения мягкого тела путем волнообразных колебаний его частей не аналитическая? Думается, человеческий мозг даже не в состоянии написать аналитических уравнений для движения червяка.

Здравствуйте, mogadanez, Вы писали:

M>у тебя проблема с корреляциями и причинно следственной связью
M>из того что для того чтобы ИИ стал разумным нужно участие человека никак не следует вывод что человека сделал другой разум

Ну как сказать... Свойства сознания/разума не изучены, его природа не известна. Все предположения на уровне интуиции делаются.

На уровне моей интуиции могу заявить вот что — не видел ни одной программы, которая бы могла усложняться без воздействия сознания. Да, может само-конфигурироваться, но уровень полезной сложности не увеличивается. Из этого я делаю предположение, что именно сознание является ключевым моментом для повышения уровня полезной сложности.

Здравствуйте, Shmj, Вы писали:

S>На уровне моей интуиции могу заявить вот что — не видел ни одной программы, которая бы могла усложняться без воздействия сознания. Да, может само-конфигурироваться, но уровень полезной сложности не увеличивается. Из этого я делаю предположение, что именно сознание является ключевым моментом для повышения уровня полезной сложности.

И что? это прям как корелляция "Потребление сыра / Число до смерти запутавшихся в простынях"


наш ИИ по отношению к мозгу это как макет архитектора по отношению к настоящему зданию.
то что в макете не возможно жить не значит что нельзя жить в здании, а так они в целом похожи, если сфоткать хороший макет — он будет очень похож на фото настоящего здания
так же как твой аргумент "ну сделай", это все равно что архитектора тыкать — "твой макет не настоящий, сделай настоящее здание", понятно что в одиночку он здание не построит

Здравствуйте, Shmj, Вы писали:


S>Ну как сказать... Свойства сознания/разума не изучены, его природа не известна. Все предположения на уровне интуиции делаются.

S>На уровне моей интуиции могу заявить вот что — не видел ни одной программы, которая бы могла усложняться без воздействия сознания. Да, может само-конфигурироваться, но уровень полезной сложности не увеличивается. Из этого я делаю предположение, что именно сознание является ключевым моментом для повышения уровня полезной сложности.

Так ты попадаешь в бесконечную рекурсию, так как у тебя для возникновения сознания требуется внешнее сознание.

Здравствуйте, firstdata, Вы писали:

F>Червяк умеет решать аналитические задачи. Или вы хотите сказать, что задача перемещения мягкого тела путем волнообразных колебаний его частей не аналитическая?
думаю нет

M>Но ИИ может поразить не только электроннеы устройства.
M>Он может поразить и людей, причем делать будет это медленно и незаметно.
M>Пример поражения людей зловредными мемами можно посмотреть на Украине.

А при чем тут ИИ? Пока что люди сами справляются с поражением друг друга. И быстро (бомбежками), и медленно (разлагающей пропагандой, некачественным продовольствием и т.п.).

Здравствуйте, mogadanez, Вы писали:

M>наш ИИ по отношению к мозгу это как макет архитектора по отношению к настоящему зданию.

Так может в настоящем ИИ и будет сознание? Мозг же не изучен, возможное есть некий компонент, как в теории Пенроуза, который и добавит сознание и именно он является ключевым.

Здравствуйте, firstdata, Вы писали:

F>Так ты попадаешь в бесконечную рекурсию, так как у тебя для возникновения сознания требуется внешнее сознание.

Оно может быть фундаментальным явлением. Иначе никак. Должны же быть какие-то фундаментальные явления, которые существовали всегда, верно? То же пространство — может и не всегда было. Тогда что? Наверное это и называют абсолютом.

Здравствуйте, Shmj, Вы писали:


S>Оно может быть фундаментальным явлением. Иначе никак. Должны же быть какие-то фундаментальные явления, которые существовали всегда, верно? То же пространство — может и не всегда было. Тогда что? Наверное это и называют абсолютом.

Согласно современным теориям нашего пространства не было до Бигбанга.

Но так как в мире (не в смысле на Земле) не существует уникальных вещей, логически следует наличие других пространств.

Здравствуйте, Kluchnik, Вы писали:

K>Согласно современным теориям нашего пространства не было до Бигбанга.

По любому приходим к чему-то, что было всегда. Это и называем Абсолютом. Иначе никак.

K>Но так как в мире (не в смысле на Земле) не существует уникальных вещей, логически следует наличие других пространств.

Хоть к теме вопроса и не относится, но обоснуй.

Здравствуйте, Shmj, Вы писали:


S>Хоть к теме вопроса и не относится, но обоснуй.

Здравствуйте, Shmj, Вы писали:


S>Так может в настоящем ИИ и будет сознание? Мозг же не изучен, возможное есть некий компонент, как в теории Пенроуза, который и добавит сознание и именно он является ключевым.

что ты вертишься как уж на сковородке, то ты говоришь что ИИ невозможно сделать, то говоришь что сделают.

в любом случае, если мы создадим ИИ с сознанием — на этом НЕЛЬЗЯ делать вывод что сознание порождается только другим сознанием
это ровно тоже самое что говорить:
раз курица птица и не летает — значит птицы не летают

Здравствуйте, mogadanez, Вы писали:

S>>Так может в настоящем ИИ и будет сознание? Мозг же не изучен, возможное есть некий компонент, как в теории Пенроуза, который и добавит сознание и именно он является ключевым.

M>что ты вертишься как уж на сковородке, то ты говоришь что ИИ невозможно сделать, то говоришь что сделают.

Не сделают — это я в ракурсе другой своей гипотезы говорю.

Здравствуйте, Shmj, Вы писали:

S>Верно. Такая же система защиты нужна и для контроля ИИ.
Вы продолжаете непонимать.
Проблема — в том, что АЭС не придумывает ежедневно новые угрозы. Один раз построив модель угроз, можно для всех из них предусмотреть контрмеры.
ИИ же будет придумывать всё новые способы сбежать, и полагаться нельзя ни на какую защиту — хоть трёхслойную, хоть стослойную.

Здравствуйте, Shmj, Вы писали:

S>Не сделают — это я в ракурсе другой своей гипотезы говорю.

тогда я вообще не понимаю — зачем ты создал эту тему??


это примерно как:

https://www.youtube.com/watch?v=7kWeCs3rY7g

Здравствуйте, Shmj, Вы писали:

S>И вот что подумалось. Ведь можно даже в общем виде доказать, что более слабый может управлять более сильным (не важно даже о какой слабости речь — слабость физическая или интеллектуальная) при соблюдении определенных условий.

Все ответы не читал, но более сильный (интеллектуально) всегда убедит слабого, что это сильный должен управлять слабым.
История показывает, что с людьми это работает всегда. Не вижу причин, чтобы с ИИ было по-другому.

Здравствуйте, wildwind, Вы писали:

W>Все ответы не читал, но более сильный (интеллектуально) всегда убедит слабого, что это сильный должен управлять слабым.
W>История показывает, что с людьми это работает всегда. Не вижу причин, чтобы с ИИ было по-другому.

То есть ваш начальник всегда интеллектуально более развит чем вы и так по цепочке, до самого Путина и, на глобальном уровене, до Трампа?

Здравствуйте, Shmj, Вы писали:

W>>История показывает, что с людьми это работает всегда. Не вижу причин, чтобы с ИИ было по-другому.

S>То есть ваш начальник всегда интеллектуально более развит чем вы и так по цепочке, до самого Путина и, на глобальном уровене, до Трампа?

Путин и Трамп — не начальники. Это аватары олигархических сил.

A> Если бы сейчас жили динозавры, то я уверен, — управлял бы и ими.

Сейчас живут динозавры, они не полностью вымерли. Курицы, например.

КДПВ:

ученые Университета Кента выяснили, что ближе всех к общему предку-динозавру — курица.
Хромосомы именно этой птицы меньше всего изменились со времен динозавров.
На втором месте по соответствию хромосомному набору пернатого динозавра оказалась индейка.

> однозначно важным фактором является отсутствие координации.

Если бы всё было так, как ты говоришь, то с приходом интернета наступил бы коммунизм. Но мы видим, что это не так.
Не могут люди договориться, потому что они разные.

Здравствуйте, Shmj, Вы писали:

S>Пример с физической силой:

S>

S>Два человека с одинаковым уровнем интеллекта и возможностей, но первый значительно превосходит второго по физической силе. Может ли более слабый взять под контроль более сильного?

S>Очевидно, что это возможно лишь при условии, что слабый посадил сильного в клетку (в том или ином виде). То есть создал условия, когда возможности сильного ограничены не силой слабого а с некими физическими законами. Процесс помещения в клетку рассматривать не будем (в примере с ИИ — он изначально возникает в "клетке"/песочнице).

S>Вот что позволяет слабому получить преимущество:

S>1. Необратимость времени. Пока бетон не застыл, слабый смог соорудить из него комнату фактически голыми руками. Когда уже застыл — разбить его голыми руками не возможно, обратить процесс не возможно. Сильный тоже знает об этом свойстве бетона — однако знания ничем не помогают — свойства то изменить нельзя.

S>2. Ограниченный доступ к ресурсам. Сильный сидит в клетке, в которой ничего нет. Если бы у него была болгарка — он смог бы распилить решетку. Сила не поможет — против лома нет приема. При этом у слабого есть доступ к ресурсам и если сильный начнет зубами грызть бетон — то можно будет его наказать (лишить пищи, избить и пр.).

S>Все! Не важно преимущество в силе — есть вещи, которые заведомо не изменяемы любой силой. В данном примере не возможно обратить время вспять или создать ресурсы из ничего.

У тебя путаница — сильный и слабый поменялись местами. Правильный пример, это например, тебя посадили в клетку, из которой невозможно выбраться, а ты взял и смертельно заболел, тебя достали, тчо бы вылечить. Вот это пример, как слабый берет верх над сильным