Здесь рассказываются разные интересные факты, например такой: раньше считалось, что люди, находящиеся в состоянии комы, не обладают сознанием, а теперь с помощью МРТ научились вступать с ними в "диалог", и поняли что сознание у них скорее есть.
Автор говорит много того, что я давно пишу здесь, например то что разработчики нейросетей сами толком не понимают, как те работают.
К сожалению, Шеварнадзе не спросила его ни про квалиа, ни про секс-роботов.
Я вначале не мог решить, сделать этот пост здесь или в СВ, но думаю можно всё-таки тут, поскольку в этом видео всё академично и научно: рассказывает Антон Кузнецов, сотрудник Центра исследования сознания при философском факультете МГУ и автор подкаста «Неискусственный интеллект».
"Ты должен сделать добро из зла, потому что его больше не из чего сделать". АБ Стругацкие.
Это как-то не соответствует духу времени. Актуален и интересен другой вопрос: что думает ИИ о природе сознания философа? И вообще, о философии в целом, является ли философия жиробесием псевдо-интеллектуальной элиты, или же это двигатель человечества?
Здравствуйте, Khimik, Вы писали:
K>Автор говорит много того, что я давно пишу здесь, например то что разработчики нейросетей сами толком не понимают, как те работают.
Есть в ИИ направление explainable AI же. Так что неумение ИИ объяснять свою работу — это скорее следствие издержек бурного развития области, экономии сил и времени на том, что не критически важно для решения целевой задачи (скажем, зачем нам нужно объяснение того, как ИИ генерит картинки), а не принципиальный недостаток. Со временем там, где нужно, ИИ заставят объяснять свою работу. Например, в юриспруденции, или в доказательстве теорем (в последнем кстати это уже давным-давно есть).
Здравствуйте, Khimik, Вы писали:
K>Автор говорит много того, что я давно пишу здесь, например то что разработчики нейросетей сами толком не понимают, как те работают.
А я постоянно говорю, что это не верно. Как работают нейросети авторы понимают. За что конкретно отвечает каждый нейрон — ну, нет, даже с визуализациями, потому что в современных нейросетях уже сотни миллиардов параметров. Сложность нейросетей не в закономерностях, а в размерах и трудности экспериментов. Обучение ChatGPT — это миллиард долларов буквально, просто поддержание работы — миллионы.
Здравствуйте, gyraboo, Вы писали:
G>Есть в ИИ направление explainable AI же
Кроме этого правильного направления развивается ещё дебажное, когда можно на довольно высоком уровне в конкретной обычной нейросети посмотреть, что именно привело её к такому ответу. Например — lime
Начиная с того, что уже давно ученые договорились, что считать сознанием и определили критерии наличия сознания.
По этим критериям некоторые приматы обладают зачатками сознания.
Интеллект не может иметь сознания, это сознание может обладать интеллектом. А может и не обладать.
В этом видео философ коснулся темы определения сознания, мог бы развить тему до создания ИС, или даже порассуждать какой могла быть архитектура ИС. Но идеи ИИ затмили людям горизонт.
Здравствуйте, namespace, Вы писали:
N>В этом видео философ коснулся темы определения сознания, мог бы развить тему до создания ИС, или даже порассуждать какой могла быть архитектура ИС. Но идеи ИИ затмили людям горизонт.
Архитектура ИС? Давайте вопрос вам — обязательно ли ИС должно ощущать наслаждение и страдание?
Разве хоть какие-то гипотезы или намеки на архитектуру ИС есть?
Похоже вы не понимаете куда нос сунули. У науки нет ни одной гипотезы и даже каких-либо намеков на архитектуру сознания. Вас обманывали.
Здравствуйте, gyraboo, Вы писали:
G>Есть в ИИ направление explainable AI же.
Почитал статью в Википедии, точнее её автоперевод*, и запомнился такой момент: тут вроде написано, что методы машинного обучения делятся на black-box и white-box. Выходит, что и с нейросетями возможен понятный, объяснимый ИИ? Я думал, что белый ящик — это только когда обычный кодер пишет программу на Delphi. Надо будет спросить это в профильном разделе.
*Я нахожу эти статьи в автопереводе так — набираю в Яндексе, например, "объяснимый искусственный интеллект википедия", он мне показывает ссылку на translated.turbopages.org, и я до сих пор не знаю — можно эту ссылку размещать на форумах, или она содержит что-то лишнее/личное?
"Ты должен сделать добро из зла, потому что его больше не из чего сделать". АБ Стругацкие.
