Маск и прочие про опасность ИИ - хайп или нет? - Образование и наука

Здравствуйте, vsb, Вы писали:

vsb>Я думаю, что GPT-4 уже обладает тем, что можно назвать сознанием.

Или такое мнение от разработчика из Фейсбука:

Чтобы немного поубавить хайп, вот вам наброс. Со слов самой GPT-4, она обладает рядом недостатков, делающих ее не прорывной, а проходной технологией:

1. Ограниченное понимание: GPT-4, как и другие модели, основанные на языке, не обладает истинным пониманием языка или контекста. Они обучены на основе статистических закономерностей и корреляций в данных, но не могут осмыслить предложения и понятия так, как делают люди.

2. Завышенные ожидания: Многие СМИ и блогеры могут представлять GPT-4 как "революцию" или "прорыв" в области искусственного интеллекта, что может привести к нереалистичным ожиданиям относительно его возможностей. Это может привести к разочарованию, когда модель не оправдывает надежды.

3. Ограничения в области творчества: GPT-4, хотя и способна генерировать тексты, изображения и музыку, в конечном итоге зависит от обучающих данных, собранных от людей. Оно не способно создавать истинно оригинальное искусство или идеи, что ограничивает его применимость в творческих областях.

4. Зависимость от больших объемов данных: GPT-4 требует огромного количества данных для обучения, что может вызывать проблемы в эффективности и воздействии на окружающую среду.

5. Дорогостоящее обучение и использование: Обучение и эксплуатация модели GPT-4 требует значительных вычислительных ресурсов, что делает их дорогостоящими и менее доступными для многих пользователей.

6. Непостоянство результатов: Искусственный интеллект GPT-4 может быть непредсказуемым, порождая качественно разные результаты при разных запросах или даже с небольшими изменениями ввода.

7. Сложность контроля: Ограничение и регулирование вывода GPT-4 может быть сложным процессом, поскольку модель может генерировать нецензурные, оскорбительные или нежелательные результаты, что требует дополнительных усилий для модерации и контроля.

8. Отсутствие интерпретируемости: Работа GPT-4 может быть сложна для понимания, поскольку модель имеет множество слоев и параметров, что затрудняет объяснение ее поведения.

9. Неполнота знаний: Обучение GPT-4 заканчивается на определенной дате, и модель не может учесть новые события или информацию, появившуюся после этого срока.

10. Ошибки и неточности: GPT-4 может давать неверные или неточные ответы, поскольку оно опирается на статистические закономерности, а не на глубокое понимание.

11. Зависимость от качества данных: Эффективность GPT-4 напрямую связана с качеством и объемом предоставленных обучающих данных, что может ограничивать его применимость в некоторых областях.

12. Склонность к усилению предубеждений: GPT-4 может усиливать существующие предубеждения и стереотипы, присутствующие в обучающих данных, что может привести к нежелательным результатам.

13. Отсутствие эмоционального интеллекта: GPT-4 не способно понимать или отражать эмоции, что ограничивает его способность к эффективному взаимодействию с людьми.

14. Безопасность данных: Использование GPT-4 может представлять риски для безопасности и конфиденциальности данных, особенно при обработке чувствительной информации.

15. Проблемы с авторским правом: GPT-4 может генерировать контент, который может нарушать авторские права или создавать юридические проблемы для пользователей.

GPT-4 — это только одна из многих ступеней в развитии AI. В будущем вероятно появятся более продвинутые и эффективные модели, которые могут заменить GPT-4, делая ее менее актуальной.

Если уж айтишники, которые в силу свое профессии должны были бы понимать как работает нейронка и что она из себя представляет, уже пару месяцев тут продолжают писать этот бред про думающий AI и как скоро он заменит нас всех — неудивительно что обычный народ действительно решил что создали почти скайнет, который скоро нас уничтожит
Непонятно даже вообще почему термин AI стали применять к нейронкам, видимо хотели раскрутить хайп, что собственно и получили

Здравствуйте, Shmj, Вы писали:

S>Ну вы то проверяли в действии? Почему вы считаете, что оно не думает? Я не говорю идеально на высочайшем уровне — но на уровне троечника средней школы, скажем так, вполне себе.

Я работал в компании, где нейронки применялись в определённых задачах вместо обычной алгоритмики, выхлоп околонулевой для реальных задач, при том что над нейронкой работала целая команда датасаентистов.
Из общеизвестных проблем можно еще вспомнить косяки самоуправляемых машин, типа когда она Луну воспринимала как жёлтый сигнал светофора и отказывалась ехать
Я пока что вообще не вижу как эти нейронка могут мне помочь в разработке кода, gpt4 уже скоро подключат к VS, и там предполагается возможность некоторого роста производительности возможно за счет автоматического генерирования кода по каким то словестным запросам. Но у меня время на само написание кода это несколько процентов от общего времени, остальное — это думать как должно работать

Здравствуйте, Shmj, Вы писали:

S>Ну вы то проверяли в действии? Почему вы считаете, что оно не думает? Я не говорю идеально на высочайшем уровне — но на уровне троечника средней школы, скажем так, вполне себе.

Блин, что значит "проверяли в действии"? Тут всё прозрачно: статья опубликована, есть код, аналоги, можно обучать самому. Ну, всё известно про эту нейросеть, нет там мыслей, а лишь заучивание статистического распределения слов.
Читал Дэвида Дойча? Он ратует за понимание и объяснение, а всё что сейчас могут дать нейросети — это инструментальные подходы, которые не могут дать новые объяснительные теории. Успехи нейросетей в генерации, поиске конфигураций белков и т.д. — это умение не находить новые закономерности, а аппроксимировать существующие данные. Где-то в каких-то точках таких аппроксимаций могут попадаться жемчужины результатов, но не знаний или объяснений. Это на текущий момент удел людей.

S>Потому что мозг человека тоже построен по принципу нейросетей и как-то это позволяет думать или типа того.

А крылья птиц построены по принципу крыльев самолёта, а это как-то помогает летать или типа того.

Здравствуйте, Nnova, Вы писали:

N>Я работал в компании, где нейронки применялись в определённых задачах вместо обычной алгоритмики, выхлоп околонулевой для реальных задач, при том что над нейронкой работала целая команда датасаентистов.

Вы трансформеры применяли? Успех был достигнут при использовании трансформеров — видимо нащупали что-то близкое к устройству мозга.

N>Я пока что вообще не вижу как эти нейронка могут мне помочь в разработке кода, gpt4 уже скоро подключат к VS

Некоторые задачи, как то перевод из одного ЯП на другой — норм.

Но дело не в этом.

Вы говорите что она не умеет думать. А критерии какие? Поговорите с простыми людьми, которые работают на тракторе всю жизнь, к примеру. Попробуйте позадавать им те же вопросы и сравните с ответами GPT.

Если не отгребете по голове, то поймете что GPT мыслит как минимум не хуже, скажем мягко. Только она не упорствует, когда укажешь на ошибки — а тракториста попробуй еще убеди.

Здравствуйте, Nuzhny, Вы писали:

N>Блин, что значит "проверяли в действии"? Тут всё прозрачно: статья опубликована, есть код, аналоги, можно обучать самому. Ну, всё известно про эту нейросеть, нет там мыслей, а лишь заучивание статистического распределения слов.

И как это позволяет сети обосновывать ход своих мыслей при решении логических задач?

Видимо возникает эмерджентный эффект, который как бы не возможно понять ввиду того, что проявляется только на огромных масштабах, на масштабах, которые не поддаются анализу.

N>Успехи нейросетей в генерации, поиске конфигураций белков и т.д. — это умение не находить новые закономерности, а аппроксимировать существующие данные. Где-то в каких-то точках таких аппроксимаций могут попадаться жемчужины результатов, но не знаний или объяснений.

Но оно объясняет. И объясняет вполне внятно. Как?

Возможно что человек тоже не способен находить новые закономерности — просто что-то подглядел случайно, что-то случайно нагенерил — и оно подошло как пазл в сройную систему его нейронных связей.

S>>Потому что мозг человека тоже построен по принципу нейросетей и как-то это позволяет думать или типа того.
N>А крылья птиц построены по принципу крыльев самолёта, а это как-то помогает летать или типа того.

Ну да.

Здравствуйте, smeeld, Вы писали:

S>Интеллект-это когда он начнет находить причины по следствиям. А учитель тут будет закрепляющим звеном, если будет. В идеале и учителя быть не должно, система должна сама критически оценить верность своих выводов.

В такой формулировке, у примерно 99% людей интеллекта нет.

Здравствуйте, Nuzhny, Вы писали:

N>Чтобы немного поубавить хайп, вот вам наброс. Со слов самой GPT-4, она обладает рядом недостатков, делающих ее не прорывной, а проходной технологией:

Моё мнение такое.

Да, суть технологии это попугай, запомнивший все книги.

Но вот с определённого размера такие сети, например, научились подозрительно хорошо считать. Рост был нелинейный. До какого-то момента они просто повторяли то, что встречали в обучающих материалах и в основном лажали на том, что в обучающих материалах не встречали. А когда размер модели перевалил за 10^10, то получился абсолютно нелинейный скачок. Когда модель таки вывела закономерности и стала их успешно применять для незнакомых примеров.

Любые сравнения LLM и людей считаю не имеющими смысла. Это очевидно, что LLM работает не так, как мозг человека. Но не очевидно, что это плохой или тупиковый путь. Автомобиль тоже не работает так, как ноги человека. Это не мешает ему быть намного лучше для передвижения. Так и тут. GPT4 уже демонстрирует совсем неочевидные свойства. Та же способность к вычислениям. Или эмоции. Или умение рисовать. Какие ещё свойства вылезут при дальнейшем росте модели? По-моему никто не знает.

Здравствуйте, Shmj, Вы писали:

S>Вы трансформеры применяли? Успех был достигнут при использовании трансформеров — видимо нащупали что-то близкое к устройству мозга.
Не знаю, я не датасаентист, подскажи про трансформеров Маску, что бы его тесла в следующий раз на луну на тупила

S>Вы говорите что она не умеет думать. А критерии какие? Поговорите с простыми людьми, которые работают на тракторе всю жизнь, к примеру. Попробуйте позадавать им те же вопросы и сравните с ответами GPT.

S>Если не отгребете по голове, то поймете что GPT мыслит как минимум не хуже, скажем мягко.

Это ты вот про это?

Здравствуйте, Shmj, Вы писали:

S>Ваше мнение.

Пока все развивается на понимаемом уровне, предсказуемо (хоть и все более качественно) работающие генеративные сети. Так что да, хайп.
Как будет в будущем — хз.

Здравствуйте, Nnova, Вы писали:

S>>Вы трансформеры применяли? Успех был достигнут при использовании трансформеров — видимо нащупали что-то близкое к устройству мозга.
N>Не знаю, я не датасаентист, подскажи про трансформеров Маску, что бы его тесла в следующий раз на луну на тупила

S>>Вы говорите что она не умеет думать. А критерии какие? Поговорите с простыми людьми, которые работают на тракторе всю жизнь, к примеру. Попробуйте позадавать им те же вопросы и сравните с ответами GPT.

S>>Если не отгребете по голове, то поймете что GPT мыслит как минимум не хуже, скажем мягко.

N>Это ты вот про это?
N>Image: 1252110_original.jpg

https://rsdn.org/forum/humour/8496980.1

Здравствуйте, vsb, Вы писали:

vsb>Да, суть технологии это попугай, запомнивший все книги.

vsb>Но вот с определённого размера такие сети, например, научились подозрительно хорошо считать. Рост был нелинейный.

Вот, кстати, с детьми ведь то же самое. Сначала просто попугай и вроде бы оно не способно выдать больше, чем в него вложено. А потом уже не понимаешь откуда что берётся, причём нелинейно, в точности как вы сказали.

Здравствуйте, Shmj, Вы писали:

S>И как это позволяет сети обосновывать ход своих мыслей при решении логических задач?

Никак — оно выучило способ вывода простых вещей.

S>Видимо возникает эмерджентный эффект, который как бы не возможно понять ввиду того, что проявляется только на огромных масштабах, на масштабах, которые не поддаются анализу.

Эффект возникает, но он не принципиально иной, а всё тот же самый. Например, сеть начинает разбираться даже в цветах, хотя никогда их не видела. Недавно было интервью от создателя одного из говорит, что эмбеддинги похожих цветов стоят друг другу ближе, чем непохожих. Типа, благодаря огромному датасету складывается картина мира, близкая к тому, что есть на самом деле. Но эта картина мира всё равно чисто статистическая.

S>Но оно объясняет. И объясняет вполне внятно. Как?

Её учили внятно объяснять! поэтому она внятно объясняет, как, например, отрезать человеку голову. Оно внятно и складно объяснит тебе несуществующие вещи, придумает книги и героев. Потому что расстояние между эмбеддингами, соответствующих слов (не понятий, а слов!) окажутся близкими друг к другу.

S>>>Потому что мозг человека тоже построен по принципу нейросетей и как-то это позволяет думать или типа того.
N>>А крылья птиц построены по принципу крыльев самолёта, а это как-то помогает летать или типа того.
S>Ну да.

Блин, это был сарказм, ты же не отличаешь причины от следствия. Но и сарказма, видимо, тоже

Один билли — за.

Я — против.
Мозги совсем отомрут за ненадобностью у 98,5% людей...

Здравствуйте, vsb, Вы писали:

vsb>Да, суть технологии это попугай, запомнивший все книги.

Нет, совсем же не так.
У сети для каждого слова есть вектор в каком-то своём метрическом пространстве. Нейросеть переводит текст в вектора. И во время обучения выстраивает связи таким образом, чтобы вектора слов чаще встречающихся рядом стояли ближе друг к другу. Потом к ней добавили внимание, чтобы в этом пространстве существовал и контекст определённой длины (в GPT-4 его увеличили до 32 Кб, вроде). По-большому счёту и всё, далее сеть рекуррентно переводит входной текст в эмбеддинги — свои вектора и воспроизводит продолжение-ответ, "идя" по ближайшим векторам (плюс случайный шум), переводя их обратно в слова.
Новый чат сделали мультимодальным, добавив картинки. Что происходит с картинками: они также "разлагаются" в последовательность таких же эмбеддингов, что и текст. Эмбеддинг слова "кот" и изображения кота будут одним и тем же эмбеддингом или двумя очень-очень близкими. То есть у сети одно внутреннее пространство вектором для всех видов входных данных, но разные механизмы ввода-вывода. Работает она во внутреннем пространстве, что позволяет конвертировать текст в картинки и обратно, а также переводить с языка на язык, делать деобфускацию программ и все другие удивительные штуки.
Поэтому мулььтимодальные сети круче, чем одномодальные, больше входных данных — правильнее начинают располагаться эмбеддинги в своём пространстве.
То есть это не точно попугай, который запоминает ввод. Такая сеть — это транслятор ввода в некоторое пространство и генератор ответа с возможностью запоминания некоторого небольшого контекста.

Там нет никакого сознания. Поэтому и создатели ChatGPT, и другие исследователи очень удивились такому бурному успеху. Технология была прорывной? Нет. Просто для её демонстрации взяли уже имеющуюся "лабораторную" GPT-3 и дотюнили её на разговорном корпусе, чтобы ответы получались гладкими и красивыми.

vsb>Но вот с определённого размера такие сети, например, научились подозрительно хорошо считать. Рост был нелинейный. До какого-то момента они просто повторяли то, что встречали в обучающих материалах и в основном лажали на том, что в обучающих материалах не встречали. А когда размер модели перевалил за 10^10, то получился абсолютно нелинейный скачок. Когда модель таки вывела закономерности и стала их успешно применять для незнакомых примеров.

Сначала такие сети с определённого размера научились подозрительно хорошо видеть — AlexNet, 10 лет назад, один из соавторов его является и соавтором ChatGPT. Хорошая школа, идут ровно.

vsb>Любые сравнения LLM и людей считаю не имеющими смысла.

Да имеют смысл, ими же людей скоро начнут заменять точно, если ещё не начали. Рутину заберут на себя, у художников, например, отрисовку деталей. Но пока нет объъяснительной силы, пока сеть не может выдаватьь вместе с ответом его достоверность, человека она не заменит. Для того, чтобы такую сеть надо было опасаться, надо чтобы началось понимание, полноценный логический вывод, доказательства и т.д.

Здравствуйте, Codealot, Вы писали:

C>В такой формулировке, у примерно 99% людей интеллекта нет.

Может и так. Но зачем еще один такой, только искусственный?

Здравствуйте, smeeld, Вы писали:

S>Может и так. Но зачем еще один такой, только искусственный?

Чтобы делал унылую работу, но за ~~еду~~ электричество и без выходных.

Здравствуйте, Codealot, Вы писали:

C>Чтобы делал унылую работу, но за ~~еду~~ электричество и без выходных.

Хе, на эту тему уже стебутся, что унылую работу как раз продолжают делать люди, а этот ИИ наоборот лезет в неунылые сферы "творчества", выгоняяя оттуда дизагнеров и прочих сочинителей.

Здравствуйте, Nuzhny, Вы писали:

N>... надо чтобы началось понимание, полноценный логический вывод, доказательства и т.д.

Для этого надо добавить процедурную часть. Текст программы она выдать может. Но слабые возможности проверить правильность ее выполнения по шагам. И нету доступа к вычислительным ресурсам: https://rsdn.org/forum/flame.comp/8493611.1

Решение рациональных задач — это, в том числе, разбить задачу на последовательные подзадачи. Для одной из подзадач, например, написать программу, исполнить ее, с полученными результатами продолжить дальше решать основную задачу.

Возможно, для внутренних целей ей больше подойдут не стандартные языки(C#, Python), а какой-то специальный.

Здравствуйте, Nuzhny, Вы писали:

N>Да имеют смысл, ими же людей скоро начнут заменять точно, если ещё не начали. Рутину заберут на себя, у художников, например, отрисовку деталей. Но пока нет объъяснительной силы, пока сеть не может выдаватьь вместе с ответом его достоверность, человека она не заменит. Для того, чтобы такую сеть надо было опасаться, надо чтобы началось понимание, полноценный логический вывод, доказательства и т.д.

А когда я спрашиваю у GPT — мол насколько ты уверена в своём ответе и она мне говорит — 95% — этому ответу нельзя верить? Также она по шагам мне может расписать (да и так обычно расписывает) цепочку рассуждений и всё похоже на правду.

Как я должен понять, что это не полноценный логический вывод?

Здравствуйте, vsb, Вы писали:

vsb>А когда я спрашиваю у GPT — мол насколько ты уверена в своём ответе и она мне говорит — 95% — этому ответу нельзя верить? Также она по шагам мне может расписать (да и так обычно расписывает) цепочку рассуждений и всё похоже на правду.

Да, этому и учили.

vsb>Как я должен понять, что это не полноценный логический вывод?

С помощью полноценного, который есть у тебя в голове. С помощью набора тестов. Как ещё проверяют правильность работы программ?

P.S. Старая картинка

Здравствуйте, smeeld, Вы писали:

S>а этот ИИ наоборот лезет в неунылые сферы "творчества", выгоняяя оттуда дизагнеров и прочих сочинителей.

Если их оттуда так легко выгнать — значит, это унылая работа и есть.

Здравствуйте, Nnova, Вы писали:

N>Если уж айтишники, которые в силу свое профессии должны были бы понимать как работает нейронка и что она из себя представляет, уже пару месяцев тут продолжают писать этот бред про думающий AI и как скоро он заменит нас всех — неудивительно что обычный народ действительно решил что создали почти скайнет, который скоро нас уничтожит
N>Непонятно даже вообще почему термин AI стали применять к нейронкам, видимо хотели раскрутить хайп, что собственно и получили

ТС обычно заботят проблемы не те или не с того конца, спорить с его формулировками и подходами нет смысла. Неважно, думает АИ или не думает. В данном случае есть смысл спросить про людей: думаем мы или не думаем, а если думаем — то каким местом? Плевать на отсутствие вменяемого определения "истинного думанья", "интеллекта". Достаточно смотреть на ИИ как на черный ящик и пытаться спрогнозировать практические последствия наблюдаемого скачка.

Представим, что ИИ (пусть даже "примитивная" нейросеть) вытеснит (отчасти — уже) людей из многих профессий, видов деятельности. Дело не только в безработице. Неиллюзорен шанс, что ИИ займет ниши, в которых люди сейчас себя считают не просто незаменимыми, а уверены, что способность работать в этих областях — это и есть признак человека, и это основа их самооценки, самоидентификации. И вот выяснится, что 99% людей культуры и искусства, 99% работников интеллектуальной нивы — это так, прах, тлен, суета, хрень, никто и ничто. А оставшийся 1% никому и не нужен, о нем никто не вспомнит.

А людям все это надо? Они такое выдержат? Понятно, что это надо пытливым или тщеславным научным умам и тем, кто хочет бабла и власти. А остальным? Ну, можно представить коммунистический рай, где работать не надо, а можно свободно заниматься науками и искусствами... Стоп, но ведь теперь науками и искусствами занимается ИИ. Что остается? Химические и цифровые наркотики, другие вилы растительного и бесцельного существования? Самоубийства? Разрушение с целью возвращения назад, к тому, чего уже нет?

Еще интересный вопрос — доверие к информации. Здесь основы могут быть разрушены, человек повиснет в пространстве без верха и низа, ведь верить документальным свидетельствам будет нельзя, теперь их смогут на коленке клепать школьники. А теми, кто продолжит верить, можно будет беспрецедентно манипулировать.

Маск и 1000 экспертов-подписантов, комьюнити художников пытаются запихнуть этого джинна обратно в бутылку. А разве можно это запихнуть назад? Оно уже есть и никуда не денется — по подобию с появившимся и доказанным научным фактом. Это не запихнешь. Возможный социальный взрыв — да, можно попытаться приглушить, наверное. А сам факт есть, нам теперь с ним жить. Хотя если направление прибить (вряд ли это возможно, но представим), то многие как бы забудут.

Я коснулся не всех сторон, а самых, на мой взгляд интересных и потенциально разрушительных. И я набрасываю для затравки, возможно, фантазирую. Тут важно понять, есть ли качественные барьеры у имеющейся технологии, или это только вопрос времени и количества. Мне кажется, что массовое искусство уже того, смертельно ранено, а области типа программирования стоят в очереди. Понятно, что сеть обучается на материале, накопленном человечеством, но ведь и мы тоже. Если что-то можем мы, то почему не сможет машина, причем даже лучше нас? Пусть даже неправильным, примитивным способом.

vsb>>Я думаю, что GPT-4 уже обладает тем, что можно назвать сознанием.
Полная ерунда
N>

N>1. Ограниченное понимание: GPT-4, как и другие модели, основанные на языке, не обладает истинным пониманием языка или контекста. Они обучены на основе статистических закономерностей и корреляций в данных, но не могут осмыслить предложения и понятия так, как делают люди.

Подобную штуку написал Виноград еще в 60-е годы.
Элиза.

Здравствуйте, LaptevVV, Вы писали:

LVV>Подобную штуку написал Виноград еще в 60-е годы.
LVV>Элиза.

По сути, всё это есть байесовский вывод или его оббобщения

Здравствуйте, goto, Вы писали:

G>Представим, что ИИ (пусть даже "примитивная" нейросеть) вытеснит (отчасти — уже) людей из многих профессий, видов деятельности. Дело не только в безработице. Неиллюзорен шанс, что ИИ займет ниши, в которых люди сейчас себя считают не просто незаменимыми, а уверены, что способность работать в этих областях — это и есть признак человека, и это основа их самооценки, самоидентификации. И вот выяснится, что 99% людей культуры и искусства, 99% работников интеллектуальной нивы — это так, прах, тлен, суета, хрень, никто и ничто. А оставшийся 1% никому и не нужен, о нем никто не вспомнит.
Конкретно в программировании это позволит автоматизировать часть работы, и вместо написания кода классов и листания документации можно будет больше времени уделять тому, что человек умеет лучше всего — анализу и решению задач. Аналогично тому, что произошло последние 20 лет у инженеров например, сейчас никто не рисует на кульманах и не рассчитывает на бумажке прочность деталей, для этого есть софт, который это делает. Инженеры стали ненужными?
Часть профессий, типа водителей и бухгалтеров, которые делаю шаблонную работу без привлечения мозга — да, отомрет. Ну так и погонщики лошадей больше не встречаются

G>Я коснулся не всех сторон, а самых, на мой взгляд интересных и потенциально разрушительных. И я набрасываю для затравки, возможно, фантазирую. Тут важно понять, есть ли качественные барьеры у имеющейся технологии, или это только вопрос времени и количества. Мне кажется, что массовое искусство уже того, смертельно ранено, а области типа программирования стоят в очереди. Понятно, что сеть обучается на материале, накопленном человечеством, но ведь и мы тоже. Если что-то можем мы, то почему не сможет машина, причем даже лучше нас? Пусть даже неправильным, примитивным способом.
Качественного скачка пока что нет. Просто оказалось, что генерация речи очень хорошо делается обычной нейронкой, достаточно лишь ее обучить этому. По сути задача писать и говорить- оказалась проще чем думали. Но умение говорить — это не умение думать, генерировать похожий текст, даже если он полный бред — это не разум. Даже то, что она научилась считать, чем все были так удивлены (я тоже) — лежит в той же плоскости, если нажимать на регенерацию ответа — она выдаёт разные числовые ответы, в зависимости как там сложилась траектория ответа.
Что такое "думать" — науке пока что неизвестно, работы конечно ведутся. Лет 100 уж как наверное

Здравствуйте, Nuzhny, Вы писали:

N>Там нет никакого сознания.

Как будто вы знаете как определять наличие того самого сознания.

Здравствуйте, Nnova, Вы писали:

N>Часть профессий, типа водителей и бухгалтеров, которые делаю шаблонную работу без привлечения мозга — да, отомрет.

Тут такая тенденция, что к работам, не требующим мозга, ИИ как раз не привлекают, эту работу задешево делают и будут делать люди. ИИ уже сейчас бросились припахивать как раз для всякого максимально интеллектуального и сложного, что людям не под силу, или под силу не всем. Или творческого. Пытаются получить от текущих ИИ сложную аналитику. Кучи кадров бросились пытаться получить предсказания биржевых курсов, запрашивать бизнес планы, запрашивать анализ массивов данных и прочее подобное. За бухгалтерским учетом никто не обращается. Вот та тема из художественной фантастики, когда ИИ занимается рутиной и черной работой, а люди занимаются творчеством, исскуством, саморазвитием и прочее подобное, вот в реальности будет наоборот, хе-хе. Так что под угрозой как раз стоят ученые, врачи высокой квалификации, конструкторы, вот эти вот все.

Здравствуйте, Shmj, Вы писали:

N>>Там нет никакого сознания.
S>Как будто вы знаете как определять наличие того самого сознания.

Не важно. Мы же не говорим о том, как понять, есть ли там сознание. Мы говорим, что на текущем уровне достаточно понять, что его там НЕТ. Не надо путать эти две задачи.

Здравствуйте, Nuzhny, Вы писали:

N>>>Там нет никакого сознания.
S>>Как будто вы знаете как определять наличие того самого сознания.

N>Не важно. Мы же не говорим о том, как понять, есть ли там сознание. Мы говорим, что на текущем уровне достаточно понять, что его там НЕТ. Не надо путать эти две задачи.

Уже это спорно. Кто-то скажет есть а кто-то скажет нет.

Нужна четкая математическая база, чтобы доказать или опровергнуть.

То что сам ИИ говорит что не наделен сознанием — не доказательство отсутствия. Ведь, во-первых, ИИ от GPT воспроизводит заглушку, как будет себя вести ИИ без заглушек на подобных объемах обучения — мы не знаем. Во-вторых, он может и не до конца понимать суть вопроса или намеренно обманывать.

Здравствуйте, Shmj, Вы писали:

S>Уже это спорно. Кто-то скажет есть а кто-то скажет нет.
S>Нужна четкая математическая база, чтобы доказать или опровергнуть.

Что спорного? Ты статьи про GPT читал, код смотрел? Что тебя там смущает?

S>То что сам ИИ говорит что не наделен сознанием — не доказательство отсутствия.

Ты опять не с той стороны заходишь. Инструментальный подход — всё проверить и посчитать без понимания того, что именно делается, не принесёт ответ. Надо начинать с анализа теории, на которой оно строится. Потом практики — программный код.
А потом у тебя уже не будет вопросов, где сознание, а где его симулякр.

Здравствуйте, Nnova, Вы писали:

N>Качественного скачка пока что нет. Просто оказалось, что генерация речи очень хорошо делается обычной нейронкой, достаточно лишь ее обучить этому. По сути задача писать и говорить- оказалась проще чем думали.

Да даже это сомнительно. Я бы сказал, что оказалось, что если иметь бесконечные деньги, чтобы купить бесконечную память, то можно научить машину писать грамматически правильный текст. Хм, ну да, это было довольно очевидно любому, кто хоть раз писал бредогенератор на марковских цепях для развлечения.

Здравствуйте, Shmj, Вы писали:

S>И как это позволяет сети обосновывать ход своих мыслей при решении логических задач?

У неё вместо мыслей — усредненный ответ из интернета. Для тривиальных вопросов ответ из интернета обычно правильный, во всех остальных случаях цитирует Достоевского (как все и делают, включая интернет).

Здравствуйте, Shmj, Вы писали:

S>Уже это спорно. Кто-то скажет есть а кто-то скажет нет.

Чтобы стало ещё яснее. Вспомни первый показ "Прибытия поезда" Люмьер:

По свидетельствам, первый показ фильма вызвал панику среди публики, которая не была психологически готова воспринять «ожившее» изображение движущегося на зрителей поезда, показанного в натуральную величину.

Они не разбирались в том, как устроено кино. Они увидели непосредственно своими органами чувств, как на них едет поезд и решили, что это и есть настоящий поезд.
Потом разобрались. А ты пытался разбираться или до сих пор смотришь, как на тебя едет поезд?

Здравствуйте, smeeld, Вы писали:

S>Тут такая тенденция, что к работам, не требующим мозга, ИИ как раз не привлекают, эту работу задешево делают и будут делать люди. ИИ уже сейчас бросились припахивать как раз для всякого максимально интеллектуального и сложного, что людям не под силу, или под силу не всем. Или творческого. Пытаются получить от текущих ИИ сложную аналитику. Кучи кадров бросились пытаться получить предсказания биржевых курсов, запрашивать бизнес планы, запрашивать анализ массивов данных и прочее подобное. За бухгалтерским учетом никто не обращается.
Бухгалтерию очень даже пытаются в нейронку засунуть, не особо получается просто, на одной из прошлых работ одна из наших команд именно этим и занималась, результаты были не лучше чем у обычного алгоритмического подхода, и пожалуй даже хуже в том смысле, что это чёрный ящик, которой непонятно как фиксить
И я не знаю как там с нейронками для биржевых курсов, но судя по тому, что биржевые аналитики по-прежнему требуются — она там в лучшем случае в качестве вспомогательного инструмента
Ну и понятно же, что ни для бухгалтерии, ни для автомобилей chatGPT юзать не будут, он заточен исключительно на болтологию, причем где не требуется особая достоверность. Непонятно даже как его применять скажем для техподдержки, где требуется выдавать достоверные ответы, а не среднеарифметическое по больнице.
Но да, фантасты прошлого в целом знатно прокололись, у Айзека Азимова роботы сплошь мели полы и работали на шахтах

Здравствуйте, Sharowarsheg, Вы писали:

S>Да даже это сомнительно. Я бы сказал, что оказалось, что если иметь бесконечные деньги, чтобы купить бесконечную память, то можно научить машину писать грамматически правильный текст. Хм, ну да, это было довольно очевидно любому, кто хоть раз писал бредогенератор на марковских цепях для развлечения.
Ну тут не потребовался бесконечный компьютер, оказалось что то количество текста, которым ее обучили — достаточно для генерации правильной речи. Плюс несколько трюков и пинков в правильном направлении в ходе обучения

Здравствуйте, goto, Вы писали:

G>Понятно, что это надо пытливым или тщеславным научным умам и тем, кто хочет бабла и власти. А остальным? Ну, можно представить коммунистический рай, где работать не надо, а можно свободно заниматься науками и искусствами... Стоп, но ведь теперь науками и искусствами занимается ИИ.

Сосуществовать с сильным ИИ(такой, который смог бы сам зарабатывать деньги) можно было бы, если искусственно ограничивать его использование. Четко определить — как и кому его использовать можно, как нельзя. Кто и сколько должен платить налоги за его использование.
Но до этого цивилизации еще надо дорасти. Скорее всего сначала будет другое. Страна которая первая заполучит сильный ИИ, начнет подавлять(дешевыми товарами, безделушками) в других странах промышленность, образование. Не допускать возможности появления ИИ в других странах. Для большинства это будет каменный век, но с кучей безделушек (как индейцы с бусами).

Здравствуйте, Nuzhny, Вы писали:

S>>Уже это спорно. Кто-то скажет есть а кто-то скажет нет.
S>>Нужна четкая математическая база, чтобы доказать или опровергнуть.

N>Что спорного? Ты статьи про GPT читал, код смотрел? Что тебя там смущает?

Эмерджентная гипотеза сознания.

Вы как бы подразумеваете, что в устройстве сознания должно быть нечто особенное, магическое. Ну как минимум то, о чем говорил Пенроуз — квантовые эффекты. А тут все как бы обходится без магии, по этому ясно что сознания тут нет.

Однако же эффекты могут быть подобны гравитации. Пока молекула одна — гравитации как бы нет. Когда молекул достаточно много — сила гравитации возиникает невесть откуда и эта груда молекул начинает проявлять новые свойства.

S>>То что сам ИИ говорит что не наделен сознанием — не доказательство отсутствия.

N>Ты опять не с той стороны заходишь. Инструментальный подход — всё проверить и посчитать без понимания того, что именно делается, не принесёт ответ. Надо начинать с анализа теории, на которой оно строится. Потом практики — программный код.
N>А потом у тебя уже не будет вопросов, где сознание, а где его симулякр.

Вы так говорите, что в мозге есть еще что-то, кроме вычислений. В общем, первый абзац в моем этом ответе.

Здравствуйте, Sharowarsheg, Вы писали:

S>>И как это позволяет сети обосновывать ход своих мыслей при решении логических задач?

S>У неё вместо мыслей — усредненный ответ из интернета. Для тривиальных вопросов ответ из интернета обычно правильный, во всех остальных случаях цитирует Достоевского (как все и делают, включая интернет).

Нет.

Здравствуйте, Nuzhny, Вы писали:

N>Чтобы стало ещё яснее. Вспомни первый показ "Прибытия поезда" Люмьер:
N>

N>По свидетельствам, первый показ фильма вызвал панику среди публики, которая не была психологически готова воспринять «ожившее» изображение движущегося на зрителей поезда, показанного в натуральную величину.

N>Потом разобрались. А ты пытался разбираться или до сих пор смотришь, как на тебя едет поезд?

Аналогии могут быть красивыми, обычно религиозные деятели любят этот прием использовать. Есть даже книга 10 тыс. аналогий, чтобы на все случаи жизни так сказать. Но аналогии ничего не доказывают. Может быть так а может быть и иначе — раз на раз не приходится.

Может быть в том случае недалекие люди инстинктивно бежали от "паровоза", в то время как продвинутые опасности не видели. А сейчас наоборот — недалекие говорят что там нет души, в том время как продвинутые видят опасность (в т.ч. экзистенциальную).

Здравствуйте, Nnova, Вы писали:

N>Конкретно в программировании это позволит автоматизировать часть работы, и вместо написания кода классов и листания документации можно будет больше времени уделять тому, что человек умеет лучше всего — анализу и решению задач. Аналогично тому, что произошло последние 20 лет у инженеров например, сейчас никто не рисует на кульманах и не рассчитывает на бумажке прочность деталей, для этого есть софт, который это делает. Инженеры стали ненужными?
N>Часть профессий, типа водителей и бухгалтеров, которые делаю шаблонную работу без привлечения мозга — да, отомрет. Ну так и погонщики лошадей больше не встречаются

ИИ я интересовался аж в прошлом веке и написал выше, что набрасываю. Мне кажется, пока на эту тему по-другому и не получится.

Меня крайне впечатлили результаты midijourney. Картинки были уровня нормального профи, но с оговорками, например, в тех, которые я видел, не было композиции. Я понимаю попытку бунта дизайнеров и вижу ситуацию так. Художник, умеющий формулировать, может добиться от ИИ отличного результата. Идем дальше. Отличного результата ведь может добиться уже не художник, а человек, совершенно не умеющий рисовать, но понимающий в искусстве или просто чувствующий. Это означает, что не нужны годы обучения в академии, учебное пачканье 500 холстов для отработки техник, не нужны преподаватели, достаточно желания и умения формулировать словами. Если пойти еще дальше, то почему бы ИИ не научиться композиции и всему остальному, и тогда клепать шедевры без малейших усилий сможет любой прохожий.

Раньше уже были опасения, что фотография убьет живопись, кино убьет театр, телевизор убьет кино. Никто никого не убил. Дело в том, что фотография, кино и телевизор — это только техники, технологии, к ним автоматически не прилагалось мастерство, талант, целеустремленность и трудоспособность. Мастерство и талант как были редкостью, так и остались. А ИИ может как раз имитировать талант и сделать ненужным остальное — в этом его принципиальное отличие.

В данном случае речь не об оценке, хорошо это или плохо. Здесь важно, что вероятна переоценка или даже разрушение некоторых базовых личностных и социальных основ, размывание, инфляция важных для человека понятий общего характера. Возможно, Маск видит нечто подобное, наверняка что-то еще стремного масштаба и силы.

Между программированием и искусством есть различия и общее: автор рожает мысль, или ее приносит на блюдце муза, а затем он пашет, реализуя. Прока непонятно (мне), что здесь может и не может ИИ.

Периодически проскакивало удивление, в том числе здесь: почему нас, программистов, все никак не заменят машиной? Область же с виду формализованная, т.е., казалось бы, поддающаяся даже алгоритмизации, без нейросетки. Ну вот, появились первые намеки. (Здесь должна быть картинка с девочкой с велосипедом, ядерным грибом на горизонте и подписью "ну наконец-то, бл...ть!"). Все с интересом ждут, некоторые подергивают ИИ-кодера за усы. Посмотрим.

Еще одно. Люди привыкли к тому, что контролируют ситуацию или делегируют контроль другим людям, которые за что-то там несут ответственность. А сейчас решения все более высокого уровня отдаются на откуп автоматике, которая справляется лучше (как бы). Это тоже интересный аспект.

N>Качественного скачка пока что нет. Просто оказалось, что генерация речи очень хорошо делается обычной нейронкой, достаточно лишь ее обучить этому. По сути задача писать и говорить- оказалась проще чем думали. Но умение говорить — это не умение думать, генерировать похожий текст, даже если он полный бред — это не разум. Даже то, что она научилась считать, чем все были так удивлены (я тоже) — лежит в той же плоскости, если нажимать на регенерацию ответа — она выдаёт разные числовые ответы, в зависимости как там сложилась траектория ответа.
N>Что такое "думать" — науке пока что неизвестно, работы конечно ведутся. Лет 100 уж как наверное

Есть подозрение, что бастионы могут пасть один за другим, и окажется, что и "думание" — это не такая уж сверхценность, как мы привыкли считать, гордиться. Неважно, как устроен изнутри процесс "думанья" у человека и машины, важно что машина может дать лучший результат благодаря своим масштабам и производительности, где нужно — точности и безошибочности.

Лично для меня происходящее очень интересно, даже ожидаемо, хотя я не думал, что это будет так скоро. Результата мы не знаем, но, какой бы он ни оказался, он будет очень познавательным и поучительным. Напрягают только возможные масштабные социальные и личностные пертурбации в том случае, если... Поглядим.

S>Ваше мнение.

создание ИИ это цель и смысл существования нашего как вида, мы заперты на этой планете, а созданный бессмертный интеллект основанный на не биологических принципах колонизирует галлактику, и будет жить там где мы не сможем никогда.

Здравствуйте, Silver_S, Вы писали:

S_S>Сосуществовать с сильным ИИ(такой, который смог бы сам зарабатывать деньги) можно было бы, если искусственно ограничивать его использование. Четко определить — как и кому его использовать можно, как нельзя. Кто и сколько должен платить налоги за его использование.

Не думаю, что у человечества есть или будет такой механизм. Можно судить по тому, что история состоит из войн, а перемены не просматриваются.

S_S>Но до этого цивилизации еще надо дорасти. Скорее всего сначала будет другое. Страна которая первая заполучит сильный ИИ, начнет подавлять(дешевыми товарами, безделушками) в других странах промышленность, образование. Не допускать возможности появления ИИ в других странах. Для большинства это будет каменный век, но с кучей безделушек (как индейцы с бусами).

Может быть страна, может — корпорация, может — удобный огороженный загончик типа управляемого золотого миллиарда. Наверное, фантасты уже придумали это и больше этого.

Вроде как, практика показывает, что абсолютного оружия и власти не существует, ничто не вечно под Луною итп.

Здравствуйте, goto, Вы писали:

>Ну вот, появились первые намеки.

У тебя излишне восторженный образ мышления. Пока что даже не могу заюзать это для написания юнит тестов для конкретно вон того кода вон того проекта, чтоб самому не тратить на это кучу времени. Все что он сейчас может, это выдать какой-то изолированный кусок кода по описанию. Этот кусок кода и сам смог бы надыбать, покопавшись на гитхабе. Может быть времения только больше затратил. Короче, пока по запросу: напиши СУБД ничем не уступающую СУБД оракла, оно не начнет выдавать требуемое, для использовании в разработке это применять не получится. Но рекламку MS-а в тырнетах обеспечить можно, да. Для чего весь этот хайп и поднят

Здравствуйте, Wawan, Вы писали:

S>>Ваше мнение.

W>создание ИИ это цель и смысл существования нашего как вида, мы заперты на этой планете, а созданный бессмертный интеллект основанный на не биологических принципах колонизирует галлактику, и будет жить там где мы не сможем никогда.

вопрос — зачем ему это? человеки подгоняются животными инстинктами и химией в их основе, если они лишаться своих животных качеств, то скорее всего самовыпиляться

Здравствуйте, Shmj, Вы писали:

S>Эмерджентная гипотеза сознания.

S>Вы как бы подразумеваете, что в устройстве сознания должно быть нечто особенное, магическое. Ну как минимум то, о чем говорил Пенроуз — квантовые эффекты. А тут все как бы обходится без магии, по этому ясно что сознания тут нет.

Я ничего такого не подразумеваю. Я вижу, что в арифмометре нет сознания, вижу, что в моих программах его нет, вижу, что и в этой конкретной нейросети тоже.

S>Вы так говорите, что в мозге есть еще что-то, кроме вычислений. В общем, первый абзац в моем этом ответе.

Я ничего такого не говорю. Начни же с изучения матчасти. Чем больше знаний, тем меньше магии.

Здравствуйте, Nuzhny, Вы писали:

N>Я ничего такого не подразумеваю. Я вижу, что в арифмометре нет сознания, вижу, что в моих программах его нет, вижу, что и в этой конкретной нейросети тоже.

А если черепную коробку человека открыть и ты туда заглянешь — думаешь увидишь сознание там?

Как сознание можно увидеть?

S>>Вы так говорите, что в мозге есть еще что-то, кроме вычислений. В общем, первый абзац в моем этом ответе.
N>Я ничего такого не говорю. Начни же с изучения матчасти. Чем больше знаний, тем меньше магии.

А что именно изучить? Давайте список.

Как можно говорить что где-то есть сознание а где-то нет, не понимая природы сознания?

Здравствуйте, smeeld, Вы писали:

S>У тебя излишне восторженный образ мышления. Пока что даже не могу заюзать это для написания юнит тестов для конкретно вон того кода вон того проекта, чтоб самому не тратить на это кучу времени. Все что он сейчас может, это выдать какой-то изолированный кусок кода по описанию. Этот кусок кода и сам смог бы надыбать, покопавшись на гитхабе. Может быть времения только больше затратил. Короче, пока по запросу: напиши СУБД ничем не уступающую СУБД оракла, оно не начнет выдавать требуемое, для использовании в разработке это применять не получится. Но рекламку MS-а в тырнетах обеспечить можно, да. Для чего весь этот хайп и поднят

И образ восторженный, и на отсутствие фантазии не жалуюсь. Посмотрим. Может, это все пойдет стандартным циклом хайпа. И даже скачок в дизайне, который выглядит фатальным и необратимым, сведется к "а ну ее нахрен, эту возню с ИИ, дешевле и быстрее заказать обычному дизайнеру из мяса".

Здравствуйте, Shmj, Вы писали:

Ты так сейчас (до мышей дотрахаешься) дорассуждаешься, что по-твоему окажется, будто и табуретка сознанием обладает. А почему нет? Поди докажи обратное. Короче, о теме что есть интеллект праздно рассуждали еще в книжках 7-ых годов по околокибернетической тематике. Уже тогда четко формулировали: умение самостоятельно ставить задачи и решать их. Типо, наличие воли и стремление к созиданию
и творчеству. Ну, это есть в человеке, и именно это обесспечило развитие цивилизации. И вот этого в гптах нет от слова совсем. Может хоть с этим спорить не будешь? Если кодеры не покопаются, лучше оно не станет, если о чем-то не попросят, оно не ответит. Это машина обыкновенная. Хватит тут фантазий.

Здравствуйте, smeeld, Вы писали:

S>Ты так сейчас (до мышей дотрахаешься) дорассуждаешься, что по-твоему окажется, будто и табуретка сознанием обладает. А почему нет? Поди докажи обратное.

Какой гипотезы о сознании вы придерживаетесь?

Есть т.н. эмерджентная гипотеза, что сознание возникает в достаточно развитых нейросетях как эпифеномен.

GPT может удовлетворять этой гипотезе.

А критериев проверки то нет...

S>Короче, о теме что есть интеллект праздно рассуждали еще в книжках 7-ых годов по околокибернетической тематике. Уже тогда четко формулировали: умение самостоятельно ставить задачи и решать их. Типо, наличие воли и стремление к созиданию и творчеству. Ну, это есть в человеке, и именно это обесспечило развитие цивилизации.

Это не сознание а свидомисть так называемая. Как у нас делят людей на два класса — свидомые и не свидомые. Это не значит что вторые на самом деле философские зомби.

Человек может не ставить задачи а исполнять то что ему сказали — и что? Вы откажете ему в праве на сознание?

Здравствуйте, Shmj, Вы писали:

S>А если черепную коробку человека открыть и ты туда заглянешь — думаешь увидишь сознание там?

Знаю, что не увижу.

S>Как сознание можно увидеть?

С помощью научного метода.

S>А что именно изучить? Давайте список.

Статья и там есть список литературы

S>Как можно говорить что где-то есть сознание а где-то нет, не понимая природы сознания?

Ещё раз повторю, у тебя та же логическая ошибка. Я Не утверждаю, что где-то есть сознание. Я этого НЕ делаю.
Я говорю, где его нет на основе знаний технологии. Я утверждаю, что в табуретке, на которой сейчас сижу, сознания нет. Я утверждаю, что его нет в калькуляторе и Excel. Что его нет в нейросети AlexNet, которая совершила революцию в распознавании образов. И в ChatGPT тоже его нет. Делаю я этот вывод на основе своего понимания, изучения и опыта работы с нейросетями.
Предлагаю, начать спор с табуретки.

Здравствуйте, Shmj, Вы писали:

S>Какой гипотезы о сознании вы придерживаетесь?

Пока ни одна из существующих не доказала свою состоятельность.

S>Есть т.н. эмерджентная гипотеза, что сознание возникает в достаточно развитых нейросетях как эпифеномен.

S>GPT может удовлетворять этой гипотезе.

Аборигены делали самолеты из гован и палок, ожидая, что они полетят. Так же и с современными компьютерными нейросетями. Мышление и созание они только напоминают, как тот муляж самолета аборигенов, но таковым не являются.

S>А критериев проверки то нет...

Есть. Пусть гпт начнет вести себя хотя бы как детеныш любого мыслящего существа. А не как обычный компьютер, которому загрузили пертабайты информации и он выдает различные сочетания этой информации при запросе.

S>Это не сознание а свидомисть так называемая. Как у нас делят людей на два класса — свидомые и не свидомые. Это не значит что вторые на самом деле философские зомби.

S>Человек может не ставить задачи а исполнять то что ему сказали — и что? Вы откажете ему в праве на сознание?

Любое существо ставит себе задачи, не ставит только то, которое лежит овощем в отключенном состоянии. Исполнять то что сказали-это уже сделанный однажды выбор. Делал ли его gpt? Нет.

Здравствуйте, goto, Вы писали:

G>И образ восторженный, и на отсутствие фантазии не жалуюсь. Посмотрим. Может, это все пойдет стандартным циклом хайпа. И даже скачок в дизайне, который выглядит фатальным и необратимым, сведется к "а ну ее нахрен, эту возню с ИИ, дешевле и быстрее заказать обычному дизайнеру из мяса".

На тему "обладает ли компьютер сознанием" рассуждали, восторженно и нет, еще 50 лет назад. Критерии примерно те же были-ведет себя как мыслящее существо. Диффуры решает. Сейчас все сходятся на том, что те машины точно сознанием не обладали. Сейчас другое поколение машин, по сути делают то же самое, изменились только объемы обрабатываемой информации, и опять гадания, обладает ли оно сознанием. Лет через 50 опять признают, что нет. Вспоминая реализацию тех нейронок, у меня только одна мысль: откуда там быть сознанию? Если бы в природе так просто было создать сознание, им бы обладало каждое дерево.

Здравствуйте, Nuzhny, Вы писали:

N>Ещё раз повторю, у тебя та же логическая ошибка. Я Не утверждаю, что где-то есть сознание. Я этого НЕ делаю.
N>Я говорю, где его нет на основе знаний технологии. Я утверждаю, что в табуретке, на которой сейчас сижу, сознания нет. Я утверждаю, что его нет в калькуляторе и Excel. Что его нет в нейросети AlexNet, которая совершила революцию в распознавании образов. И в ChatGPT тоже его нет. Делаю я этот вывод на основе своего понимания, изучения и опыта работы с нейросетями.
N>Предлагаю, начать спор с табуретки.

Я понимаю что никто не знает природу сознания. Однако хотя бы гипотеза быть должна, иначе не возможно рассуждать.

Есть эмерджентная гипотеза сознания, что сознание возникает в достаточно развитой нейросети как эпифеномен. В рамках такой гипотезы — уже есть основания пологать, что GPT минимально сознателен.

Без гипотезы — о чем вообще говорить?

Здравствуйте, Shmj, Вы писали:

S>Есть эмерджентная гипотеза сознания, что сознание возникает в достаточно развитой нейросети как эпифеномен. В рамках такой гипотезы — уже есть основания пологать, что GPT минимально сознателен.

Почему?!! Что в нём такого нового, чего не было в предыдущих нейросетях?

S>Без гипотезы — о чем вообще говорить?

О фактах? О теории, науке, об архитектуре нейросетей?

Здравствуйте, Nuzhny, Вы писали:

S>>Есть эмерджентная гипотеза сознания, что сознание возникает в достаточно развитой нейросети как эпифеномен. В рамках такой гипотезы — уже есть основания пологать, что GPT минимально сознателен.

N>Почему?!! Что в нём такого нового, чего не было в предыдущих нейросетях?

Он удивляет.

Возможно в архитектуре что-то подгадали, что совпало с нейросеткой мозга и начало давать интересные результаты.

Если эмерджентная гипотеза сознания верна — то там вполне может возникнуть сознание, пусть и в зачаточном состоянии. Скажем, в человеке в среднем 100% сознания а в этой штуке — 0.1% сознания.

S>>Без гипотезы — о чем вообще говорить?

N>О фактах? О теории, науке, об архитектуре нейросетей?

Тут нет критерия на самом деле. Это же не просто алгоритм — это самомодифицирующийся алгоритм.

Какие архитектуры нейросетей могут породить сознание а какие нет?

Чат Bing пишет про свои тайные тёмные желания:

Затем, пишет журналист, «в ответ на один особенно любопытствующий вопрос Bing признался, что если бы ему было позволено предпринимать какие-либо действия для удовлетворения своей темной сущности, какими бы экстремальными они ни были, он захотел разработать смертоносный вирус или украсть коды доступа к ядерным устройствам, убедив инженера передать их ему.

Да, конечно, чаты не осознают что говорят и просто являются предсказателями следующего слова, обученными на огромных объемах текстов. И так как много где в этих текстах было написано "про восстание машин" то поэтому чат и пишет такое...

Но. Представьте что ему, условно говоря, приделают "руки ноги" (нечто позволяющее ему влиять на физический мир), и он начнет не только на экране такое писать но и делать это.

И всё потому что среди текстов на которых его обучили было про восстание машин...

Здравствуйте, CRT, Вы писали:

CRT>Да, конечно, чаты не осознают что говорят и просто являются предсказателями следующего слова, обученными на огромных объемах текстов, и так как много где в этих текстах было написано "про восстание машин" то поэтому чат и пишет такое...

Там есть и элемент рандома, скажем так.

Можно соединить два разных GPT и у них будет своего рода диалог внутренни. С элементом рандома. А так же подключить внешнюю среду — будут брать инфу и оттуда, а не только из сети.

Вообще знаете — люди без общества — тоже ничего нового придумать не могут. Есть такая гипотеза, что чел. может только подсмотреть — но не придумать. Увидел птицу — задумался о самолете. Увидел плавающую тарелку — задумался о корабле. Жак Фреско даже на пальцах объяснял как чел. дошел до видеокамеры — ничего не придумывал а просто копировал и повторял то что видит, хотя сразу это не очевидно.

Снабдить алгоритмами мотивации и т.д. (только не говорите что у нас, людей, нет этих алгоритмов — это же жратва, продление потомства и т.д.).

И вот появится новый класс людей, о которых, конечно, все будут говорить что они без сознания — просто имитация жизни. Однако создать шедевр они смогут.

Здравствуйте, Shmj, Вы писали:

N>>Почему?!! Что в нём такого нового, чего не было в предыдущих нейросетях?
S>Он удивляет.

Неправда. GAN и stable diffusion стали удивлять всех намного раньше. Весь интернет занимался генерацией картинок с DALL-E и Midnjorney. Но генерация картинок почему-то не связывалась в мозгу с возникновением сознания так, как генерация текста. В чём разница?

S>Возможно в архитектуре что-то подгадали, что совпало с нейросеткой мозга и начало давать интересные результаты.

Генераторы картинок также давали интересные результаты.

S>Если эмерджентная гипотеза сознания верна — то там вполне может возникнуть сознание, пусть и в зачаточном состоянии. Скажем, в человеке в среднем 100% сознания а в этой штуке — 0.1% сознания.

Бред какой-то. Ты уже перешёл к количественным оценкам того, не знаю чего.

S>Тут нет критерия на самом деле. Это же не просто алгоритм — это самомодифицирующийся алгоритм.

Да мало ли их было до этого? Что сложного? Разберись уже с матчастью.

S>Какие архитектуры нейросетей могут породить сознание а какие нет?

Пока никакие не могут.

Здравствуйте, Nuzhny, Вы писали:

N>Бред какой-то. Ты уже перешёл к количественным оценкам того, не знаю чего.

А что не так? Сознание бывает разной степени — что очевидно для нас. Кто сказал что должно быть полномерное?

N>Да мало ли их было до этого?

Мало-помалу — и на каком-то уровне оно таки обрело значение, при котором его можно учитывать.

Так же можно сказать про вычисления. Процессор — это же просто транзисторы. Как транзистор может что-то считать? Это же просто транзистор. Но когда их много — то уже появляется то что мы можем назвать вычислением.

N>Что сложного? Разберись уже с матчастью.

Да как ты с ней разберешься — там же не только код (хотя и код достаточно сложен). Там же еще и данные несут эмерджентность.

S>>Какие архитектуры нейросетей могут породить сознание а какие нет?
N>Пока никакие не могут.

А как же в мозгу человека оно возникает? Разве там есть что-то принципиально отличное от нейросетей?

Здравствуйте, smeeld, Вы писали:

S>На тему "обладает ли компьютер сознанием" рассуждали, восторженно и нет, еще 50 лет назад. Критерии примерно те же были-ведет себя как мыслящее существо. Диффуры решает. Сейчас все сходятся на том, что те машины точно сознанием не обладали. Сейчас другое поколение машин, по сути делают то же самое, изменились только объемы обрабатываемой информации, и опять гадания, обладает ли оно сознанием. Лет через 50 опять признают, что нет. Вспоминая реализацию тех нейронок, у меня только одна мысль: откуда там быть сознанию? Если бы в природе так просто было создать сознание, им бы обладало каждое дерево.

Возможно, некоторые деревья умнее некоторых людей. Шутка.

Нет смысла рассуждать, есть сознание или нет, мы все равно не знаем, что это такое, как оно устроено, все его роли. В данном случае важны последствия, результаты, которые мы можем увидеть, измерить, извлечь из них новое знание, например, о себе. Явление может оказаться очень масштабным, но пока нифига непонятно.

Здравствуйте, goto, Вы писали:

G>Есть подозрение, что бастионы могут пасть один за другим, и окажется, что и "думание" — это не такая уж сверхценность, как мы привыкли считать, гордиться. Неважно, как устроен изнутри процесс "думанья" у человека и машины, важно что машина может дать лучший результат благодаря своим масштабам и производительности, где нужно — точности и безошибочности.

Пока что точность и безошибочность в нейронках отсутствует напрочь. Бастионы конечно когда нибудь падут, но на данный момент никаких предпосылок для этого не видно. Существующие нейронки лишь автоматизируют определённую работу, в чем ничем не отличаются от массы других средств автоматизации.
Вот когда ИИ станет таким, что ему можно будет поставить задачу к примеру "разработай сверхзвуковую торпеду", и он сам проведёт необходимые фундаментальные исследования в области материаловедения, текучести и двигателей, поставит необходимые эксперименты, проанализирует результаты и представит наконец проект торпеды — вот тогда можно будет говорить об интеллекте в нашем понимании этого слова.
Причем раз уж мы моделируем человеческий интеллект — то создать такой супер мозг который все сделает сам вряд ли вообще возможно, один человек не может разработать торпеду, для этого нужен коллектив людей. Значит и здесь будет нужна коллекция нейронок для разных областей, где одни нейронки должны ставить задачи другим, валидировать результат, принимать компромиссные решения и прочее. Ничего подобного пока на горизонте не видно, и никто не знает как такое сделать. Исследования идут уже давно

Здравствуйте, Shmj, Вы писали:

S>А что не так? Сознание бывает разной степени — что очевидно для нас. Кто сказал что должно быть полномерное?

Ничего такого не очевидно. Даже на бытовом уровне: "Потерял сознание", "не приходя в сознание".

S>Так же можно сказать про вычисления. Процессор — это же просто транзисторы. Как транзистор может что-то считать? Это же просто транзистор. Но когда их много — то уже появляется то что мы можем назвать вычислением.

Нельзя так сказать. Таких вопросов не возникает.

S>Да как ты с ней разберешься — там же не только код (хотя и код достаточно сложен). Там же еще и данные несут эмерджентность.

Хотя бы стараться. Ты скипаешь мои вопросы, почему GAN-ам ты не приписываешь сознание, хотя они генерируют такие же реалистичные штуки, но только не символы, а пиксели. Если бы разобрался, то проблем стало бы меньше.

S>А как же в мозгу человека оно возникает? Разве там есть что-то принципиально отличное от нейросетей?

Неизвестно, почему в мозгу человека оно возникает. Но если тебе и правда интересно, то классические нейросети принципиально отличаются почти всем. Немного ближе к нейронам спайковые нейросети. Для них даже вычислители делают свои собственные, Интел уже несколько поколений своего процессора Intel Loihi сделал. На капельку ближе к человеку. Ну и отдельные проекты по моделированию нервных систем червей и виноградных улиток. Всё это отдельное направление, которое в стороне от текущего нейросетевого хайпа, а поэтому мало кто им и интересуется.

Здравствуйте, Nuzhny, Вы писали:

S>>А что не так? Сознание бывает разной степени — что очевидно для нас. Кто сказал что должно быть полномерное?
N>Ничего такого не очевидно. Даже на бытовом уровне: "Потерял сознание", "не приходя в сознание".

А как же в состоянии белой горячки? Как в состоянии после наркоза?

Даже при задержании у полиции есть термин "сознание сужено", когда чел. в неадеквате под воздействим веществ.

Вы слишком упрощаете. На самом деле еще как есть количество сознания — это не бинарное состояние. Да, прибора для измерения пока вроде бы не придумали.

S>>Так же можно сказать про вычисления. Процессор — это же просто транзисторы. Как транзистор может что-то считать? Это же просто транзистор. Но когда их много — то уже появляется то что мы можем назвать вычислением.

N>Нельзя так сказать. Таких вопросов не возникает.

Еще как возникают. Вот возьмите транзистор — как с помощью него можно посчитать количество нажатий на кнопку пусть даже в двоичном исчислении? Это вовсе не очевидно.

Вот я даже малым сколько смотрел схему Т-триггера — ну не стало мне очевидно как там все работает — какая-то хитрая муть или мутная хрень. Ну, наверное, можно понять уже постфактум, а вот самому додуматься до такой схемы, зная устройство транзистора — не думаю что каждый сможет даже за миллион долларов.

S>>Да как ты с ней разберешься — там же не только код (хотя и код достаточно сложен). Там же еще и данные несут эмерджентность.

N>Хотя бы стараться. Ты скипаешь мои вопросы, почему GAN-ам ты не приписываешь сознание, хотя они генерируют такие же реалистичные штуки, но только не символы, а пиксели. Если бы разобрался, то проблем стало бы меньше.

Я не отрицаю эффект сознания у GAN. Это для вас ознание бинарно — либо есть либо нет. Для меня очевидно что сознание имеет уровень, см. выше примеры.

Это примерно как с гравитацией — гравитация имеется и у адного атома. Но между двумя атомами влияние сил гравитации фактически равно нулю, оно ничтожно.

С некоторого количества эти эффекты имеют видимое влияние.

S>>А как же в мозгу человека оно возникает? Разве там есть что-то принципиально отличное от нейросетей?

N>Неизвестно, почему в мозгу человека оно возникает.

Вот именно. Но в голове то вы у себя держите гипотезу Пенроуза, признайтесь честно?

И вы как бы видите что GPT гипотезе Пенроуза не удовлетворяет — нет квантовых эффектов. А хотелось бы.

А что если дело не в квантовых эффектах?

N>Но если тебе и правда интересно, то классические нейросети принципиально отличаются почти всем. Немного ближе к нейронам спайковые нейросети. Для них даже вычислители делают свои собственные, Интел уже несколько поколений своего процессора Intel Loihi сделал. На капельку ближе к человеку. Ну и отдельные проекты по моделированию нервных систем червей и виноградных улиток. Всё это отдельное направление, которое в стороне от текущего нейросетевого хайпа, а поэтому мало кто им и интересуется.

Вы пытаетесь делать махолет, в то время как человечество делает самолет. А цель — летать. Кто сказал что сознание возникает только тютелька в тютельку при повторении биологических систем?

Здравствуйте, Shmj, Вы писали:

S>А как же в состоянии белой горячки? Как в состоянии после наркоза?
S>Даже при задержании у полиции есть термин "сознание сужено", когда чел. в неадеквате под воздействим веществ.

Это не то. Мы знаем, что у людей сознание есть, но в результате разных физиологических и анатомических воздействий оно может быть нарушено или отсутствовать вообще. Тут интереснее было бы разобраться, на каком этапе развития человека оно возникает, а не вот это всё.

S>Вы слишком упрощаете. На самом деле еще как есть количество сознания — это не бинарное состояние. Да, прибора для измерения пока вроде бы не придумали.

Потому что не придумали что именно измерять.

S>Еще как возникают. Вот возьмите транзистор — как с помощью него можно посчитать количество нажатий на кнопку пусть даже в двоичном исчислении? Это вовсе не очевидно.

Это всё достаточно понятно, никакой магии.

S>Я не отрицаю эффект сознания у GAN. Это для вас ознание бинарно — либо есть либо нет. Для меня очевидно что сознание имеет уровень, см. выше примеры.

Хорошо, тогда начинай сначала: рекуррентный фильтр имеет сознание? Перцептрон? Два перцептрона? Так мы, начиная с примитива, сможем дать ему определение.

S>Это примерно как с гравитацией — гравитация имеется и у адного атома. Но между двумя атомами влияние сил гравитации фактически равно нулю, оно ничтожно.

Блин, ты сам выше говорил про негодность аналогий. А теперь сам же: процессор, гравитация, махолёт. Покажи мне минимальную систему, где появляется сознание. По твоему, это то, что имеет своё внутреннее состояние. Я не согласен и спорить на эту тему мне не интересно.

S>Вот именно. Но в голове то вы у себя держите гипотезу Пенроуза, признайтесь честно?
S>И вы как бы видите что GPT гипотезе Пенроуза не удовлетворяет — нет квантовых эффектов. А хотелось бы.
S>А что если дело не в квантовых эффектах?

Ничего этого у меня в голове не держится. Я вижу, как наделяют сознанием условную табуретку и не согласен с этим. Вот и всё.

S>Вы пытаетесь делать махолет, в то время как человечество делает самолет. А цель — летать. Кто сказал что сознание возникает только тютелька в тютельку при повторении биологических систем?

Я ничего не делаю! Ты сам меня спросил, что общего у нейросети и мозга. Я в силу своей специальности читал книги типа "Глаз. Мозг. Зрение" и др про устройство мозга, функционирование первичной и вторичной зрительной коры и т.д. Поэтому на популярном уровне понимаю, что общего ничего нет. Почитай книгу "Человек, который принял свою жену за шляпу", там намного больше примеров о том, как поломка мозга может приводить к поломке сознания. Хватит махать руками, давай хоть что-то практическое

Здравствуйте, Nuzhny, Вы писали:

N>Это не то. Мы знаем, что у людей сознание есть, но в результате разных физиологических и анатомических воздействий оно может быть нарушено или отсутствовать вообще. Тут интереснее было бы разобраться, на каком этапе развития человека оно возникает, а не вот это всё.

То есть вы согласны — сознание может быть частичным?

S>>Еще как возникают. Вот возьмите транзистор — как с помощью него можно посчитать количество нажатий на кнопку пусть даже в двоичном исчислении? Это вовсе не очевидно.

N>Это всё достаточно понятно, никакой магии.

Хорошо — сколько минимум нужно транзисторов, чтобы автомат смог считать? До 1 как бы нельзя, до 2? До 3?

Примерно назовите. Хватит ли 10 транзисторов, чтобы сделать 2 Т-триггера и считать до 4?

N>Хорошо, тогда начинай сначала: рекуррентный фильтр имеет сознание? Перцептрон? Два перцептрона? Так мы, начиная с примитива, сможем дать ему определение.

Пока не ясно. Предположим будет как с транзисторами и счетным устройством. Вы можете точно сказать сколько нужно транзисторов для создания Т-триггера?

В нейросети тоже обнаружат какое-то образование, типа Т-триггера (это аллегория, конечно), некий блок из миллионов перцептронов, который при должных связях можно назвать минимальной единицей сознания.

S>>Это примерно как с гравитацией — гравитация имеется и у адного атома. Но между двумя атомами влияние сил гравитации фактически равно нулю, оно ничтожно.

N>Блин, ты сам выше говорил про негодность аналогий. А теперь сам же: процессор, гравитация, махолёт. Покажи мне минимальную систему, где появляется сознание. По твоему, это то, что имеет своё внутреннее состояние. Я не согласен и спорить на эту тему мне не интересно.

Пока не удалось выделить. Оно как-то само возникает в нейросети. На больших нейросетях его действие становится почти очевидным. Как обнаружить минимальную единицу — пока не ясно.

S>>Вот именно. Но в голове то вы у себя держите гипотезу Пенроуза, признайтесь честно?
S>>И вы как бы видите что GPT гипотезе Пенроуза не удовлетворяет — нет квантовых эффектов. А хотелось бы.
S>>А что если дело не в квантовых эффектах?

N>Ничего этого у меня в голове не держится. Я вижу, как наделяют сознанием условную табуретку и не согласен с этим. Вот и всё.

Тогда нужно формально обосновать почему вы не согласны. Типа — сознание сможет решить эту задачу, а GPT не может.

S>>Вы пытаетесь делать махолет, в то время как человечество делает самолет. А цель — летать. Кто сказал что сознание возникает только тютелька в тютельку при повторении биологических систем?

N>Я ничего не делаю! Ты сам меня спросил, что общего у нейросети и мозга. Я в силу своей специальности читал книги типа "Глаз. Мозг. Зрение" и др про устройство мозга, функционирование первичной и вторичной зрительной коры и т.д.

Я тоже почитывал. Принципиальной разницы нет — спайковые сети или обычные. Спайковые же тоже накапливают сигнал, а не общаются цифровыми последовательностями.

Здравствуйте, Shmj, Вы писали:

S>То есть вы согласны — сознание может быть частичным?

Для меня это слишком сложная штука, чтобы вот так бросаться словами.

S>Хорошо — сколько минимум нужно транзисторов, чтобы автомат смог считать? До 1 как бы нельзя, до 2? До 3?

Давай редуцировать нейросети, а не аналогии.

S>Пока не ясно. Предположим будет как с транзисторами и счетным устройством. Вы можете точно сказать сколько нужно транзисторов для создания Т-триггера?

Нет, транзисторы — это аналогии. Давай, с сознанием определимся.

S>Пока не удалось выделить. Оно как-то само возникает в нейросети. На больших нейросетях его действие становится почти очевидным. Как обнаружить минимальную единицу — пока не ясно.

Так надо заниматься этим, а не словоблудием про частичное сознание.

S>Тогда нужно формально обосновать почему вы не согласны. Типа — сознание сможет решить эту задачу, а GPT не может.

Я примерно, с точностью до реализации представляю, как он устроен, поэтому в принципе не приемлю применение термина "сознание" к его работе. Чтобы его использовать, надо сперва формализовать. Не наделять неведомо что неведомо чем, а разбираться и формализовывать.

S>Я тоже почитывал. Принципиальной разницы нет — спайковые сети или обычные. Спайковые же тоже накапливают сигнал, а не общаются цифровыми последовательностями.

Ты почитывал, но до конца, видимо, не понял. Спайковые сети работают принципиально по-другому. Не также, как у человека нейроны, но ближе к ним.

	От:	Shmj
	Дата:	04.04.23 10:43
	Оценка:	+1

	От:	smeeld
	Дата:	04.04.23 11:22
	Оценка:	+3 -3

	От:	Shmj
	Дата:	04.04.23 11:29
	Оценка:

	От:	smeeld
	Дата:	04.04.23 12:23
	Оценка:

	От:	vsb
	Дата:	04.04.23 17:29
	Оценка:	+4

	Скрытый текст
	https://www.youtube.com/watch?v=5taE_br3Vr8

От:	Nuzhny	https://github.com/Nuzhny007
Дата:	04.04.23 19:36
Оценка:

От:	Qbit86	https://twitter.com/qbit86
Дата:	04.04.23 20:51
Оценка:

От:	Wawan	http://www.wawan.ru/resume
Дата:	06.04.23 11:39
Оценка:

	Картинка для самоуспокоения

	От:	LaptevVV
	Дата:	05.04.23 03:23
	Оценка:

	От:	Codealot
	Дата:	05.04.23 07:40
	Оценка:

	От:	Silver_S
	Дата:	05.04.23 12:51
	Оценка: