Ну тут, для примера:

	Скрытый текст
	https://www.youtube.com/watch?v=5taE_br3Vr8

	Картинка для самоуспокоения

Еще была статья, где писали что GPT 4 сам научился рисовать. Midjorney якобы не удивляет, т.к. его тренировали на картинках. А GPT никаких картинок не показывали, но он сам понял как все это устроено и научился рисовать сам — пусть и детские рисунки. Т.е. уже зафиксированы некие признаки сильного ИИ в зачаточном состоянии.

Если бы оно было тупое и просто автомат, т.е. была бы гарантия что он не научится чему-либо, чему его не учили прямо — то все проблемы бы не было. А поскольку оно каким-то образом умеет сопоставлять инфу и делать выводы косвенные, понять то, чему его не учили — то хотелось бы знать границы этого побочного эффекта.

Ваше мнение.

Здравствуйте, Shmj, Вы писали:

Еще была статья, где писали что GPT 4 сам научился рисовать

Они тебе там статеек сейчас понасочиняют. Чтоб хомячкам моск загадить и подсадить на очередную уловку от MS. Это все маркетинг. Все в треш. Эта система ассоциативная. Интеллектом обладать не можт в принципе. Тупой, но очень мощный генератор выходных данных, соответствующих задаваемому входному контексту. Интеллект-это принципиально иные системы. Про стенания Маска тоже все ясно, он нашел в этом один фатальный недостаток, угадай какой.

Здравствуйте, smeeld, Вы писали:

S>Еще была статья, где писали что GPT 4 сам научился рисовать
S>Они тебе там статеек сейчас понасочиняют.

Думаете такого не может быть, чтобы сам научился рисовать без прямого обучения?

Здравствуйте, Shmj, Вы писали:

S>Думаете такого не может быть, чтобы сам научился рисовать без прямого обучения?

Рисование-это выдача выходных данных. Если прикрутить выдачу выходных данных в виде графического контента, и задать подсистему генерации этого контента по ассоциям с входными данными, задаваемыми текстом-вот тебе и рисование. То есть, то, что в человеческом понимании называется как "научиться рисовать", технически реализовать достаточно просто в таких ассоциативных генераторах. Но это никакой не интеллект. Интеллект-это когда он начнет находить причины по следствиям. А учитель тут будет закрепляющим звеном, если будет. В идеале и учителя быть не должно, система должна сама критически оценить верность своих выводов.

Я думаю, что GPT-4 уже обладает тем, что можно назвать сознанием. Я думаю, что GPT-4 для общества не опасен, но если прогресс следующих версий будет такой же, то одна из них станет тем, что мы называем "Сильный ИИ", причём это произойдёт в ближайшие 7 лет. Я думаю, что опасность ИИ существует и это одна из величайших опасностей для существования человечества, наряду с ядерной бомбой и искусственными вирусами. При этом я не утверждаю, что такой ИИ обязательно вырвется из ЦОД-ов и уничтожит человечество, но я считаю, что такая опасность существует и к ней нужно относиться максимально ответственно.

Здравствуйте, smeeld, Вы писали:

S>Про стенания Маска тоже все ясно, он нашел в этом один фатальный недостаток, угадай какой.

Маск — это один из основателей OpenAI. Какой-такой недостаток? При этом сам OpenAI и создавался, угадай, для чего? Официально: для того, чтобы ИИ развивался контролируемо и не наделал бед. Так-то в официальной версии ничего не поменялось

Здравствуйте, Shmj, Вы писали:

S>Ваше мнение.

Я считаю, что это новая промышленная революция, с такими же последствиями.

Помните?

Не странно ль, что, если является в гости
К нам голод и слышится вопль бедняка.
За ломку машины ломаются кости
И ценятся жизни дешевле чулка?

Здравствуйте, Shmj, Вы писали:

S>Ваше мнение.

Да, по-моему, опасность ИИ реальна (вопрос лишь, насколько вероятна). Причём речь про экзистенциальный риск, а не про пустяки вроде «ИИ лишит многих работы» или с «помощью технологического прорыва Китай поработит весь мир».
Даже если текущие языковые модели — неподходящая ветка исследований для перехода к AGI и ASI, скорость развития в этой области всё равно впечатляет.

Здравствуйте, vsb, Вы писали:

vsb>Я думаю, что GPT-4 уже обладает тем, что можно назвать сознанием.

Или такое мнение от разработчика из Фейсбука:

​Чтобы немного поубавить хайп, вот вам наброс. Со слов самой GPT-4, она обладает рядом недостатков, делающих ее не прорывной, а проходной технологией:

1. Ограниченное понимание: GPT-4, как и другие модели, основанные на языке, не обладает истинным пониманием языка или контекста. Они обучены на основе статистических закономерностей и корреляций в данных, но не могут осмыслить предложения и понятия так, как делают люди.

2. Завышенные ожидания: Многие СМИ и блогеры могут представлять GPT-4 как "революцию" или "прорыв" в области искусственного интеллекта, что может привести к нереалистичным ожиданиям относительно его возможностей. Это может привести к разочарованию, когда модель не оправдывает надежды.

3. Ограничения в области творчества: GPT-4, хотя и способна генерировать тексты, изображения и музыку, в конечном итоге зависит от обучающих данных, собранных от людей. Оно не способно создавать истинно оригинальное искусство или идеи, что ограничивает его применимость в творческих областях.

4. Зависимость от больших объемов данных: GPT-4 требует огромного количества данных для обучения, что может вызывать проблемы в эффективности и воздействии на окружающую среду.

5. Дорогостоящее обучение и использование: Обучение и эксплуатация модели GPT-4 требует значительных вычислительных ресурсов, что делает их дорогостоящими и менее доступными для многих пользователей.

6. Непостоянство результатов: Искусственный интеллект GPT-4 может быть непредсказуемым, порождая качественно разные результаты при разных запросах или даже с небольшими изменениями ввода.

7. Сложность контроля: Ограничение и регулирование вывода GPT-4 может быть сложным процессом, поскольку модель может генерировать нецензурные, оскорбительные или нежелательные результаты, что требует дополнительных усилий для модерации и контроля.

8. Отсутствие интерпретируемости: Работа GPT-4 может быть сложна для понимания, поскольку модель имеет множество слоев и параметров, что затрудняет объяснение ее поведения.

9. Неполнота знаний: Обучение GPT-4 заканчивается на определенной дате, и модель не может учесть новые события или информацию, появившуюся после этого срока.

10. Ошибки и неточности: GPT-4 может давать неверные или неточные ответы, поскольку оно опирается на статистические закономерности, а не на глубокое понимание.

11. Зависимость от качества данных: Эффективность GPT-4 напрямую связана с качеством и объемом предоставленных обучающих данных, что может ограничивать его применимость в некоторых областях.

12. Склонность к усилению предубеждений: GPT-4 может усиливать существующие предубеждения и стереотипы, присутствующие в обучающих данных, что может привести к нежелательным результатам.

13. Отсутствие эмоционального интеллекта: GPT-4 не способно понимать или отражать эмоции, что ограничивает его способность к эффективному взаимодействию с людьми.

14. Безопасность данных: Использование GPT-4 может представлять риски для безопасности и конфиденциальности данных, особенно при обработке чувствительной информации.

15. Проблемы с авторским правом: GPT-4 может генерировать контент, который может нарушать авторские права или создавать юридические проблемы для пользователей.

GPT-4 — это только одна из многих ступеней в развитии AI. В будущем вероятно появятся более продвинутые и эффективные модели, которые могут заменить GPT-4, делая ее менее актуальной.

Если уж айтишники, которые в силу свое профессии должны были бы понимать как работает нейронка и что она из себя представляет, уже пару месяцев тут продолжают писать этот бред про думающий AI и как скоро он заменит нас всех — неудивительно что обычный народ действительно решил что создали почти скайнет, который скоро нас уничтожит
Непонятно даже вообще почему термин AI стали применять к нейронкам, видимо хотели раскрутить хайп, что собственно и получили

Здравствуйте, Nnova, Вы писали:

N>Если уж айтишники, которые в силу свое профессии должны были бы понимать как работает нейронка и что она из себя представляет, уже пару месяцев тут продолжают писать этот бред про думающий AI и как скоро он заменит нас всех — неудивительно что обычный народ действительно решил что создали почти скайнет, который скоро нас уничтожит

Ну вы то проверяли в действии? Почему вы считаете, что оно не думает? Я не говорю идеально на высочайшем уровне — но на уровне троечника средней школы, скажем так, вполне себе.

N>Непонятно даже вообще почему термин AI стали применять к нейронкам, видимо хотели раскрутить хайп, что собственно и получили

Потому что мозг человека тоже построен по принципу нейросетей и как-то это позволяет думать или типа того.

Здравствуйте, Shmj, Вы писали:

S>Ну вы то проверяли в действии? Почему вы считаете, что оно не думает? Я не говорю идеально на высочайшем уровне — но на уровне троечника средней школы, скажем так, вполне себе.

Я работал в компании, где нейронки применялись в определённых задачах вместо обычной алгоритмики, выхлоп околонулевой для реальных задач, при том что над нейронкой работала целая команда датасаентистов.
Из общеизвестных проблем можно еще вспомнить косяки самоуправляемых машин, типа когда она Луну воспринимала как жёлтый сигнал светофора и отказывалась ехать
Я пока что вообще не вижу как эти нейронка могут мне помочь в разработке кода, gpt4 уже скоро подключат к VS, и там предполагается возможность некоторого роста производительности возможно за счет автоматического генерирования кода по каким то словестным запросам. Но у меня время на само написание кода это несколько процентов от общего времени, остальное — это думать как должно работать

Здравствуйте, Shmj, Вы писали:

S>Ну вы то проверяли в действии? Почему вы считаете, что оно не думает? Я не говорю идеально на высочайшем уровне — но на уровне троечника средней школы, скажем так, вполне себе.

Блин, что значит "проверяли в действии"? Тут всё прозрачно: статья опубликована, есть код, аналоги, можно обучать самому. Ну, всё известно про эту нейросеть, нет там мыслей, а лишь заучивание статистического распределения слов.
Читал Дэвида Дойча? Он ратует за понимание и объяснение, а всё что сейчас могут дать нейросети — это инструментальные подходы, которые не могут дать новые объяснительные теории. Успехи нейросетей в генерации, поиске конфигураций белков и т.д. — это умение не находить новые закономерности, а аппроксимировать существующие данные. Где-то в каких-то точках таких аппроксимаций могут попадаться жемчужины результатов, но не знаний или объяснений. Это на текущий момент удел людей.

S>Потому что мозг человека тоже построен по принципу нейросетей и как-то это позволяет думать или типа того.

А крылья птиц построены по принципу крыльев самолёта, а это как-то помогает летать или типа того.

Здравствуйте, Nnova, Вы писали:

N>Я работал в компании, где нейронки применялись в определённых задачах вместо обычной алгоритмики, выхлоп околонулевой для реальных задач, при том что над нейронкой работала целая команда датасаентистов.

Вы трансформеры применяли? Успех был достигнут при использовании трансформеров — видимо нащупали что-то близкое к устройству мозга.


N>Я пока что вообще не вижу как эти нейронка могут мне помочь в разработке кода, gpt4 уже скоро подключат к VS

Некоторые задачи, как то перевод из одного ЯП на другой — норм.

Но дело не в этом.

Вы говорите что она не умеет думать. А критерии какие? Поговорите с простыми людьми, которые работают на тракторе всю жизнь, к примеру. Попробуйте позадавать им те же вопросы и сравните с ответами GPT.

Если не отгребете по голове, то поймете что GPT мыслит как минимум не хуже, скажем мягко. Только она не упорствует, когда укажешь на ошибки — а тракториста попробуй еще убеди.

Здравствуйте, Nuzhny, Вы писали:

N>Блин, что значит "проверяли в действии"? Тут всё прозрачно: статья опубликована, есть код, аналоги, можно обучать самому. Ну, всё известно про эту нейросеть, нет там мыслей, а лишь заучивание статистического распределения слов.

И как это позволяет сети обосновывать ход своих мыслей при решении логических задач?

Видимо возникает эмерджентный эффект, который как бы не возможно понять ввиду того, что проявляется только на огромных масштабах, на масштабах, которые не поддаются анализу.

N>Успехи нейросетей в генерации, поиске конфигураций белков и т.д. — это умение не находить новые закономерности, а аппроксимировать существующие данные. Где-то в каких-то точках таких аппроксимаций могут попадаться жемчужины результатов, но не знаний или объяснений.

Но оно объясняет. И объясняет вполне внятно. Как?

Возможно что человек тоже не способен находить новые закономерности — просто что-то подглядел случайно, что-то случайно нагенерил — и оно подошло как пазл в сройную систему его нейронных связей.

S>>Потому что мозг человека тоже построен по принципу нейросетей и как-то это позволяет думать или типа того.
N>А крылья птиц построены по принципу крыльев самолёта, а это как-то помогает летать или типа того.

Ну да.

Здравствуйте, smeeld, Вы писали:

S>Интеллект-это когда он начнет находить причины по следствиям. А учитель тут будет закрепляющим звеном, если будет. В идеале и учителя быть не должно, система должна сама критически оценить верность своих выводов.

В такой формулировке, у примерно 99% людей интеллекта нет.

Здравствуйте, Nuzhny, Вы писали:

N>​Чтобы немного поубавить хайп, вот вам наброс. Со слов самой GPT-4, она обладает рядом недостатков, делающих ее не прорывной, а проходной технологией:

Моё мнение такое.

Да, суть технологии это попугай, запомнивший все книги.

Но вот с определённого размера такие сети, например, научились подозрительно хорошо считать. Рост был нелинейный. До какого-то момента они просто повторяли то, что встречали в обучающих материалах и в основном лажали на том, что в обучающих материалах не встречали. А когда размер модели перевалил за 10^10, то получился абсолютно нелинейный скачок. Когда модель таки вывела закономерности и стала их успешно применять для незнакомых примеров.

Любые сравнения LLM и людей считаю не имеющими смысла. Это очевидно, что LLM работает не так, как мозг человека. Но не очевидно, что это плохой или тупиковый путь. Автомобиль тоже не работает так, как ноги человека. Это не мешает ему быть намного лучше для передвижения. Так и тут. GPT4 уже демонстрирует совсем неочевидные свойства. Та же способность к вычислениям. Или эмоции. Или умение рисовать. Какие ещё свойства вылезут при дальнейшем росте модели? По-моему никто не знает.

Здравствуйте, Shmj, Вы писали:

S>Вы трансформеры применяли? Успех был достигнут при использовании трансформеров — видимо нащупали что-то близкое к устройству мозга.
Не знаю, я не датасаентист, подскажи про трансформеров Маску, что бы его тесла в следующий раз на луну на тупила


S>Вы говорите что она не умеет думать. А критерии какие? Поговорите с простыми людьми, которые работают на тракторе всю жизнь, к примеру. Попробуйте позадавать им те же вопросы и сравните с ответами GPT.

S>Если не отгребете по голове, то поймете что GPT мыслит как минимум не хуже, скажем мягко.

Это ты вот про это?

Здравствуйте, Shmj, Вы писали:

S>Ваше мнение.

Пока все развивается на понимаемом уровне, предсказуемо (хоть и все более качественно) работающие генеративные сети. Так что да, хайп.
Как будет в будущем — хз.

Здравствуйте, Nnova, Вы писали:

S>>Вы трансформеры применяли? Успех был достигнут при использовании трансформеров — видимо нащупали что-то близкое к устройству мозга.
N>Не знаю, я не датасаентист, подскажи про трансформеров Маску, что бы его тесла в следующий раз на луну на тупила


S>>Вы говорите что она не умеет думать. А критерии какие? Поговорите с простыми людьми, которые работают на тракторе всю жизнь, к примеру. Попробуйте позадавать им те же вопросы и сравните с ответами GPT.

S>>Если не отгребете по голове, то поймете что GPT мыслит как минимум не хуже, скажем мягко.

N>Это ты вот про это?
N>Image: 1252110_original.jpg

https://rsdn.org/forum/humour/8496980.1

Автор: vsb
Дата: 02.04.23