Здравствуйте, Osaka, Вы писали:

S>>И основной вопрос — приняли ли вы уже это? Или же имеете внутреннюю неприязнь к ИИ и системам, построенным на его основе?
O>Всегда обходил смердфоны стороной, и теперь стало понятно почему.

Ты вообще не пользуешься телефоном?

В кнопчатом телефоне места для взрывчатки уж точно уж не меньше, чем в пейджере. А в механическом телефоне с диском номеронабирателя, если совсем уж отказываться от электроники, найдеся место и для киллограмма тротилла и для осколочных поражающих элементов. Таким устройсвом, при удачном раскладе, можно не то, что человека убить, а вынести подъезд панельной многоэтажки...

Pzz>Ты вообще не пользуешься телефоном?
"Вообще" уже не получится, под угрозой лишения гражданских прав (ни в банке не обслуживают, ни на работу не берут, ни на госуслугах).
Pzz>В кнопчатом телефоне места для взрывчатки уж точно уж не меньше, чем в пейджере.
Но следящего софта точно меньше чем в смердфоне, и удалённо накатить "обновление" не получится. Только то что было 10 лет назад при изготовлении, когда людоеды ещё не были настолько высокотехнологичными.
>А в механическом телефоне с диском номеронабирателя, если совсем уж отказываться от электроники, найдеся место и для киллограмма тротилла и для осколочных поражающих элементов. Таким устройсвом, при удачном раскладе, можно не то, что человека убить, а вынести подъезд панельной многоэтажки...
Бомбе телефон совершенно не обязателен, если уж настолько расширенно толковать.

Здравствуйте, Muxa, Вы писали:

S>>Если вы для каждого обучающего текста будете делать копию сети, чтобы отслеживать все изменения — то размер будет увеличиваться экспоненциально и достаточно быстро упретесь в то что атомов во Вселенной не хватит для создания хранилища нужного объема. Причем упретесь в это на 1 мегабайте обучающего текста, а впереди еще 100 терабайт как было так и осталось.

M>А если действовать более подходящим образом, то все получится.

Нет такого способа. Там же невообразимое количество связей и коэффициентов, все друг на друга влияют. Развернуть эти связи и как-то понять как они коррелируют с исходным датасетом — не возможно ввиду необратимости фукнкций.

Модель — это программа, а не просто входящие данные.

Здравствуйте, Pzz, Вы писали:

Pzz>Нейронная сеть, грубо говоря, нащупывает обобщения между входными параметрами методом накопления статистических данных. Если эти секретные вопросы выводятся путем обобщения из того, чему сеть учили, она их найдет. Если не выводятся, не найдет. К вопросу о том, думает ли она, это не имеет вообще никакого отношения.

Они могут выводиться, т.к. базовые законы логики и некий набор фактов — не занимают такой уж большой объем данных — а нейросетка не найдет решеине.

Вообще вся большая геометрия зиждется на малом количестве аксиом — из которых все выводится. Значит ли это что нейросетка способна вевести все существующие а так же еще не открытые теоремы на базе этих аксиом?

Pzz>И кстати, чтобы выяснить, думает ли некая субстанция, для начала надо определить понятие думания. Ответ будет сильно зависеть от определения.

Базовые понятия не определяются. Мы не знаем что такое время, пространство, материя — но оперируем этими понятиями. Не формальное определение есть — в т.ч. у понятия думать. Формального — нет, т.к. эти все вещи непознаны.

M>>А если действовать более подходящим образом, то все получится.

S>Нет такого способа. Там же невообразимое количество связей и коэффициентов, все друг на друга влияют. Развернуть эти связи и как-то понять как они коррелируют с исходным датасетом — не возможно ввиду необратимости фукнкций.

"Нет способа", и "ты не знаешь способа" это разные вещи.

Здравствуйте, Muxa, Вы писали:

M>"Нет способа", и "ты не знаешь способа" это разные вещи.

Дело в том что и создатели не знают. Просмотрели датасет — вроде оно не должно было решать задачи подобного рода, ее этому не обучали. Но оно решает!!! И никто не может понять как это произошло. Вот в чем фокус — об этом же и говорят сейчас. Где-то нейросетка сама нашла некие связи, сама догадалась из одного вывести другое, хотя люди думали что это не возможно на основе обучающей базы решить.

Т.е. создатели сами не могут сказать что может их прога а чего не может.

И по понятным причинам нельзя развернуть модель и посмотреть на основе каких данных выполнен тот или иной ответ.

M>>"Нет способа", и "ты не знаешь способа" это разные вещи.

S>Дело в том что и создатели не знают. Просмотрели датасет — вроде оно не должно было решать задачи подобного рода, ее этому не обучали. Но оно решает!!! И никто не может понять как это произошло.

И в чем баг?
Какую проблему тут надо исправить?

Здравствуйте, Shmj, Вы писали:

S>Базовые понятия не определяются. Мы не знаем что такое время, пространство, материя — но оперируем этими понятиями. Не формальное определение есть — в т.ч. у понятия думать. Формального — нет, т.к. эти все вещи непознаны.

Мы оперируем их свойствами. Штука, которое обладает свойствами времени, предполагается, что и есть время. Свойства описывают взаимодействие некой сущности с другими сущностями.

Так каковы же свойства думанья?

Здравствуйте, Muxa, Вы писали:

S>>Дело в том что и создатели не знают. Просмотрели датасет — вроде оно не должно было решать задачи подобного рода, ее этому не обучали. Но оно решает!!! И никто не может понять как это произошло.

M>И в чем баг?
M>Какую проблему тут надо исправить?

Ну, к примеру, нужно чтобы нейросеть не могла логически верно отвечать на острые вопросы. В базу не вкладываются эти вопросы, но она все-равно почему-то умеет на них отвечать.

Можно добавить пред. фильтры, но выглядит как костыль и обходится.

Здравствуйте, Pzz, Вы писали:

Pzz>Мы оперируем их свойствами. Штука, которое обладает свойствами времени, предполагается, что и есть время. Свойства описывают взаимодействие некой сущности с другими сущностями.

Но не понимая до конца сути явления — нельзя говорить обо всех его свойствах. К примеру, можем ли мы 100% заявить что время для разных наблюдателей может течь с разной скоростью? А про изменение направления, может ли время пойти в обратную сторону?

Pzz>Так каковы же свойства думанья?

Аналогично — мы до конца не знаем. Наблюдаемое нами — думание позволяет решать задачи. Так же задачи можно решать и без думания — студенты прекрасно знают что можно решить самому а можно списать, не напрягаясь. Вроде бы решает тем что препод может задать пару вопросов и понять кто решал сам а кто просто списал — но и тут возможен обман с помощью микронаушника + ассистента.

Так что пока никто не знает что такое думание и как его отличить от симуляции думания.

Здравствуйте, Shmj, Вы писали:

Pzz>>Мы оперируем их свойствами. Штука, которое обладает свойствами времени, предполагается, что и есть время. Свойства описывают взаимодействие некой сущности с другими сущностями.

S>Но не понимая до конца сути явления — нельзя говорить обо всех его свойствах. К примеру, можем ли мы 100% заявить что время для разных наблюдателей может течь с разной скоростью? А про изменение направления, может ли время пойти в обратную сторону?

Слово "всех" вставил ты.

Мы понимаем некоторые, характерные, свойства, и они позволяют нам отделить время от других явлений. Что позволяет нам более углубленно изучать его свойства.

Не думаю, что найдется хоть какое-то невыдуманное явление, суть которого мы понимаем до конца. Что не мешает нам думать и уж, тем более, говорить.

Pzz>>Так каковы же свойства думанья?

S>Аналогично — мы до конца не знаем. Наблюдаемое нами — думание позволяет решать задачи. Так же задачи можно решать и без думания — студенты прекрасно знают что можно решить самому а можно списать, не напрягаясь. Вроде бы решает тем что препод может задать пару вопросов и понять кто решал сам а кто просто списал — но и тут возможен обман с помощью микронаушника + ассистента.

Что такое "решать задачи"? Думает ли принтер, решая задачу "напечатать PDF-файл"? Думает ли кошка, решая задачу "слямзить сосиску"?

Здравствуйте, Pzz, Вы писали:

S>>Аналогично — мы до конца не знаем. Наблюдаемое нами — думание позволяет решать задачи. Так же задачи можно решать и без думания — студенты прекрасно знают что можно решить самому а можно списать, не напрягаясь. Вроде бы решает тем что препод может задать пару вопросов и понять кто решал сам а кто просто списал — но и тут возможен обман с помощью микронаушника + ассистента.

Pzz>Что такое "решать задачи"? Думает ли принтер, решая задачу "напечатать PDF-файл"? Думает ли кошка, решая задачу "слямзить сосиску"?

В случае со временем — нет другого явления, которое в чем-то похоже на время, но отличается от него по сути.

А в случае с думанием такое явление есть — копирование результата думания. По этому возникает проблема — мы не можем отличить где было думание а где выдают готовый скопированный результат за результат своего думания.

Всю тему не читал, но когда я рисую рисунки с помощью нейросети Krea, и использую режим img2img (задача задаётся сочетанием текстового промпта и рисунка-наброска), возникает какое-то странное, может быть комфортности ощущение загадочности и волшебности процесса. Какой-то приятный когнитивный диссонанс. Т.е. я согласен что это магия.

Здравствуйте, Shmj, Вы писали:

Pzz>>Что такое "решать задачи"? Думает ли принтер, решая задачу "напечатать PDF-файл"? Думает ли кошка, решая задачу "слямзить сосиску"?

S>В случае со временем — нет другого явления, которое в чем-то похоже на время, но отличается от него по сути.

Да. И именно это позволяет оперировать со временем, как с базовым понятием без определения.

S>А в случае с думанием такое явление есть — копирование результата думания. По этому возникает проблема — мы не можем отличить где было думание а где выдают готовый скопированный результат за результат своего думания.

Складывается ощущение, что понятие думания четко не определено, и каждый наделяет это слово своим собственным смыслом.

(Заметим в скобках, что в обоих приведенных мною примерах принтер и котик не выдают чужой результат за плод своих раздумий.)

M>>И в чем баг?
M>>Какую проблему тут надо исправить?

S>Ну, к примеру, нужно чтобы нейросеть не могла логически верно отвечать на острые вопросы. В базу не вкладываются эти вопросы, но она все-равно почему-то умеет на них отвечать.

Сеть по генерации текста генерит текст, кто бы мог подумать.
Баг-то в чем разница заключается? В плохо натренированной модели?
Это у кого такая проблема? Дай ссылку почитать.

Здравствуйте, Shmj, Вы писали:

S>Но все-же когда исходники доступны (или кому исходники доступны) — можно отследить любое поведение. Пусть это будет и не просто.
Ну... да. Открываете исходники LLVM (~23 миллиона строк), исходники вашей программы (c хидерами — сотня тысяч строк).
Садитесь и начинаете медитировать

S>На выходе получите файлик от 7 Гб до 1 Тб. с некими коэффициентами, которые уже никак нельзя сопоставить с водными данными. На каждый коэффициент так или иначе влияло огромное количество данных как в плюс так и в минус.

S>И тут дело уже не в том что у тебя исходников нет или именно ты не достаточно компетентен, чтобы разобраться почему модель повела себя так. Просто нет физической возможности ответа на этот вопрос.
Почему? Есть. Садишься и отслеживаешь по исходным данным, как рассчитался каждый коэффициент.
S>Может где-то там среди 100 терабайт данных была похожая задача, может была такая же задача, но разнесенная на две в разных частях датасета. А может не на две а на две тысячи. Не остледить никак.
А вообще, есть целое направление объяснимых нейросетей. Потому что в ряде задач нам недостаточно получить "режьте здесь". Важно понять, на основе каких факторов и правил сделан такой вывод.
И нейросетки без объяснений будут применять только там, где нужно "сочини смешное стихотворение по киберпанк, любовь, смерть, и чтобы каждое слово начиналось с буквы К".

Здравствуйте, Muxa, Вы писали:

M>Сеть по генерации текста генерит текст, кто бы мог подумать.
M>Баг-то в чем разница заключается? В плохо натренированной модели?

В невозможности предсказать какие задачи возможно решить на основе данных того или иного датасета а какие невозможно. Задачи в конкретном виде может не быть в датасете — а нейросеть ее как-то научилась решать.

Отсутствие объяснимости решений — нейросети работают как «черные ящики», и даже их разработчики не могут точно объяснить, как принимаются решения. Это приводит к трудностям в проверке моделей на соответствие этическим нормам или регуляциям, что вызывает тревогу при их применении в важных областях, таких как медицина или правосудие.

Проблема тут в том что даже сами создатели библиотек или наборов данных не могут делать прогнозы — их творение непредсказуемо для них самих.

M>Это у кого такая проблема? Дай ссылку почитать.

https://news.mit.edu/2024/llms-develop-own-understanding-of-reality-as-language-abilities-improve-0814

Здравствуйте, Shmj, Вы писали:

Ты опять подменяешь термины своими фантазиями?

Ма́гия (лат. magia, греч. μαγεία) — действия, связанные с верой в способность человека влиять на силы природы, предметы, животных, судьбу людей, подчиняя себе сверхъестественные силы или манипулируя ими с помощью заклинаний, амулетов и определённых обрядов.

И куда тут ИИ впихнуть?

Здравствуйте, Shmj, Вы писали:

S>Давайте поменяемся интеллектом. В какой сфере вы сильны?

Еще бы называть «интеллектом» базу поверхностных неструктурированных знаний, ядрено смешанных с какими-то бредовыми фантазиями и фальсификацией терминов

Уверен, по объему такой базы ты всех тут переплюнешь. Только при чем тут «интеллект»?

Здравствуйте, Sinclair, Вы писали:

S>Здравствуйте, Shmj, Вы писали:

S>>Но все-же когда исходники доступны (или кому исходники доступны) — можно отследить любое поведение. Пусть это будет и не просто.
S>Ну... да. Открываете исходники LLVM (~23 миллиона строк), исходники вашей программы (c хидерами — сотня тысяч строк).
S>Садитесь и начинаете медитировать

Но ведь они структурированы, их не боги с небес спустили а люди писали. Там есть комменты, структура и пр. — т.е. понять все-таки хотя и сложно — но реально.
S>>И тут дело уже не в том что у тебя исходников нет или именно ты не достаточно компетентен, чтобы разобраться почему модель повела себя так. Просто нет физической возможности ответа на этот вопрос.
S>Почему? Есть. Садишься и отслеживаешь по исходным данным, как рассчитался каждый коэффициент.

50 млрд. коэффициентов, 100 трлн. связей, при каждом цикле обучения каждый из них прыгает то туда то назад и хрен пойми что с чем связано и что на что влияет.

Ни комментов, ни структуры никакой нет — просто клубок.

S>>Может где-то там среди 100 терабайт данных была похожая задача, может была такая же задача, но разнесенная на две в разных частях датасета. А может не на две а на две тысячи. Не остледить никак.
S>А вообще, есть целое направление объяснимых нейросетей. Потому что в ряде задач нам недостаточно получить "режьте здесь". Важно понять, на основе каких факторов и правил сделан такой вывод.
S>И нейросетки без объяснений будут применять только там, где нужно "сочини смешное стихотворение по киберпанк, любовь, смерть, и чтобы каждое слово начиналось с буквы К".

Но пока именно необъяснимые нейросети рулят. Будут ли те объяснимые и насколько успешны — большой вопрос. Дело в том что сам человек не знает толком откуда в его голове берется решение тех задач, решению которых его не обучали напрямую.