Здравствуйте, Shmj, Вы писали:
S>Его сила — в широте охвата. Вы сколько языков знаете? Русский, англ. Все? А он знает фактически все языки мира.
Как это связано с моим вопросом о минимизации функционалов? Чтобы её выполнить, все языки мира знать не нужно. Нам в своё время хватило нескольких фундаментальных трудов по прикладной математике и статей в периодике. И вообще, а зачем мне знать все языки мира.
S>Он не может ответить на сложные вопросы, зато широта охвата такая, которой вам не достичь за всю жизнь.
Диапазон знаний его был грандиозен. Ни одной сказки и ни одной песни он не знал больше чем наполовину, но это были русские, украинские, западнославянские, немецкие, английские, по-моему, даже японские, китайские и африканские сказки, легенды, притчи, баллады, песни, романсы, частушки и припевки. Склероз приводил его в бешенство, несколько раз он бросался на ствол дуба и драл кору когтями, он шипел и плевался, и глаза его при этом горели как у дьявола, а пушистый хвост, толстый, как полено, то смотрел в зенит, то судорожно подергивался, то хлестал его по бокам. Но единственной песенкой, которую он допел до конца, был "Чижик-пыжик", а единственной сказочкой, которую он связно рассказал, был "Дом, который построил Джек" в переводе Маршака, да и то с некоторыми купюрами. Постепенно — видимо, от утомления — речь его обретала все более явственный кошачий акцент. "А в поли, поли, — пел он, — сам плужок ходэ, а… мнэ-э… а… мнэ-а-а-у!.. а за тым плужком сам… мья-а-у-а-у!.. сам господь ходе… или броде?.." В конце концов он совершенно изнемог, сел на хвост и некоторое время сидел так, понурив голову. Потом тихо, тоскливо мяукнул, взял гусли под мышку и на трех ногах медленно уковылял по росистой траве.
Здравствуйте, Shmj, Вы писали:
S>Так это и хорошо, представьте сколько бы вы руками искали нужный пример в 10 ТБ кода.
Не так много, как некоторым кажется. Ктоме того, как я уже упоминал, от GPT я получал примеры неработающего кода. Но поскольку меня хорошо учили, я обходился собственным опытом.
Да, а чего вопросы по прикладной математике пропустили, которые я задал? Умеет GPT функционалы минимизировать? Пространство примерно полсотни измерений.
Здравствуйте, Pauel, Вы писали:
P>Похоже. что вы переобулись. Всего несколько месяцев назад вы нам рассказывали что оно умеет и думать и почти что чувствовать.
Думать умеет на уровне среднего человека, не шибко умного, но эрудированного во всех областях знаний.
Задать вопрос среднему человеку, который не сильно глубоко копал — получите ответ подобный GPT в лучшем случае.
Чувствовать — никогда не говорил что умеет. Именно в смысле испытывать наслаждение и страдание — это единственное, чего нет ни в каком виде в искусственных системах. Это величайшая загадка Вселенной — скорее всего является фундаментальным свойством некой частицы, которая встраивается в мозг с помощью механизма типа молекулы Познера.
Пока мы не ценим умение ощущать наслаждение и страдание — нам главное видимый результат — способность решить задачу. А чувства мы игнорим. А между тем только это и имеет смысл — сама по себе задача не нужна, если не будет того, кто сможет насладиться результатами ее решения.
Здравствуйте, Shmj, Вы писали:
S>Может я не понимаю чего? Как этот .pth применить и спросить у этой модели что-то?
Это питорчевская модель.
А применить? Ну можешь гвоздь попробовать забить.
Немножко посмотрел эту тему как пользователь пока.
Вроде не было не было — и тут новая реальность, похлеще чем криптовалюты. Ну т.е. и до биткойна вроде была какая-то анонимная децентрализованная валюта в даркнете, вроде писали — но на практике не работало, когда захотел найти, может даже байка.
LLM просто срыв башки, новая реальность.
Но везде где большие деньги — везде и мутки сразу начинаются.
Вот есть готовые софтины для работы с моделями — LMStudio и Ollama. Тут вроде все ОК, полная кроссплатформа, все ставится и работает по клику, мощный компьютер для простых моделек не нужен.
Там есть llama3, а вот последней 3.1 — нету. И тут начались мутки.
Скачал я эту Llama-3.1-8B в двух варианта (вторая это -Instruct) — а запустить не могу. Мутки страшные. Даже платный ChatGPT не смог — значит обычный пользователь так же не разберется.
Формат файлов дают .pth, а его так просто не применить.
Есть инструкция как запустить, но она уже устарела: https://gist.github.com/jonahgeorge/b4b17239b589f61c3dc219a4e997ec7f Ранее в репо llama.cpp видимо был скрипт convert-pth-to-ggml.py — но сейчас его не — зачем убрали? Мутки. Т.е. видимо автору доплатили денег чтобы убрал.
Может я не понимаю чего? Как этот .pth применить и спросить у этой модели что-то?
Здравствуйте, Privalov, Вы писали:
S>>Может я не понимаю чего? Как этот .pth применить и спросить у этой модели что-то? P>А что GhatGPT говорит? Он же всё знает.
Платный самый новый — 2 часа пробовал и не смог запустить — пробовал все варианты. Не смог. И код на python приводил и через llama.cpp — ничего не вышло.
Здравствуйте, Shmj, Вы писали:
S>Платный самый новый — 2 часа пробовал и не смог запустить — пробовал все варианты. Не смог. И код на python приводил и через llama.cpp — ничего не вышло.
Здравствуйте, Privalov, Вы писали:
P>Балинн, за ненужную хрень ещё и платить?
Оно не всемогутор же.
Оно хорошо помогает въехать в тему. Вместо поисковика как бы — сразу дает ответ. А вот сложные вопросы решать пока не умеет. Если ты в чем-то нулевой, а в нашем деле если широкий охват — то всегда будешь нулевым в чем-то — поможет. Когда что-то более углубленое — уже все, будет водить по кругу.
Здравствуйте, Shmj, Вы писали:
S>Оно не всемогутор же.
Я не видел, что он вообще что-то умеет.
S>Оно хорошо помогает въехать в тему.
Даже не смешно. Мне всё время неработающий код выдавало. Правда, я без него в тему въехал. И не скащать, чтобы сильно напрягался. Меня зорошо учили в своё время.
Здравствуйте, Shmj, Вы писали:
S>Там есть llama3, а вот последней 3.1 — нету. И тут начались мутки.
Вроде как уже появилась.
S>Скачал я эту Llama-3.1-8B в двух варианта (вторая это -Instruct) — а запустить не могу. Мутки страшные. Даже платный ChatGPT не смог — значит обычный пользователь так же не разберется.
А зачем обычному пользователю разбираться? Это вполне себе техническая задача — конвертация из одного сложного формата в другой.
S>Есть инструкция как запустить, но она уже устарела: https://gist.github.com/jonahgeorge/b4b17239b589f61c3dc219a4e997ec7f Ранее в репо llama.cpp видимо был скрипт convert-pth-to-ggml.py — но сейчас его не — зачем убрали? Мутки. Т.е. видимо автору доплатили денег чтобы убрал.
S>Может я не понимаю чего? Как этот .pth применить и спросить у этой модели что-то?
Можно и сконвертировать, и питоновский применить. Но лень разбираться, потому что срочно это никому не надо, проще подождать, пока специалисты сделают. Там же всякие квантизации, оптимизации и т.д.
Про мутки — фигня. Автор llama.cpp мутит? Зачем ему это? Тем более что проект открытый, любой может сделать.
Ты искал, что случилось со скриптом конвертации? Обычно в таких больших проектах по движению левой пятки ничего не делается. Надо посмотреть issues, pull request, где это обсуждали и делали. Там же наверняка описана альтернатива. Только делать всё это надо не с ЧатГПТ, а самому, исследовать репозиторий.
Здравствуйте, Privalov, Вы писали:
S>>Давайте вопрос, который вам интересен и который в гугле так просто не найдешь. P>Меня интересует ответ на Основной вопрос о жизни, Вселенной и всём остальном.
Ну зачем на глупости переходить. Задайте сложный вопрос по Haskell, к примеру, который не удается найти в Гугл.
Это просто новый тип поисковика. Писали что один запрос в Гугл энергетически эквивалентен доведению до кипения стакана воды. А запрос в GPT — в 10 раз дороже.
Здравствуйте, Shmj, Вы писали:
S>Ну зачем на глупости переходить. Задайте сложный вопрос по Haskell, к примеру, который не удается найти в Гугл.
Что, ChatGPT ответа на этот вопрос не нашёл? А он давно известен.
Я пока ещё в состоянии находить ответы на возникающие вопросы, читая документацию, ставя эксперименты.
Когда я работал в НИИ, там приходилось считать матан. GPT функционалы минимизировать умеет? Решение СОДУ такое, чтобы оно тесты Калиткина проходило, дать может?
S>Это просто новый тип поисковика. Писали что один запрос в Гугл энергетически эквивалентен доведению до кипения стакана воды. А запрос в GPT — в 10 раз дороже.
Это я давно заметил. Он выдаёт код, подозрительно похожий на примеры из MSDN или SO.
Здравствуйте, Privalov, Вы писали:
S>>Это просто новый тип поисковика. Писали что один запрос в Гугл энергетически эквивалентен доведению до кипения стакана воды. А запрос в GPT — в 10 раз дороже. P>Это я давно заметил. Он выдаёт код, подозрительно похожий на примеры из MSDN или SO.
Так это и хорошо, представьте сколько бы вы руками искали нужный пример в 10 ТБ кода.
Здравствуйте, Privalov, Вы писали:
P>Не так много, как некоторым кажется. Ктоме того, как я уже упоминал, от GPT я получал примеры неработающего кода. Но поскольку меня хорошо учили, я обходился собственным опытом.
Сейчас уже меньше.
P>Да, а чего вопросы по прикладной математике пропустили, которые я задал? Умеет GPT функционалы минимизировать? Пространство примерно полсотни измерений.
Его сила — в широте охвата. Вы сколько языков знаете? Русский, англ. Все? А он знает фактически все языки мира.
Он не может ответить на сложные вопросы, зато широта охвата такая, которой вам не достичь за всю жизнь.
Здравствуйте, Privalov, Вы писали:
P>Это я давно заметил. Он выдаёт код, подозрительно похожий на примеры из MSDN или SO.
Не знаю, где они берут код для датасетов, но тому, что видел я, до MSDN и SO срать и срать. Типа игнорирования наличия параметра userdata в колбеке и задействования вместо него глобальной переменной. (В таких ситуациях, когда юзают процедурный API из плюсов, лично я делаю pThis). То есть, понятно, что это копипаст из чьего-то кода (а то начитаются пелевиных и думают, что это священный дух снизошёл в микросхему), но это копипаст из чьего-то очень херового кода.
Здравствуйте, Shmj, Вы писали:
S>Оно хорошо помогает въехать в тему. Вместо поисковика как бы — сразу дает ответ. А вот сложные вопросы решать пока не умеет.
Похоже. что вы переобулись. Всего несколько месяцев назад вы нам рассказывали что оно умеет и думать и почти что чувствовать.
Здравствуйте, Alekzander, Вы писали:
A>Не знаю, где они берут код для датасетов, но тому, что видел я, до MSDN и SO срать и срать.
Ну я и говорю — похожий. В том смысле, что где-то он забывает обработку исключения из исходного примера MSDN вставить. У меня возникли вопросы к шарповому HttpClient, он там постоянно с заголовками путается. Наверное, интеллект включить пытается. В общем, не нужен.
P.S. Когда-то читал книгу. Автора и название прочно забыл. Речь в ней шла о планете или стране Кибертония. У жителей песня была, возможно, гимн. В нём звучало: наш Кибер думает за нас. Закончилось всё плохо: люди жиди в пещерах и изобретали, если не ошибаюсь, палку-копалку или что-то вроде.
Здравствуйте, Privalov, Вы писали:
P>P.S. Когда-то читал книгу. Автора и название прочно забыл. Речь в ней шла о планете или стране Кибертония. У жителей песня была, возможно, гимн. В нём звучало: наш Кибер думает за нас. Закончилось всё плохо: люди жиди в пещерах и изобретали, если не ошибаюсь, палку-копалку или что-то вроде.
И что, он в самом деле думал в этой книжке? Или как наш, рандомно перемешивал чужие карточки, написанные х пойми кем в Интернете?
Я к тому, что такие сравнения, по-моему, незаслуженный комплимент. Недавно один чел оставил меткий камент к новости, что, якобы, альтманский продукт угрожает человечеству: на меньшее инвесторы уже не ведутся.
Здравствуйте, Alekzander, Вы писали:
A>И что, он в самом деле думал в этой книжке? Или как наш, рандомно перемешивал чужие карточки, написанные х пойми кем в Интернете?
Примерно как GPT. Но народ вёлся, как говорится, добровольно и с песней.
A>Я к тому, что такие сравнения, по-моему, незаслуженный комплимент.
Да просто ассоциация сработала. Автор темы по всем вопросам бежит советоваться с ИИ. "Наш Кибер думает за нас" в чистом виде.
Здравствуйте, Shmj, Вы писали:
S>Чувствовать — никогда не говорил что умеет. Именно в смысле испытывать наслаждение и страдание — это единственное, чего нет ни в каком виде в искусственных системах. Это величайшая загадка Вселенной — скорее всего является фундаментальным свойством некой частицы, которая встраивается в мозг с помощью механизма типа молекулы Познера.
Не надоело еще бредить? Это простейший механизм "кнута-и-пряника". То что тысячелетиями вело к выживанию твоего рода — приносит удовольствие (наслаждение), то что не вело — приносит страдание. Причем вес "кнута" много выше, потому как цена ошибки твоя смерть, а трупы не размножаются.
Здравствуйте, Vzhyk2, Вы писали:
V>Не надоело еще бредить? Это простейший механизм "кнута-и-пряника". То что тысячелетиями вело к выживанию твоего рода — приносит удовольствие (наслаждение), то что не вело — приносит страдание. Причем вес "кнута" много выше, потому как цена ошибки твоя смерть, а трупы не размножаются.
У вас произошла подмена понятий — наслаждение и страдание — вы начали ассоциировать с наслаждение — правильно и страдание — неправильно. Такая ассоциация произошла, видимо, из-за детских травм — вас наказывали за неправильное и х давали насладиться (конфетку) за правильное.
На самом деле "правильное" и "наслаждение" — совсем разные феномены. То что мы основаны на наслаждении и страдании — как бы обязует использовать эти феномены для управления нами — т.е. наказывать за неправильное (с чьей-то т.з.) и дать насладиться за правильное (с чьей-то позиции — возможно на самом деле оно не правильное).
Автоматические системы могут выполнять т.н. "правильное" или "заданное" без необходимости феноменов наслаждения и страдания.
