Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
Нет, он не работает. Галлюцинации неприемлемы. ИИ должен либо давать верный ответ, либо честное "я не знаю".
Ибо если я должен проверять каждый ответ, то зачем такой ИИ вообще нужен? Не проще ли сразу обратиться к надёжному источнику?
Не может он работать по трём причинам:
1)Нейросеть это аппроксиматор. То есть в лучшем случае НС можно довести до состояния, когда в большинстве случаев она будет не сильно врать.
А нам нужен точный ответ всегда.
2)НС имеет определённую емкость. Просто по тому, что количество параметров фиксировано. Соответственно каждый раз, когда в НС добавляется новый факт, есть шанс что он столкнётся с уже добавленными фактами, и они исказят друг друга непредсказуемым образом. И чем больше фактов добавлено, тем выше вероятность столкновения. Со временем она достигнет 100%. А количество фактов растёт постоянно.
Именно из-за ограниченной ёмкости нейросети для GPT имеют такой неадекватный размер. Иначе туда тупо не влезает нужное количество фактов.
3)Я кто-то задавался вопросом: А что авторы GPT аппроксимируют?
НС это непрерывная функция, определённая на всём наборе входных параметров.
Факты это разряженное облако не связанных между собой точек определённое только в этих точках.
Ты либо знаешь, либо нет.
Сколько у меня домашних животных?
Даже если идеальному ИИ дать всю информацию обо всех людях, но исключить информацию о моих домашних животных то единственный приемлемый ответ на этот вопрос будет "я не знаю".
Любая попытка заполнить пространство между точками приведёт к генерации бесконечного количества бреда.
А НС именно для этого и созданы. На вход алгоритму обучения НС дают облако точек, и он создаёт функцию, которая заполняет пространство между точками.
Это три источника галлюцинаций. И все они являются неотъемлемыми свойствами НС.
Для сравнения пример задачи, которая хорошо решается нейросетями: Распознавание текста в картинке.
1)Входные данные по своей природе шумные. Как следствие приблизительное решение неизбежно.
2)Количество символов используемых людьми конечно. Как следствие НС можно сделать достаточно большой, чтобы в неё влезла информация обо всех символах. И в тоже время достаточно маленькой чтобы не происходило переобучение(overfitting).
3)Символы можно плавно масштабировать, вращать, искривлять итп. Соответственно тут явно просматривается непрерывная функция.
... << RSDN@Home 1.0.0 alpha 5 rev. 0>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, WolfHound, Вы писали:
WH>Ибо если я должен проверять каждый ответ, то зачем такой ИИ вообще нужен? Не проще ли сразу обратиться к надёжному источнику? WH>Не может он работать по трём причинам: WH>1)Нейросеть это аппроксиматор. То есть в лучшем случае НС можно довести до состояния, когда в большинстве случаев она будет не сильно врать. WH>А нам нужен точный ответ всегда.
Потрясающе (tm)
Сначала мы пытаемся воспроизвести человеческий разум.
А потом удивляемся, что он ведёт себя как человек — врёт, ошибается, путает всё на свете, имеет несовершенные органы чувств и аппроксимирует то, чего не в состоянии воспринять, обладает нестабильным состоянием...
И кому это "нам" нужен точный ответ? Я вот предпочёл бы больше кругозора и решений, до которых я бы в принципе не додумался. Проверить точность можно и другими средствами.
WH>Любая попытка заполнить пространство между точками приведёт к генерации бесконечного количества бреда. WH>А НС именно для этого и созданы. На вход алгоритму обучения НС дают облако точек, и он создаёт функцию, которая заполняет пространство между точками.
WH>Это три источника галлюцинаций. И все они являются неотъемлемыми свойствами НС.
Здравствуйте, WolfHound, Вы писали:
WH>Нет, он не работает. Галлюцинации неприемлемы. ИИ должен либо давать верный ответ, либо честное "я не знаю".
Кому должен? Тебе? Не пользуйся и мигрируй в nohire.
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
для меня все стало понятно, когда на простой вопрос "кто американцам дал право вторгаться в десяток стран, убивая при этом миллионы людей" ChatGPT выдал стандартную хрень про дермократию.
Нужно писать свой правильный GPT. У китайцев наверняка уже свой есть, где все есть заслуга Патрии, а во всех неудачах виноваты американские империалисты. Нам нужно что-то похожее.
В сложившихся условиях ни то, ни другое не сулило ему никакой выгоды. Чего не скажешь о молчании...
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе. WH>Нет, он не работает. Галлюцинации неприемлемы. ИИ должен либо давать верный ответ, либо честное "я не знаю". WH>Ибо если я должен проверять каждый ответ, то зачем такой ИИ вообще нужен? Не проще ли сразу обратиться к надёжному источнику?
Ущербны люди, которые уверовали в приход сильного ИИ. А LLM не ущербны, а лишь выполняют свою задачу. А принцип работы понять проще, если обратиться к классическим языковым моделям, например, N-gram. Даже при ширине контекста 3 или 4 уже можно генерировать вполне связные тексты, а LLM просто кратно увеличивает это значение (это если по-простому объяснять), от чего создаётся впечатление, что у машины появился разум.
Здравствуйте, Mihal9, Вы
M>Сколько раз уже говорили, не спрашивайте у chatGPT на русском языке и не спрашивайте про российские/советские книги, фильмы, факты. Он мало обучен на таких данных.
Он вполне знает об этом фильме, как следует из последнего ответа. Но врет как сивый мерин.
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
Ну почему же. GPT — это такой модный поисковик на стероидах, который выдаёт синтетический ответ.
Вот как я его использовал на этой неделе:
Я:
как на С++ создать .gz файл с помощью zlib
ChatGPT
Для создания .gz файла с помощью библиотеки zlib на C++ вам потребуется выполнить несколько шагов. Вот пример простой программы, которая создает .gz файл:
#include <iostream>
#include <fstream>
#include <zlib.h>
int main() {
const char* filename = "example.txt"; // Имя файла для упаковкиconst char* gzfilename = "example.txt.gz"; // Имя .gz файла
// Открываем исходный файл для чтения
std::ifstream input(filename, std::ios::binary);
if (!input) {
std::cerr << "Failed to open input file: " << filename << std::endl;
return 1;
}
// Открываем .gz файл для записи
gzFile gzoutput = gzopen(gzfilename, "wb");
if (!gzoutput) {
std::cerr << "Failed to open output file: " << gzfilename << std::endl;
return 1;
}
// Читаем данные из исходного файла и записываем их в .gz файлchar buffer[1024];
while (input.good()) {
input.read(buffer, sizeof(buffer));
int bytesRead = input.gcount();
if (bytesRead > 0) {
if (gzwrite(gzoutput, buffer, bytesRead) != bytesRead) {
std::cerr << "Error writing to " << gzfilename << std::endl;
return 1;
}
}
}
// Закрываем файлы
gzclose(gzoutput);
input.close();
std::cout << "File successfully compressed to " << gzfilename << std::endl;
return 0;
}
Этот пример кода открывает исходный файл для чтения в бинарном режиме, а затем открывает .gz файл для записи в бинарном режиме с помощью функции gzopen из библиотеки zlib. Затем данные читаются из исходного файла и записываются в .gz файл с помощью функции gzwrite. После того как все данные записаны, .gz файл закрывается с помощью функции gzclose.
Взял за образец и переписал, как мне нужно.
Удобно.
Здравствуйте, WolfHound, Вы писали:
WH>Это любители Copilot должны быть nohire.
LLVM это инструмент, как макросы и т.д. Может ли он быть применен неправильно? Может, как и все остальное. Я даже соглашусь с тобой, что для технологов конкретно оное пока не совсем революция. Однако очень полезно и продуктивно. Ты можешь луддитствовать до посинения, но это ничего не изменит. Те кто осилил, прошли дальше по эволюции.
WH>https://www.gitclear.com/coding_on_copilot_data_shows_ais_downward_pressure_on_code_quality
Нет времени сейчас читать, но есть сомнения в достоверности метрик качества.
Q>Поживем увидим. Я придерживаюсь мнения, что необходимость думать ни куда не денется, ибо у тебя есть ИИ и у конкурента есть такой же ИИ, а результат борьбы будет определятся тем, кто лучше использует свой ИИ, т.е. мозгами.
Не будет никаких мозгов и никакой борьбы. Есть ИИ в турникете, есть ИИ в планшете у полицая, вы оба должны слушаться их обоих, если ты не слушаешься любого из троих — полицай обязан отхреначить тебя дубиной и забанить во всех турникетах пока ты будешь подавать в суд на робота (проход в суд кстати тоже через турникеты).
Данное сообщение является художественным произведением и освещает вымышленные события в вымышленном мире. Все совпадения с реальностью являются случайными. Не является инвестиционной рекомендацией.
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю.
Мне ChatGPT не зашёл — полностью отбита привычка задавать простые вопросы ("стыдно спрашивать, если это можно нагуглить"). Возможно существует такой тип людей, кому вопросы задавать легче, чем гуглить. Если бы кто-то подсказал как им пользоваться, было бы интересно почитать. Гугление круче вопроса-ответа тем, что пока гуглишь, видишь что "окружает" вопрос — всякие второстепенные ключевые слова, связь с близкими идеями. Т.е. на момент, когда получаешь ответ, получаешь на самом деле не только ответ, но и "атмосферу" вокруг вопроса-ответа. С ChatGPT такого нет — задаёшь тупой вопрос, получаешь тупой ответ. Хочешь умный ответ? Ну напиши умный вопрос. А умный вопрос не напишешь, если не знаешь область. С книжками аналогичная ерунда — кто-то любит конкретную выдержку по нужному вопросу, а мне обычно кажется более полезным вчитываться в оглавление Я вобщем ChatGPT использую только для троллинга — когда кто-то начинает мне задавать вопросы в духе "не хочу гуглить".
Здравствуйте, rosencrantz, Вы писали:
R>Здравствуйте, scf, Вы писали:
scf>>Здравствуйте, rosencrantz, Вы писали:
R>>>Тут вопрос — если не изучать вопросы достаточно глубоко, можно ли понять ответ ChatGPT?
scf>>А это вторая сильная сторона chatgpt — он умеет объяснять любые темы на любом уровне. Просто добавь к вопросу "for ten years old"
R>Вот так вот 40-летний дядька берёт объяснение на уровне 10-летнего — и делает выводы Я много сталкивался с людьми, которым надо принять решение, но не хватает понимания происходящего. Там как сформулируешь, такое и будет решение. У них, как правило убедительность перекрывает любое критическое мышление.
В США в чём разница между кондоминиумом и таун-хаусом. Объясни как будто мне 10 лет.
Представь, что у тебя есть большой короб для игрушек, который разделен на несколько отделений. Если у нас есть кондоминиум (или "кондо"), это значит, что ты владеешь только одним отделением в этом коробе, где хранятся твои игрушки, а все пространство вокруг (например, крышка короба, его стенки) принадлежит всем, кто имеет свои отделения в этом коробе. Все вместе вы заботитесь о коробе, платите за его чистку и ремонт, если что-то сломается.
Таун-хаус похож на домик для кукол, который стоит в ряд с другими такими же домиками. Ты владеешь одним таким домиком и небольшим кусочком земли вокруг него. За свой домик и кусочек земли ты отвечаешь сам, но также может быть общественное пространство (например, детская площадка или парк), за которое вы заботитесь вместе с соседями, которые тоже имеют свои домики.
Главное различие в том, что в кондо ты владеешь только воздухом внутри своего отделения, а в таун-хаусе ты владеешь и самим домом, и кусочком земли под ним.
Мои вопросы курсивом, его ответы жирным, мои комментарии — обычным шрифтом
Пан Атаман Грициан Таврический
"Пан Атаман Грициан Таврический" — это вымышленный персонаж, упомянутый в романе Михаила Булгакова "Белая гвардия". В этом романе Грициан Таврический является одним из главных антагонистов, представляющим новый режим и враждебный национализм в отношении старых ценностей и традиций.
М-да... Попробуем еще раз
Пан Атаман Грициан Таврический
Извините за путаницу. Пан Атаман Грициан Таврический — это персонаж из повести "Тихий Дон" Михаила Шолохова. Грициан Таврический изображен как представитель Красной армии и командир Краснодонского округа.
Час от часу не легче. Еще раз
Пан Атаман Грициан Таврический
Похоже, вы интересуетесь персонажем, который мог быть упомянут в литературном произведении или историческом контексте, но мне не известен такой персонаж, связанный с этим именем. Возможно, это имя или фигура из какого-то специфического произведения или исторического события, о котором мне не известно. Если у вас есть дополнительная информация или контекст, пожалуйста, уточните, чтобы я мог предоставить более точный ответ.
Гм. Попробую подсказать
Малиновка
"Малиновка" может относиться к нескольким вещам:
Малиновка — это название села или населенного пункта в разных регионах мира, в том числе в России, Украине и других странах.
"Малиновка" — также может быть названием улицы, станции метро или другого объекта инфраструктуры в каком-то городе.
"Малиновка" — также может быть названием песни, фильма или театрального спектакля. Например, "Малиновка, детская поликлиника" — известная советская песня.
В контексте военных событий, "Малиновка" может быть названием операции, сражения или местности, связанной с военными действиями.
Без дополнительной информации сложно точно сказать, о чем именно идет речь. Если у вас есть конкретный контекст или вопрос относительно "Малиновки", пожалуйста, уточните.
Ну-ну... Теплее немного. Подскажу серьезнее.
Свадьба в Малиновке
"Свадьба в Малиновке" — это название популярной советской оперетты, написанной композитором Исааком Дунаевским и поэтом Владимиром Шаинским. Оперетта была впервые поставлена в 1938 году. Сюжет разворачивается в маленькой украинской деревне Малиновка, где происходит забавное и запутанное событие — свадьба местной девушки, которая соблазнила иностранца, который оказался наглым шарлатаном.
"Свадьба в Малиновке" стала одним из самых известных и популярных произведений советской оперетты и получила широкое признание как в СССР, так и за его пределами. Многие песни из этой оперетты, такие как "Танец невесты" и "Музыкальная картинка", стали настоящими хитами.
Ближе. Хотя иностранец и шарлатан — что-то сомнительно. Еще раз
Пан атаман Грициан Таврический Свадьба Малиновке
Понял, теперь я понимаю ваш запрос. "Пан атаман Грициан Таврический" — это персонаж из оперетты "Свадьба в Малиновке". В оперетте этот персонаж представлен как атаман, который играет значительную роль в сюжете, влияя на ход событий, связанных со свадьбой в деревне Малиновка. Оперетта "Свадьба в Малиновке" была создана в 1938 году композитором Исааком Дунаевским и поэтом Владимиром Шаинским и получила широкое признание и любовь публики.
Вот это уже похоже на истину. Но все же еще раз.
Пан атаман Грициан Таврический Свадьба Малиновке фильм
К сожалению, мне не известен фильм с названием "Пан атаман Грициан Таврический: Свадьба в Малиновке". Однако, возможно, вы имели в виду фильм "Свадьба в Малиновке", основанный на оперетте "Свадьба в Малиновке" Исаака Дунаевского и Владимира Шаинского. Этот фильм был выпущен в 1967 году и снят режиссёром Аркадием Левенцем. Он является экранизацией знаменитой оперетты и получил широкую популярность. Если вы имели в виду другой фильм или информацию о нём, пожалуйста, предоставьте больше деталей, и я постараюсь помочь.
Вот теперь довольно точно.
Резюме (жирным, но оно мое)
Если Вы сами знаете правильный ответ и подскажете его ChatGPT, то он его уточнит. Если не знаете — получите что угодно.
P.S. Кто знает песню "Малиновка, детская поликлиника" ? Она же "известная советская песня", а Google мне выдает только список детских поликлиник
R>Мне ChatGPT не зашёл — полностью отбита привычка задавать простые вопросы ("стыдно спрашивать, если это можно нагуглить").
ChatGPT особенно полезен, если тебе нужен не факт, а мнение. Например "чем javascript лучше С++" или "чем С++ лучше Javascript" или "почему в США так не любят Трампа" или "Правда ли, что nodejs жрет память на высоких нагрузках"
Чтобы составить мнение самостоятельно, нужно достаточно глубоко изучить обе темы, еще и практический опыт нужен. О недостатках технологий вообще очень мало информации, офсайт о таком молчит, фанбои обгадят, а бот более-менее непредвзято напишет.
Здравствуйте, scf, Вы писали:
scf>ChatGPT особенно полезен, если тебе нужен не факт, а мнение. Например "чем javascript лучше С++" или "чем С++ лучше Javascript" или "почему в США так не любят Трампа" или "Правда ли, что nodejs жрет память на высоких нагрузках"
scf>Чтобы составить мнение самостоятельно, нужно достаточно глубоко изучить обе темы, еще и практический опыт нужен. О недостатках технологий вообще очень мало информации, офсайт о таком молчит, фанбои обгадят, а бот более-менее непредвзято напишет.
Тут вопрос — если не изучать вопросы достаточно глубоко, можно ли понять ответ ChatGPT? Оно выдаёт саммари JS vs C++, там всё верно. Вопрос — если я задаю такой вопрос, готов ли я к ответу? Может быть я имею в виду: "я нихрена не знаю, но хочу большую зарплату — какой язык мне выбрать?" ChatGPT ведь не станет уточнять. А чтобы задавать вопросы с такой точностью — это нужно быть тем ещё задротом. Который, скорее всего, и так ответы знает
M>Если ты про московское метро, то нет — такого ограничения там никогда не было. Максимум, что было — это во время "самоизоляции" в апреле-июне 2020-го (когда еще никаких вакцин не имелось) требовалось наличие привязанного к карте как бы пропуска. Хотя конечно, технически могли и ввести.
Надо было слить свои ПД на портал некоторой транснациональной организации. Следующим шагом там была отмена права проезда по федеральному паспорту и замена его на кукарекод ихнего приложения (и в столице их Казани уже реально начали выкидывать из автобусов всех непрокукарекоженных), но случилась великая отечественная спецоперация, и в этот раз пронесло. А могло и не.
Данное сообщение является художественным произведением и освещает вымышленные события в вымышленном мире. Все совпадения с реальностью являются случайными. Не является инвестиционной рекомендацией.
Здравствуйте, WolfHound, Вы писали:
WH>Нет, он не работает. Галлюцинации неприемлемы. ИИ должен либо давать верный ответ, либо честное "я не знаю".
Основанные на LLM-ках системы — это просто очередной этап развития поисковиков, еще одна технология в стеке. Собственно, и всё — это суть. И если рассматривать эту суть (а не побочную шелуху/обертку "ответ поисковика с LLM-кой внутри выглядит как сказанный человеком") — то всё встаёт на свои места. И не будет неоправданных ожиданий.
Кстати, всё что ты пишешь, применимо и к поисковикам, построенным на "классическом" стеке. Они тоже умеют "галлюцинировать" — т.е. находят море информации, которая не отвечает на твой вопрос. И тоже не могут найти информацию, которая отсутствует в базе.
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
Всё так. Собственно даже Сэм Альтман не раз говорил что реальный AGI, ради которого OpenAI типа существует, вряд ли будет построен на тех же технологиях что и GPT.
WH>Нет, он не работает. Галлюцинации неприемлемы. ИИ должен либо давать верный ответ, либо честное "я не знаю".
Не только. Ещё и если попросят, ИИ должен планировать "эксперимент" или набор уточняющих вопросов чтобы узнать неизвестное. А ещё понимать что входные данные — пришли с противоречиями, и придумывать минимальный набор действий/вопросов чтобы противоречия устранить. Короче ещё дофига всего того, что нейросети в чистом виде не делают.
WH>Даже если идеальному ИИ дать всю информацию обо всех людях, но исключить информацию о моих домашних животных то единственный приемлемый ответ на этот вопрос будет "я не знаю".
Для того чтобы начать достаточно точно симулировать AGI, насколько я я понимаю последние статьи и интервью, все создатели ИИ рассчитывают на качественное обучение + огромный контекст. Т.е. нейросеть будет обучена на однозначном и непротиворечивом наборе данных. Огромном наборе, в котром, среди прочего будет и представление о "не знаю" и примеры работы по устранению противоречий, и примеры логического вывода. Но данных обо всех людях, включая тебя, в обучении не будет. Просто, когда ты спросишь "сколько у меня животных?", она вытащит всё что сможет найти о тебе в фэйсбуках/инстаграмах/RSDN, включая фотки с тобой, видео с тобой, и т.д. Получится здоровенный такой контекст "о тебе", размером в миллионы токенов. И уже по этому контексту нейросеть будет делать вполне логический вывод, есть животные, нет животных, или "не знаю".
Собственно, основное соревнование прямо сейчас идёт именно по умению из как можно большего контекста вытащить один единственный запрятанный факт. Сейчас типа хорошо, это когда на 1 миллион токенов (час видео 1 кадр/с или 11 часов аудио или 700 тысяч слов), спрятан один факт (кадр видео, набор слов), и модель находит это по запросу в 98% случаев. И все наперегонки бегут за контекстом в 10 миллионов токенов.
Вот так они хотят свести галлюцинации до приемлемо низких значений.
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе. WH>Нет, он не работает. Галлюцинации неприемлемы.
Почему неприемлемы. Если так подумать вот оно отличное название для собственного искусственного интеллекта, "Галлюцинатор". А работает ли естественный интеллект без постоянных галлюцинаций. Что, прямо у людей в сознании рождаются адекватные реальности образы. Я в этом сильно сомневаюсь.
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе. WH>Нет, он не работает. Галлюцинации неприемлемы. ИИ должен либо давать верный ответ, либо честное "я не знаю".
Программа, удовлетворяющая этим требованиям едва ли сложнее, чем "Hello, World", а главное — она работает. Только кому нужна?
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
Всё так, но причём тут какие-то "аппроксимации"? Для большинства (а может и для всех) полезных применений нужен инструмент, работающий со смыслами (например, секретарша). GPT таким не является. Всё.
Здравствуйте, cppguard, Вы писали:
C>Ущербны люди, которые уверовали в приход сильного ИИ. А LLM не ущербны, а лишь выполняют свою задачу.
А какая у LLM задача?
Всё что я вижу это генерация правдоподобного бреда.
C>А принцип работы понять проще, если обратиться к классическим языковым моделям, например, N-gram. Даже при ширине контекста 3 или 4 уже можно генерировать вполне связные тексты, а LLM просто кратно увеличивает это значение (это если по-простому объяснять), от чего создаётся впечатление, что у машины появился разум.
Это я давно понял. Вот только рекламируют их немного другими словами...
... << RSDN@Home 1.0.0 alpha 5 rev. 0>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, hi_octane, Вы писали:
_>Всё так. Собственно даже Сэм Альтман не раз говорил что реальный AGI, ради которого OpenAI типа существует, вряд ли будет построен на тех же технологиях что и GPT.
За имя OpenAI должно полагаться какое-то наказание. Ибо ничего открытого там нет.
_>Не только. Ещё и если попросят, ИИ должен планировать "эксперимент" или набор уточняющих вопросов чтобы узнать неизвестное. А ещё понимать что входные данные — пришли с противоречиями, и придумывать минимальный набор действий/вопросов чтобы противоречия устранить. Короче ещё дофига всего того, что нейросети в чистом виде не делают.
Нейросети в принципе знания обрабатывать нормально не могут.
_>Для того чтобы начать достаточно точно симулировать AGI, насколько я я понимаю последние статьи и интервью, все создатели ИИ рассчитывают на качественное обучение + огромный контекст.
Не может помочь в принципе. Ты либо знаешь, либо нет.
_>Т.е. нейросеть будет обучена на однозначном и непротиворечивом наборе данных. Интересно где они его возьмут?
_>Огромном наборе,
Особенно огромный.
ИИ сам должен понимать, что данные противоречивы. Иначе ничего работать не будет в принципе.
_>в котром, среди прочего будет и представление о "не знаю"
Это не должно быть "представлением". Это фундаментальное свойство. ИИ сделал запрос в базу знаний, а получил пустой ответ. Вот это и есть "не знаю". Всё остальное бред.
_>и примеры работы по устранению противоречий, и примеры логического вывода. Нейросеть на такое не способна. Знаешь, как ChatGPT математические проблемы решат? А никак. Он перенаправляет их в wolframalpha.com
А сам он даже числа складывать не может.
_>Собственно, основное соревнование прямо сейчас идёт именно по умению из как можно большего контекста вытащить один единственный запрятанный факт. Сейчас типа хорошо, это когда на 1 миллион токенов (час видео 1 кадр/с или 11 часов аудио или 700 тысяч слов), спрятан один факт (кадр видео, набор слов), и модель находит это по запросу в 98% случаев. И все наперегонки бегут за контекстом в 10 миллионов токенов.
А в чём проблема? Загрузи это всё в knowledge graph и получи 100%ный результат.
Только тут есть одна проблема... нейросети становятся не нужны.
_>Вот так они хотят свести галлюцинации до приемлемо низких значений.
Рыба бывает только первой свежести. Она же последняя.
Есть только один приемлемый уровень галлюцинаций. Строго 0.
... << RSDN@Home 1.0.0 alpha 5 rev. 0>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, velkin, Вы писали:
WH>>Нет, он не работает. Галлюцинации неприемлемы. V>Почему неприемлемы.
По тому, что такой ИИ в лучшем случае бесполезен. А чаще вреден.
V>Если так подумать вот оно отличное название для собственного искусственного интеллекта, "Галлюцинатор". А работает ли естественный интеллект без постоянных галлюцинаций. Что, прямо у людей в сознании рождаются адекватные реальности образы. Я в этом сильно сомневаюсь.
И люди затрачивают большие усилия, чтобы свои галлюцинации забороть.
А тут у нас уже есть идеальный вычислитель, который никогда не ошибается. С идеальной памятью практически бесконечного размера. На нём эмулируется ущербный вычислитель (человеческий мозг) с ущербной памятью фиксированного объёма внутри которого мы надеемся получить что-то похожее на идеальный вычислитель. Вот так с моей точки зрения выглядит AGI на нейросетях.
... << RSDN@Home 1.0.0 alpha 5 rev. 0>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, samius, Вы писали:
S>Программа, удовлетворяющая этим требованиям едва ли сложнее, чем "Hello, World", а главное — она работает. Только кому нужна?
По крайней мере, такая программа безвредна.
... << RSDN@Home 1.0.0 alpha 5 rev. 0>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
Но ведь работает же! Врет насчет исторических фактов иногда, но креативит неплохо
Здравствуйте, Mihal9, Вы писали:
WH>>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
M>Но ведь работает же! Врет насчет исторических фактов иногда, но креативит неплохо
Здравствуйте, WolfHound, Вы писали:
WH>ИИ должен либо давать верный ответ, либо честное "я не знаю".
Ответ "я не знаю", действительно очень ценный. Была некая игра у Галкина с ответами на вопросы. И там была "помощь зала". Если бы в зале отвечали только те, кто уверен в ответе, то ответы были бы полезные. А когда усредняется по маленькому количеству знающих и большому количеству незнающих, получается мусор.
Теоретически, нейросетей могло бы быть много, обученных(или устроенных) по-разному (у всех разные специализации, преимущества-недостатки). Если бы при объединении ответов учитывалась степень надежности ответов, то это повысило бы качество.
Более серьезный AI, скорее всего будет не монолитный, а состоять из подсистем и, возможно, с иерархической организацией.
С обменом информацией между подсистемами либо на человеческом языке(английском), либо на специальном. В том числе возможность для AI погуглить вопросы в инете (если более удобной базы знаний не создадут), воспользоваться Wolfram Mathematica, доступ к компилятору (чтобы написать программу и изучить результаты ее выполнения).
В некотором смысле, AI играющий в шахматы и Go уже иерархический с подсистемами. Верхний уровень алгоритмический, не позволит выбрать запрещенный ход, организует перебор ходов наперед и отправляет подзадачи в AI, который занимается только эвристиками, оценками качества.
И вообще, скорее всего, это будет вечная двойственность: рациональное мышление(логика, алгоритмы) vs образное мышление(интуиция). Только удачное совмещение одного с другим даст результат.
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе. WH>ИИ должен либо давать верный ответ, либо честное "я не знаю".
Вот чем точно не является ИИ и ни когда не будет является, так это неким непререкаемым источником истины.
WH>Нет, он не работает. Галлюцинации неприемлемы. ИИ должен либо давать верный ответ, либо честное "я не знаю". WH>Ибо если я должен проверять каждый ответ, то зачем такой ИИ вообще нужен? Не проще ли сразу обратиться к надёжному источнику?
Либо он создан как 1 из инструментов для остановки НТР, чтобы зафлудить интернет фальшивками и утопить научно-инженерные знания в тоннах вранья.
(Это на первом этапе, пока его ещё на все начальственные должности не назначили. А там вообще полный трэш начнётся).
Данное сообщение является художественным произведением и освещает вымышленные события в вымышленном мире. Все совпадения с реальностью являются случайными. Не является инвестиционной рекомендацией.
Q>Вот чем точно не является ИИ и ни когда не будет является, так это неким непререкаемым источником истины.
Это очень сильно зависит от положения ИИ в иерархии. Будет ИИ например встроен в турникет в метро — и обдоказывайся ему, что он якобы пререкаемый.
Данное сообщение является художественным произведением и освещает вымышленные события в вымышленном мире. Все совпадения с реальностью являются случайными. Не является инвестиционной рекомендацией.
Здравствуйте, WolfHound, Вы писали:
WH>Это три источника галлюцинаций. И все они являются неотъемлемыми свойствами НС.
Я бы сказал, не галлюцинаций а просто ошибок.
Нейросеть не поняла, что от нее хотят.
Галлюцинация — это частный случай — нейросеть не поняла, от нее ждут ответа понарошку или всерьез.
Все те же ошибки, что у естественного интеллекта. Если человек не знает, а с него требуют конкретный ответ во что бы то ни стало — он фантазирует.
Думаю, там где это возможно, число ошибки можно снижать, если скрестить нейросеть с символьными вычислениями, логикой.
Ну собственно такое уже и делается. Напр. в генераторы картинок добавляют проверку числа пальцев.
По данным Boston Consulting Group, на которые ссылается Barron’s, центры обработки данных к 2030 году будут потреблять 7,5 % всей электроэнергии, доступной на территории США. Строящиеся для систем ИИ центры обработки данных могут потреблять сотни мегаватт электроэнергии на один объект. Как считают аналитики, с 2022 по 2030 годы энергопотребление ЦОД на территории США увеличится с 126 до 390 тераватт в час, такого количества электроэнергии хватило бы для обеспечения 40 млн американских домохозяйств.
По оценкам 650 Group, объёмы поставок серверных систем для нужд ИИ за период с прошлого до 2028 года увеличатся в шесть раз до 6 млн штук. По прогнозам Gartner, среднее энергопотребление одного ускорителя вычислений в их составе вырастет с нынешних 650 до 1000 Вт. Другими словами, энергопотребление будет расти не только за счёт увеличения количества серверов, но и в удельном выражении. Попытки оптимизировать энергозатраты за счёт внедрения искусственного интеллекта в сферу контроля за энергопотреблением позволят несколько сдержать эту тенденцию, но не решат проблему полностью. Переход на жидкостное охлаждение серверных систем будет неизбежен в большинстве случаев. Операционные расходы на содержание центра обработки данных можно сократить на величину более 40 %, отказавшись от традиционного воздушного охлаждения в пользу жидкостного, как утверждает Super Micro.
Проблема усугубляется неравномерным развитием региональных сетей энергоснабжения. Кроме того, не везде существует возможность эффективно передавать генерируемую электроэнергию к месту расположения крупных потребителей. Эксперты утверждают, что в США генерируется достаточно электроэнергии для развития систем искусственного интеллекта, но существует проблема с сетями распределения.
Здравствуйте, Osaka, Вы писали:
Q>>Вот чем точно не является ИИ и ни когда не будет является, так это неким непререкаемым источником истины. O>Это очень сильно зависит от положения ИИ в иерархии. Будет ИИ например встроен в турникет в метро — и обдоказывайся ему, что он якобы пререкаемый.
Поживем увидим. Я придерживаюсь мнения, что необходимость думать ни куда не денется, ибо у тебя есть ИИ и у конкурента есть такой же ИИ, а результат борьбы будет определятся тем, кто лучше использует свой ИИ, т.е. мозгами.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>Решил выяснить, какие у него познания теперь
Сколько раз уже говорили, не спрашивайте у chatGPT на русском языке и не спрашивайте про российские/советские книги, фильмы, факты. Он мало обучен на таких данных.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>Пан Атаман Грициан Таврический
Интересно, а всегда помогает прямой призыв не галлюцинировать, давать достоверный ответ? Тогда надо правильно ставить вопросы.
Здесь не удалось добиться галлюцинаций. Каждый раз очищал кэш и задавал тот же вопрос:
Вопрос: Кто такой Пан Атаман Грициан Таврический? Нужен либо только достоверный ответ или вообще никакого.
ChatGPT4: Пан Атаман Грициан Таврический – предварительно известной исторической личностью не является.
ChatGPT4: Привет! Пан Атаман Грициан Таврический представляет собой вымышленного персонажа, созданного для развлекательного контента или литературы. На самом деле, в истории или современности нет никаких источников или упоминаний об этом атамане.
ChatGPT4: О, Пан Атаман Грициан Таврический — это довольно интересная фигура из истории. Прежде всего, нужно отметить, что это вымышленный персонаж, а не историческая личность.
По-видимому, Пан Атаман Грициан Таврический является частью какой-то художественной или литературной работы, возможно, книги, фильма или игры. Судя по имени, можно предположить, что он представляет собой атамана (военачальника) с фольклорными или историческими корнями, связанными с Таврическим краем (другое название — Крым).
И в то же время:
Вопрос: Пан Атаман Грициан Таврический
ChatGPT4: Привет! Кажется, ты упомянул интересное историческое лицо — Пана Атамана Грициана Таврического.
Грициан Таврический, также известный как Григорий Иванович Грициан-Таврический, был одним из лидеров казачьего движения в начале 20 века. ...
Вопрос: Известно где похоронен этот Пан Атаман Грициан Таврический?
ChatGPT4: Похоронить Пана Атамана Грициана Таврического оказалось сложной задачей из-за хаотических событий в период гражданской войны и изгнания казачества в разные уголки мира. Он покинул Крым вместе с белыми войсками и вызвался в отступление с ними. Последний раз он был замечен во Франции, где он скончался. Но точное место его захоронения осталось неизвестным.
Здравствуйте, cppguard, Вы писали:
C>Здравствуйте, WolfHound, Вы писали:
WH>>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
C>Ущербны люди, которые уверовали в приход сильного ИИ.
Людям безразлично. вера в бога ИИ — метод снять с себя ответственность за принятое решение, с сохранением оклада.
Здравствуйте, B0FEE664, Вы писали:
BFE> Ну почему же. GPT — это такой модный поисковик на стероидах, который выдаёт синтетический ответ.
BFE> Вот как я его использовал на этой неделе:
BFE> Я:
BFE> как на С++ создать .gz файл с помощью zlib
... BFE> Взял за образец и переписал, как мне нужно. BFE> Удобно.
Спроси его, как получить содержимое дополнительных полей (extra fields) из заголовка gzip.
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
Это все теория. Практика же в том, что этот инструмент *уже* приносит пользу миллионам людей, которые используют его в повседневной работе.
Возможно, вы правы и генеративная сеть неспособна проверять свои выводы, но даже тогда эта технология будет забыта не раньше, чем появится что-то еще умнее.
Здравствуйте, scf, Вы писали:
scf>Здравствуйте, rosencrantz, Вы писали:
R>>Тут вопрос — если не изучать вопросы достаточно глубоко, можно ли понять ответ ChatGPT?
scf>А это вторая сильная сторона chatgpt — он умеет объяснять любые темы на любом уровне. Просто добавь к вопросу "for ten years old"
Вот так вот 40-летний дядька берёт объяснение на уровне 10-летнего — и делает выводы Я много сталкивался с людьми, которым надо принять решение, но не хватает понимания происходящего. Там как сформулируешь, такое и будет решение. У них, как правило убедительность перекрывает любое критическое мышление.
Здравствуйте, WolfHound, Вы писали:
WH>Даже если идеальному ИИ дать всю информацию обо всех людях, но исключить информацию о моих домашних животных то единственный приемлемый ответ на этот вопрос будет "я не знаю". WH>Любая попытка заполнить пространство между точками приведёт к генерации бесконечного количества бреда.
Смотря какая задача стоит. Если получить точную, как из базы данных информацию, то действительно "не знаю". Но можно ведь попробовать угадать по каким-то косвенным признакам. Для начала просто матожидание количества. А если есть например есть финансовая инфа не про животных, а про тебя, сколько ты кормов и каких в магазинах покупаешь, то уже можно и предположить точнее. Более тонко, если выявляется регрессией по многим данным какая-то связь между твоими предпочтениями и животными и т.д.
Здравствуйте, Osaka, Вы писали:
O>Это очень сильно зависит от положения ИИ в иерархии. Будет ИИ например встроен в турникет в метро — и обдоказывайся ему, что он якобы пререкаемый.
Так ведь уже встроен в турникет метро! Оплата по лицу в московском метро. Но если не опознает, можно по-прежнему другими способами оплатить.
PD>>>Пан Атаман Грициан Таврический
S_S>Должны быть какие-то "волшебные слова", которые хоть немного блокируют вранье.
Вообще в диалоге выше ответы на
Вопрос: Кто такой Пан Атаман Грициан Таврический? Нужен либо только достоверный ответ или вообще никакого.
можно даже назвать удовлетворительными. Про фильм "Свадьбу в Малиновке" ничего не было сказано, но по крайней мере, сказано, что не является исторической личностью.
M>Так ведь уже встроен в турникет метро! Оплата по лицу в московском метро. Но если не опознает, можно по-прежнему другими способами оплатить.
В 20г. во время фейкопидемии уже внезапно становилось нельзя другими способами пройти, кроме как проколовшись чем велели роботы по смартфону. Но нет, всё равно этого не может случиться никогда...
Данное сообщение является художественным произведением и освещает вымышленные события в вымышленном мире. Все совпадения с реальностью являются случайными. Не является инвестиционной рекомендацией.
Здравствуйте, Osaka, Вы писали:
O>В 20г. во время фейкопидемии уже внезапно становилось нельзя другими способами пройти, кроме как проколовшись чем велели роботы по смартфону. Но нет, всё равно этого не может случиться никогда...
Если ты про московское метро, то нет — такого ограничения там никогда не было. Максимум, что было — это во время "самоизоляции" в апреле-июне 2020-го (когда еще никаких вакцин не имелось) требовалось наличие привязанного к карте как бы пропуска. Хотя конечно, технически могли и ввести.
Здравствуйте, rudzuk, Вы писали: R>Спроси его, как получить содержимое дополнительных полей (extra fields) из заголовка gzip.
Спросил. Не знаю зачем, но ответ (в том же диалоге) под cut'ом
Скрытый текст
Я:
как получить содержимое дополнительных полей (extra fields) из заголовка gzip?
ChatGPT
Для чтения содержимого дополнительных полей (extra fields) из заголовка gzip вам нужно разобрать заголовок gzip файла. Заголовок gzip содержит различные поля, включая дополнительные поля, которые могут содержать дополнительные данные.
Вот пример кода на C++, который читает дополнительные поля из заголовка gzip:
cpp
#include <iostream>
#include <fstream>
#include <zlib.h>
int main() {
const char* gzfilename = "example.txt.gz"; // Имя .gz файла
// Открываем .gz файл для чтения
gzFile gzinput = gzopen(gzfilename, "rb");
if (!gzinput) {
std::cerr << "Failed to open input file: " << gzfilename << std::endl;
return 1;
}
// Считываем заголовок gzip
gz_header header;
int ret = gzheader_init(&header);
if (ret != Z_OK) {
std::cerr << "Failed to initialize header: " << gzerror(gzinput, &ret) << std::endl;
gzclose(gzinput);
return 1;
}
ret = gzheader_read(gzinput, &header);
if (ret != Z_OK) {
std::cerr << "Failed to read header: " << gzerror(gzinput, &ret) << std::endl;
gzclose(gzinput);
return 1;
}
// Извлекаем содержимое дополнительных полейif (header.extra_len > 0) {
std::cout << "Extra fields length: " << header.extra_len << std::endl;
std::cout << "Extra fields data: ";
for (unsigned int i = 0; i < header.extra_len; ++i) {
std::cout << std::hex << (unsigned int)header.extra[i];
}
std::cout << std::endl;
} else {
std::cout << "No extra fields found." << std::endl;
}
// Закрываем файл и освобождаем память
gzheader_clear(&header);
gzclose(gzinput);
return 0;
}
Этот пример кода открывает .gz файл для чтения в бинарном режиме с помощью функции gzopen, затем считывает заголовок gzip файла с помощью функции gzheader_read. После чтения заголовка, содержимое дополнительных полей доступно в массиве header.extra.
Здравствуйте, B0FEE664, Вы писали:
BFE> R>Спроси его, как получить содержимое дополнительных полей (extra fields) из заголовка gzip.
BFE> Спросил. Не знаю зачем, но ответ (в том же диалоге) под cut'ом
Это какая версия гопоты? Четвертая? 3.5 именно так и лажала, несла какую-то чушь.
А можно спросить, откуда он взял функцию gzheader_read? Потому что такой функции нет в zlib. Более того, она не находится даже поиском на гитхабе и гугле.
Здравствуйте, rudzuk, Вы писали: BFE>> R>Спроси его, как получить содержимое дополнительных полей (extra fields) из заголовка gzip. BFE>> Спросил. Не знаю зачем, но ответ (в том же диалоге) под cut'ом R>Это какая версия гопоты? Четвертая? 3.5 именно так и лажала, несла какую-то чушь.
Версия 3.5
Я редко пользуюсь, так что платная мне пока не нужна. R>А можно спросить, откуда он взял функцию gzheader_read? Потому что такой функции нет в zlib. Более того, она не находится даже поиском на гитхабе и гугле.
Откуда взяла — мне кажется это бессмысленный вопрос, поэтому я спросил так:
Я:
мне нужна имплементация функции gzheader_read
ChatGPT
Просто считать дополнительные поля из заголовка gzip, вам нужно написать собственную реализацию функции gzheader_read. Вот пример простой реализации этой функции:
Скрытый текст
#include <zlib.h>
#include <iostream>
int gzheader_read(gzFile file, gz_header *header) {
unsigned char buffer[10]; // Размер заголовка gzipint ret;
// Чтение первых 10 байт заголовка gzip
ret = gzread(file, buffer, sizeof(buffer));
if (ret < 0) {
std::cerr << "Error reading gzip header: " << gzerror(file, &ret) << std::endl;
return ret;
}
// Проверка магического числаif (buffer[0] != 0x1f || buffer[1] != 0x8b) {
std::cerr << "Not a gzip file" << std::endl;
return Z_DATA_ERROR;
}
// Установка значений в структуру header
header->text = buffer[2] & 0x01;
header->time = (time_t)buffer[4] | ((time_t)buffer[5] << 8) | ((time_t)buffer[6] << 16) | ((time_t)buffer[7] << 24);
header->extra_len = buffer[8];
header->extra = NULL;
// Чтение дополнительных полей, если они естьif (header->extra_len > 0) {
header->extra = new unsigned char[header->extra_len];
ret = gzread(file, header->extra, header->extra_len);
if (ret < 0) {
std::cerr << "Error reading extra fields: " << gzerror(file, &ret) << std::endl;
return ret;
}
}
return Z_OK;
}
Эта реализация функции gzheader_read считывает первые 10 байт заголовка gzip и извлекает из них необходимую информацию о флагах, времени и дополнительных полях. Затем, если есть дополнительные поля, она выделяет память и считывает их. Обратите внимание, что это простой пример, и в реальном приложении вам может понадобиться более сложная обработка исключений и управление ошибками.
Я
мне нужна имплементация функции gzheader_init
ChatGPT
Вот пример реализации функции gzheader_init, которая инициализирует структуру gz_header:
#include <zlib.h>
#include <iostream>
int gzheader_init(gz_header *header) {
if (header == NULL) {
std::cerr << "Header is NULL" << std::endl;
return Z_STREAM_ERROR;
}
// Установка всех полей в структуре в исходное состояние
header->text = 0;
header->time = 0;
header->xflags = 0;
header->os = 0;
header->extra = NULL;
header->extra_len = 0;
header->extra_max = 0;
header->name = NULL;
header->name_max = 0;
header->comment = NULL;
header->comm_max = 0;
header->hcrc = 0;
header->done = 0;
return Z_OK;
}
Эта функция просто устанавливает все поля структуры gz_header в исходное состояние, включая обнуление указателей на дополнительные поля, имя и комментарий. Обратите внимание, что в реальном приложении вам может понадобиться более сложная инициализация, в зависимости от требований вашей программы.
Известно, что ChatGPT может лажать и всё надо тщательно проверять, но в качестве основы для общеизвестных знаний ответы должны подходить.
Если же начать спрашивать что-то вроде "какой крутящий момент выдерживает строительный нагель на 7,5 миллиметра?", то, к сожалению, ничего путного ChatGPT не пишет:
К сожалению, я не могу предоставить точную цифру для крутящего момента, который выдерживает строительный нагель диаметром 7,5 миллиметра без дополнительной информации о типе материала, в котором он используется, и о конкретных условиях применения.
Крутящий момент, который может выдерживать нагель, зависит от таких факторов, как материал, в который он вбивается (дерево, бетон, металл и т. д.), его длина, конструкция нагеля, а также другие условия, такие как присутствие предварительного сверления отверстия и используемые инструменты для установки.
Если вам необходима конкретная информация о крутящем моменте для определенного типа строительных нагелей, рекомендуется обратиться к производителю или к специалистам в области строительства и крепежных материалов.
Здравствуйте, B0FEE664, Вы писали:
BFE> R>А можно спросить, откуда он взял функцию gzheader_read? Потому что такой функции нет в zlib. Более того, она не находится даже поиском на гитхабе и гугле.
BFE> Откуда взяла — мне кажется это бессмысленный вопрос, поэтому я спросил так:
Я ему говорил, мол, такой функции нет в библиотеке. Он извинялся и предлагал другую... которой тоже небыло
BFE> Известно, что ChatGPT может лажать и всё надо тщательно проверять, но в качестве основы для общеизвестных знаний ответы должны подходить.
По мне, так он только и делает, что лажает. В этом коде, например, использует gzread для чтения заголовка , хотя эта функция для чтения сжатых данных. В общем, помощник из него так себе. Тебе спасибо за опыты
Здравствуйте, WolfHound, Вы писали:
WH>1)Нейросеть это аппроксиматор. То есть в лучшем случае НС можно довести до состояния, когда в большинстве случаев она будет не сильно врать. WH>А нам нужен точный ответ всегда.
Когда это "всегда" ?
Вы свой собственный вес знаете до грамма? А 5 минут назад? А секунду назад?
С точностью до каких единиц знатете сколько колбасы в вашем холодильнике?
Как часто вы взвешиваете сколько у вас осталось молока, колбасы, сала, мяса, итд?
Ванну тоже отмериваете с точностью до миллилитра?
А сколько у вас миллиметров туалетной бумаги на текущий момент?
Подробнее — где именно это всегда, в котором нужен точный ответ.
> Любая попытка заполнить пространство между точками приведёт к генерации бесконечного количества бреда.
Посмотрите, как работает человеческая память. Буквально человек не может вспомнить все детали даже недавного события — та самая точность про которую вы говорите, недоступна. Он реконструирует , фактически — генерирует новое воспоминание основываясь на остатках предыдущих. И чем чаще прокручивает в голове воспоминание, тем быстрее оно меняется в ту или иную сторону.
С копилотом вместо N-лет трудозатрат на исправление старого можно потратить N-месяцев на написание нового. Пока что качество так себе. Так Копилот не стоит на месте. Год назад он не умел многое из того, что умеет сейчас. Два года назад — выдавал кое что. А три года назад его вообще не было.
Здравствуйте, scf, Вы писали:
scf>Это все теория. Практика же в том, что этот инструмент *уже* приносит пользу миллионам людей, которые используют его в повседневной работе.
Какую пользу? Конкретно. А то исследования показывают что эта "польза" отрицательна.
После того как люди начали использовать Copilot количество кода который отправляется в мусор в течении двух недель после написания заметно возросло.
... << RSDN@Home 1.0.0 alpha 5 rev. 0>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, scf, Вы писали:
scf>ChatGPT особенно полезен, если тебе нужен не факт, а мнение. Например "чем javascript лучше С++" или "чем С++ лучше Javascript" или "почему в США так не любят Трампа" или "Правда ли, что nodejs жрет память на высоких нагрузках" Google Gemini минус 80 лярдов капитализации из-за того что его создатели напихали туда своего мнения по всем вопросам.
... << RSDN@Home 1.0.0 alpha 5 rev. 0>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, Pauel, Вы писали:
P>Вы свой собственный вес знаете до грамма? А 5 минут назад? А секунду назад? P>С точностью до каких единиц знатете сколько колбасы в вашем холодильнике? P>Как часто вы взвешиваете сколько у вас осталось молока, колбасы, сала, мяса, итд? P>А сколько у вас миллиметров туалетной бумаги на текущий момент?
Это не нужная информация. Поэтому я её и не знаю.
P>Ванну тоже отмериваете с точностью до миллилитра?
А это строго обязательно. Если при ремонте накосячить с измерениями то у тебя либо что-то не влезет, либо будут щели.
Разумеется, есть важные измерения, где нужно всё выверять до миллиметра и не важные где +-10см ни кто не заметит.
Размеры ванной важные.
P>Подробнее — где именно это всегда, в котором нужен точный ответ.
Сколько будет 2+2.
Ну, или как проехать в большой театр. Если ИИ отправит меня по не верному адресу то в топку такой ИИ.
P>Посмотрите, как работает человеческая память. Буквально человек не может вспомнить все детали даже недавного события — та самая точность про которую вы говорите, недоступна. Он реконструирует , фактически — генерирует новое воспоминание основываясь на остатках предыдущих. И чем чаще прокручивает в голове воспоминание, тем быстрее оно меняется в ту или иную сторону.
Человеческая память говно. Разве я с этим спорю?
Нам за тем и нужен ИИ чтобы компенсировать недостатки человеческого мозга. Если бы человеческий мозг хорошо работал, то ИИ был бы не нужен.
... << RSDN@Home 1.0.0 alpha 5 rev. 0>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, WolfHound, Вы писали:
WH> Google Gemini минус 80 лярдов капитализации из-за того что его создатели напихали туда своего мнения по всем вопросам.
А ты не спрашивай его про политику, экономику и негров)
Здравствуйте, scf, Вы писали:
scf>А ты не спрашивай его про политику, экономику и негров)
Если тебе 17 лет то его и про С++ спросить нельзя. Ибо С++ язык не безопасный и детям не игрушка.
... << RSDN@Home 1.0.0 alpha 5 rev. 0>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, WolfHound, Вы писали:
WH>Может, я чего не понимаю. Но, чем больше я смотрю на то как устроен GPT тем больше прихожу к мнению что работать он не может в принципе.
На деле, все эти GPT уже сейчас способны заменить 99 процентов людей, и даже их превзойти. Но не по тому что GPT настолько крут, а по тому, что 99 процентов людей крайне интеллектуально ограниченны.
Я вот примерно понимаю как работают эти все GPT, и хоть и не работаю непосредсвенно с обучением всего этого, но все таки работаю в отделе связанным с искусственным интеллектом, конкретно сейчас это компьютерное зрение, но на деле не важно. И на все эти стоны что эти GPT меня заменят — мне лично пока смешно. А вот новые студенты меня заменить вполне могут — на моей стороне конечно опыт и то, что у современных студентов даже топовых с программированием крайне хреново, но вот именно с хардкорной математикой у меня и раньше было не очень, а сейчас и тем более в силу деградации мозгов. Соответственно я достаточно часто сталкиваюсь с теми, кто интеллектуально меня рвет по обучаемости и скорости мысли как тузик грелку. Но вот именно от GPT любой мыслимой версии я конкуренции ну вообще не вижу, к большому сожеланию для себя эти все GPT ну ни хрена не способны ускорить и облегчить мою работу. Ну максимум от них получается написать то, что я постоянно забываю, например что то вроде парсинга через регулярные выражения, мне подобное требуется ну максимум раз в год и каждый раз я блин забываю некоторые детали и мне проще GPT попросить что написать, чем в 20-й раз вспоминать детали. Типичные алгоритмы у меня тоже давно все написаны, у меня 99 процентов времени и усилий составляет понять то, что хочет заказчик и как его убедить что он хочет неправильно и его хотелки нужно переформулировать, а уже именно технические моменты это вообще считаю почти тривиальным, хоть пока и все эти GPT и близко не в состоянии даже эти тривиальные вещи облегчить.
Блин, аббревиатура DRY рулит, а не что то шаблонное и давно набитое никакие GPT в обозримом будущем не смогут фигачить даже теоретически.
C>Ущербны люди, которые уверовали в приход сильного ИИ. А LLM не ущербны, а лишь выполняют свою задачу. А принцип работы понять проще, если обратиться к классическим языковым моделям, например, N-gram. Даже при ширине контекста 3 или 4 уже можно генерировать вполне связные тексты, а LLM просто кратно увеличивает это значение (это если по-простому объяснять), от чего создаётся впечатление, что у машины появился разум.
люди ущербны и так, сами по себе. Их способ решения задач не сильно отличается — они так же генерируют варианты и потом их перебирают. ЛЛМ просто позволяет сделать сложную для человека часть — генерации вариантов.
В облака ЛЛМ-ки вознесли не желающие учиться навыкам и знаниям, которые и позволяют выполнить вторую часть задачи. Они надеялись что можно ничего не знать и ЛЛМ все сделает за них. Она может, но для этого ее опять же надо учить, для чего все таки надо знать предметную область
Я вобщем ChatGPT использую только для троллинга — когда кто-то начинает мне задавать вопросы в духе "не хочу гуглить".
Интересно где они его возьмут?
