Правильно я понимаю, что никто точно не знает, почему при увеличении параметров сетки (до сотен миллиардов) ChatGPT стал способен общаться на любую тему?
То есть где-то перешел количественный переход в качество, но почему именно в том месте — никто не понимает и не может точно объяснить?
M>Правильно я понимаю, что никто точно не знает, почему при увеличении параметров сетки (до сотен миллиардов) ChatGPT стал способен общаться на любую тему? M>То есть где-то перешел количественный переход в качество, но почему именно в том месте — никто не понимает и не может точно объяснить?
В 90х..нулевых (а гдето и раньше) было такое явление как BBS. Это когда чувак оставлял комп с модемом включенным и на него звонили другие чуваки. На компе крутилась софтина которая типично предоставляла возможность скачать/закачать файлы и размещать объявления. BBS — Bulletion Board System. Если у BBS было несколько модемных линий — можно было чатится с другими чуваками в этот момент подключенными. Если же только одна линия — то чатится можно было максимум с владельцем BBS — сисопом его звали. Для этого в меню BBS был спецпунктик — 'Yell sysop!' — или в русской версии — 'Сисопа на ель!'. Иногда, когда сисопу было лень общаться, но хотелось поугорать, он запускал спец софтину vsys — virtual sysop, которая умела трындеть, и если звонящий был в достаточном подпитии (что случалось часто, если не всегда) — то развогор получался достаточно увлекательным. Потом логи выкладывали в файлэхи, чтоб значит всем поржать можно было.
Надо заметить что vsys конечно имел намного меньший кругозор чем чатгпт, но ведь и работал он не на облаке с 100500 процессоров и GPU, а на каком нить 486 на частоте 66МГц и с 4 _мегабайтами_ памяти.
Как много веселых ребят, и все делают велосипед...
Здравствуйте, Mihal9, Вы писали:
M>Правильно я понимаю, что никто точно не знает, почему при увеличении параметров сетки (до сотен миллиардов) ChatGPT стал способен общаться на любую тему? M>То есть где-то перешел количественный переход в качество, но почему именно в том месте — никто не понимает и не может точно объяснить?
его специально настроили на общение. Это обычный gpt3, как и у всех, но только его заточили на диалоги, сохраняя контекст. Возможно, скоро тот же сбер к своей обученной модели прикрутит чат и сделает импортозамещение
Здравствуйте, Mihal9, Вы писали:
M>Правильно я понимаю, что никто точно не знает, почему при увеличении параметров сетки (до сотен миллиардов) ChatGPT стал способен общаться на любую тему?
С хренали это на любую тему? Я читал, там вроде 20 тысяч человек чтоли эту сеть учили несколько лет разным областям знаний. И естественно, что те области, на которых его не обучили — на них он сильно лажает, и кроме общей информации аля вики — ничего сказать не может.
Собственно, я так понимаю там бизнес модель на том и построена, что мы сделали инструмент, апи для него — а теперь готовы нашими силами, ну или вы сами — дообучить сеть для конкретного применения, за денюжки отдельные.
O>>В 90х..нулевых ·>Если уж вспоминать историю, https://en.wikipedia.org/wiki/ELIZA — 1964 год, однако.
ну я вспоминал то что своими глазами видел, а с этой штукой я не разговаривал
Как много веселых ребят, и все делают велосипед...
Здравствуйте, rm2, Вы писали: rm2>Собственно, я так понимаю там бизнес модель на том и построена, что мы сделали инструмент, апи для него — а теперь готовы нашими силами, ну или вы сами — дообучить сеть для конкретного применения, за денюжки отдельные.
chatgpt до сих пор обучается, в чате просишь код сгенерить и указываешь ей на ошибки и она довольно сносно всё исправляет,
можно ей показать правильный кусок кода и она его использует, так что обучение идёт непрерывно.
на quora.com похоже тоже какая-то нейронка обучается и постоянно тупые вопросы рассылает.
T>на quora.com похоже тоже какая-то нейронка обучается и постоянно тупые вопросы рассылает.
..и тут я стал с подозрением смотреть на некоторых кывтоюзеров.
Как много веселых ребят, и все делают велосипед...
Здравствуйте, Mihal9, Вы писали: M>То есть где-то перешел количественный переход в качество, но почему именно в том месте — никто не понимает и не может точно объяснить?
блин, насчёт качества совсем что-то уныло..
Да, я знаю книгу "Волшебник изумрудного города". Это детская книга, написанная Александром Волковым, и опубликованная в 1939 году. Книга повествует о приключениях девочки по имени Элли, которая отправляется в Изумрудный город с друзьями — Серебряным ключиком и Стальным Волком, чтобы найти Волшебника и просить его помощи в борьбе против злого колдуна. Волшебник изумрудного города является классическим произведением детской литературы, и многие дети в России и за рубежом знают и любят эту книгу.
Серебряным ключиком и Стальным Волком — это что за персонажи?
Здравствуйте, trop, Вы писали:
T>chatgpt до сих пор обучается, в чате просишь код сгенерить и указываешь ей на ошибки и она довольно сносно всё исправляет,
И в след раз оно делает такие же или похожие ошибки.
Здравствуйте, paucity, Вы писали:
P>В качество чего? Качество генерируемого бреда или достоверности выдаваемых ответов?
ИМХО да, меня в том числе впечатляет и качество генерируемого "бреда". Это напоминает студента, который ночью перед экзаменом прочитал весь материал, и на экзамене начинает путаться, но при этом отвечает четко и уверенно, потому, что так положено. Важно, что даже когда он генерурует "бред", это вовсе не бред, не бессмыслица, это вполне понятный и осмысленный текст, где он просто путает факты и немного фантазирует.
Искуственный интеллект умеет понимать контекст и вести вполне осмысленную беседу, понимать уточняющие вопросы, исправлять свои ошибки, ничего подобного до сих пор не было, так что можно сказать, что количество действительно перешло в качество. Да, в таком виде для пркатического применения он пока еще не готов, но важен сам факт, того, что компьютер способен вести осмысленный диалог. Думаю в ближайшее время мы увидим как минимум революцию в области голововых помощников, но возможно и что-то намного бОльшее.
Здравствуйте, paucity, Вы писали:
P>И в след раз оно делает такие же или похожие ошибки.
Такие же. Оно в пределах сессии помнит контекст где то на пару тысяч токенов.
... << RSDN@Home 1.3.110 alpha 5 rev. 62>>
Забанили по IP, значит пора закрыть эту страницу.
Всем пока
Здравствуйте, paucity, Вы писали:
P>Здравствуйте, ksandro, Вы писали:
K>>... и вести вполне осмысленную беседу, ...
P>Define "осмысленную", или хотя бы попытайся
ну, ты попробуй поговорить с какой-нибудь Siri, Алисой или Алексой или еще с кем-нибудь, сразу поймешь в чем разница.
Да, признаю, четкого определения у слова "осмысленный" нет, так как оно относится скорее к психологии.
Но я попробую описать, что я понимаю под осмысленносттю.
Во первых я хочу сказать, "осмысленность" совершенно не имеет никакого отношения к достоверности и точности информации. Я могу тебе специально врать, могу ошибаться и случайно говорить невернуе данные, но это не превращает мой текст в бред. Бред я могу писать только в измененном состоянии сознания, вызванном болезнью, употреблением веществ или чем-то другим, и ты сразу это поймешь.
Ну так вот, что я понимаю под осмысленностью ответов ChatGPT:
1. Понимание(парсинг) человеческого языка. Он прекраcно парсит человеческий язык, причем он умеет делать это в контексте. Он прекрасно понимает, когда ты используешь местоимения для описания понятий, которые использовал раньше. Он отлично понимает когда ты просишь его что-то уточнить, понимает какие-то вещи, которые имеются ввиду по умолчанию. Я до сих пор не сталкивался с таким уровнем парсинга живого языка.
2. Он отлично генерирует текст на человеческом языке. То что он генерирует написано совершенно грамотным человеческим языком. Это не какие-то заученные фразы, это нормальный текст на человеческом языке. Причем тексты довольно длинные и сложные, даже я бы сказал "креативные", и я нигде не встречал несоглассованности (опять же это не имеет отношения к достоверности информации).
3. Он всегда отвечает именно на мой вопрос, причем в контексте разговора. Правду он говорит или нет, тут неважно, важно то что он создает согласованный ответ на живом языке на основании моего вопроса, который так же был на живом языке. Причем опять же он запоминает контекст.
4. Даже когда он врет или ошибается, его ответ все равно является согласованным с вопросом, то есть это не бред а именно ошибка или вранье.
Я не слишком разбираюсь в современных системах искуственного интеллекта, может я конечно все пропустил, но я до сих пор не видел ничего подобного в плане умения вести диалог на живом языке. Еще раз, я не говорю о достоверности данных, но что касается диалога с компьютером на живом языке, это безусловно прорыв.
Во первых написать тетрис не такая уж и практическая задача, Во вторых я попробовал, у меня например он сгенерировал нерабочий тетрис. Причем утверждал, что код рабочий, пока я носом не ткнул его в ошибки. После моих указаний он ошибки признал, и код поправил. Так что до реальных задач его допускать пока рановато. Но ИМХО в приведенном приведенном примере значительно интереснее выглядет то, что он смог понять, что значит "сделать фигуры цветными", и что значит, "падают слева направо", это как-раз показывает уровень понимания живого языка и контекста и отлично иллюстрирует именно осмысленность разговора, о которой я писал.
