Здравствуйте, Mihal9, Вы писали:

M>Как известно, главная проблема ChatGPT — это то, что на него нельзя положиться. Он может безбожно врать, когда спросишь о фактах, может выдумывать несуществующие события, людей, подсовывать факты, которых не было.
Также как и любой человек.

M>То есть за ним постоянно нужно проверять и уточнять в других источниках.
Также как за любым человеком.

M>Если ты не разбираешься в теме, тебя дезинформируют. Если разбираешься, то сам исправляешь бота. Но тогда зачем нужен такой помощник?
Также как любой человек.

M>Хотелось бы безупречного, безошибочного специалиста в качестве помощника. Как думаете, такой вообще возможен??
Хотелось бы идеального человека который делает все правильно. Но возможно ли родить такого человека ?

M>Я заметил, что сейчас яндекс активно набирает людей, которые занимаются факт-чекингом. То есть смотрят на ответы бота и исправляют ответ, где надо.
Заметил что человечество построило много школ, университетов , где человеку дают задания он их делает, преподаватель исправляет.

M>Сильно ли это поможет ИИ? Модель, которую нужно постоянно поправлять. Добьются ли она хотя бы 90-процентной точности (что тоже мало)?
Сильно ли это поможет человечеству ? Человек которого нужно поправлять.


Например твой код всегда тестируют и находят баги , ты пишешь плохой не идеальный код с багами.
Также иногда напечатанный тобой код не компилируется, ты меняешь буковки в IDE, а он опять не компилируется или ошибок становится больше = ты врешь ( врешь в том смысле как в топике ) и нельзя положиться.
Когда исправишься ?

p.s. но в целом да сейчас ChatGPT это уровень джуна если не меньше..но сам подход к оценке который ты предлагаешь он неверный, проблема не столь в обучении на факт-чекинге, сколько в обратной связи для текущей.
ЧатЖПТ не может скомпилировать свой код и проверить , также как и человек печатает первую мысль и она не компилируется, он смотрит ошибку и поправляет — процесс иттерационный. Нейронка она выдает только некий "момент мысли" чтобы получить законченный результат изобразить процесс мышления, на каждый такой момент мысли — надо давать обратную связь тогда она приходит к правильному решению. Например я скармливаю ошибки GhatGPT, иногда много раз , но в итоге он приходит к компилируемому рабочему варианту. Также и человек когда думает он каждый "момент мысли" верифицирует на базе своих знаний, но опять же может в итоге написать не компилируемый код т.к. что-то не смог верифицировать.

Здравствуйте, paucity, Вы писали:

P>Интересно, а платная версия такая же булшитная как и бесплатная?

Здравствуйте, Shmj, Вы писали:

S>Вам просто Рабинович по телефону насвистывает. Вы обсуждаете не настоящий GPT 4 а ваши местные поделки, которые просто имеют название GTP-4, чтобы вас дурить — как обычно.
ага, рассказывай мне тут, у нас не просто гпт чат за 20 баксов как у тебя, а корпоративная версия, с разными настройками, возможностью работать с кодом продукта не опасаясь его утечки за пределы нашей конторы и прочими плюшками. Менее деревянным правда, как видим, его это не сделало

Здравствуйте, Shmj, Вы писали:

S>Проблемы, которая была у тебя — уже нет.
Ога, полет Хоттабыча на Марс с Незнайкой для исправления ошибки в космической карте — это совсем и не проблема оказывается

S>Вы покупали у посредника или напрямую у openai? Уверенны что вас не обули?
Кто, openai с Майкрософтом нас обул? Может и с Азуром нас обули посредники всякие? Ты реально херню какую то в стиле чата уже генерируешь, видимо он заразный.

Здравствуйте, Mihal9, Вы писали:

M>Как известно, главная проблема ChatGPT — это то, что на него нельзя положиться. Он может безбожно врать, когда спросишь о фактах, может выдумывать несуществующие события, людей, подсовывать факты, которых не было.
M>То есть за ним постоянно нужно проверять и уточнять в других источниках.
M>Если ты не разбираешься в теме, тебя дезинформируют. Если разбираешься, то сам исправляешь бота. Но тогда зачем нужен такой помощник?

1. Не нужно слепо верить. Например ты задаёшь вопрос по теме в которой сам не разбираешься, и даже не знаешь с чего начать — получаешь ответ который затрагивает смесь областей, далее ты можешь допросить с пристрастием моменты которые непонятны, а потом ещё сверить с первоисточниками. Это намного проще и удобнее чем начинать с нуля, или пытаться нагуглить сам не знаешь ещё что.
В общем AI может неплохо направить, и даже может пробуриться через сколько угодно слоёв — свой мозг при этом нельзя выключать, да.

2. Есть огромное количество задач для которых сложно найти решение, но тривиально проверить ответ на корректность. В случае с программированием AI и вовсе может сам написать тесты, так что твоя задача упрощается даже здесь.
Мастерство в том чтобы нарезать задачу на такие вот легко проверяемые фрагменты, и заставить машину делать всё по-максимуму, а самому лишь проверять корректность (объём такой проверки можно минимизировать с помощью того же AI).
Здесь в общем ничего нового по сравнению например с аутсорсингом задачи каком-нибудь стажёру — он также может накосячить где угодно, вчитываться в каждую строчку его творчества — никаких ресурсов не хватит, потому нужно подходить ко всему процессу имея в виду все эти ограничения, и организовывать задачи соответствующим образом.

M>Хотелось бы безупречного, безошибочного специалиста в качестве помощника. Как думаете, такой вообще возможен??

1. Экстраполируя текущий прогресс — да возможен.
2. Даже на текущем уровне можно повысить годность выхлопа завернув всё в специальный драйвер, который будет допрашивать AI, и заставлять проверять его всё много раз. Например AI выдаёт код который не компилируется, но если ему потом скормить ошибку компилятора, он тут же её исправляет — этот процесс можно автоматизировать.

Здравствуйте, vsb, Вы писали:

vsb>Я его прошу — вот по этому пункту подробней раскрой с примерном — где баг, он такой — извините, я присмотрелся и тут действительно всё хорошо. Ну и что тебе мешало присмотреться прежде, чем тратить моё время бесполезным ответом?

Вот для этого и нужен дополнительный драйвер, который заставит его всё проверить несколько раз, под копотом, а пользователю выдавать лишь финальный ответ который резюмирует всё лучшее из этих отдельных попыток.
А происходит так отчасти от того что модель предсказывает следующий символ/токен ответа на основе всего предыдущего контекста И у неё нету (по крайней мере без дополнительных инструкций) возможности стереть неправильный символ/токен/слово/предложение, даже если на каком-то этапе она и видит что там ошибка — ей приходится продолжать нести чушь.
Видимо само-корректирующих ответов в тренировочном наборе данных нет от слова совсем — по крайней мере я ни разу не видел чтобы она самом исправила себя в середине ответа, если об этом явно не попросить.
Там кстати можно подкрутить параметры типа температуры, чтобы понизить "креативность" и повысить точность.

Здравствуйте, Mihal9, Вы писали:

M>Как известно, главная проблема ChatGPT — это то, что на него нельзя положиться.
M>Но тогда зачем нужен такой помощник?

Вообще не понимаю, чем именно он вам "помощник". Есть гугл с конкретными страницами — заходишь, читаешь, осмысляешь. ЧатЖэПэТэ вам зачем?

M>Сильно ли это поможет ИИ?

Какой ещё ИИ? Разве его изобрели??

Здравствуйте, Evgeny.Panasyuk, Вы писали:

EP>Вот для этого и нужен дополнительный драйвер, который заставит его всё проверить несколько раз, под копотом

Вот только этот "драйвер" сам по себе должен быть сильным И.

Здравствуйте, Shmj, Вы писали:

S>Правильно, из твоей Вселенной — из бадяги, которую вам продали под видом GPT 4. Еще раз говорю — эти перлы к настоящему GPT 4 — никакого отношения не имеют.

Что ты несёшь Я по-твоему url не вижу где наша песочница расположена? То, что ты не в курсе существования корпоративных версий никак не влияет на сам факт их существования

А все эти твои кошерные ответы якобы "правильного" чата — так с самого начала было известно о его суперспособности генерить диаметрально противоположные ответы если нажимать на кнопку Refresh, если перейти по твоей собственной ссылке и порефрешить пару раз, то вперемешку с правильными ответами там мигом полезут такие шедевры как

Извините за недоразумение в предыдущем ответе. В классической советской сказке "Старик Хоттабыч" Хоттабыч действительно отправляется на Марс. Он летает на Марсе, чтобы получить специальный камень, который поможет Вольке, главному герою, решить его проблемы. Эта часть сюжета о посещении Марса является ключевым моментом в сказке и создает множество приключений для главных персонажей.

https://chat.openai.com/share/8c6aa96c-53d0-4251-9f62-bc9c2ccd95bb

Это то, чем ты собственно и занимаешься — нарефрешишь себе правильный ответ и обьявляешь его кошерно правильным, а то и вообще просто подсказками выбиваешь из него правильное решение, которым и размахиваешь потом на форуме

Здравствуйте, Shmj, Вы писали:

S>GPT4 всегда отрицает полет на Марс, не соглашается. Во всех случаях.
Я тебе привел скриншот где 4 версия говорит про Марс с Незнайкой и картой. То, что ты не веришь в существование корпоративных версий openai мне глубоко параллельно
Очень сочувствую конторе на которую ты работаешь и всем твоим коллегам, иметь такое каждый день при обсуждениях, пр ревью и на обычных совещаниях это полный п-ц.

Как известно, главная проблема ChatGPT — это то, что на него нельзя положиться. Он может безбожно врать, когда спросишь о фактах, может выдумывать несуществующие события, людей, подсовывать факты, которых не было.
То есть за ним постоянно нужно проверять и уточнять в других источниках.

Если ты не разбираешься в теме, тебя дезинформируют. Если разбираешься, то сам исправляешь бота. Но тогда зачем нужен такой помощник?
Хотелось бы безупречного, безошибочного специалиста в качестве помощника. Как думаете, такой вообще возможен??

Я заметил, что сейчас яндекс активно набирает людей, которые занимаются факт-чекингом. То есть смотрят на ответы бота и исправляют ответ, где надо.
Сильно ли это поможет ИИ? Модель, которую нужно постоянно поправлять. Добьются ли она хотя бы 90-процентной точности (что тоже мало)?

Здравствуйте, Mihal9, Вы писали:

M>Я заметил, что сейчас яндекс активно набирает людей, которые занимаются факт-чекингом. То есть смотрят на ответы бота и исправляют ответ, где надо.
M>Сильно ли это поможет ИИ? Модель, которую нужно постоянно поправлять. Добьются ли она хотя бы 90-процентной точности (что тоже мало)?

Это нужно скорректировать ответы чат бота на все возможные запросы, которые могут поступить. Что невозможно. На типовые вопросы в духе: алиса, сколько у тебя сисек, они ответы может скорректируют, но всегда найдется вопрос, о возможности которых те набираемые и не подозревают. В яндексе лучше бы задумались над разработкой более совершенного ИИ, а не хайпы ловили, чтоб хомячков певеселить и рекламку им подсунуть, но видимо не тянут (а с чего бы).

Здравствуйте, Mihal9, Вы писали:

M>Как известно, главная проблема ChatGPT — это то, что на него нельзя положиться. Он может безбожно врать, когда спросишь о фактах, может выдумывать несуществующие события, людей, подсовывать факты, которых не было.
M>То есть за ним постоянно нужно проверять и уточнять в других источниках.

M>Если ты не разбираешься в теме, тебя дезинформируют. Если разбираешься, то сам исправляешь бота. Но тогда зачем нужен такой помощник?
M>Хотелось бы безупречного, безошибочного специалиста в качестве помощника. Как думаете, такой вообще возможен??

M>Я заметил, что сейчас яндекс активно набирает людей, которые занимаются факт-чекингом. То есть смотрят на ответы бота и исправляют ответ, где надо.
M>Сильно ли это поможет ИИ? Модель, которую нужно постоянно поправлять. Добьются ли она хотя бы 90-процентной точности (что тоже мало)?

Есть вопросы, ответы на которые легко проверить, например написание кода.

Здравствуйте, Mihal9, Вы писали:

M>Как известно, главная проблема ChatGPT — это то, что на него нельзя положиться. Он может безбожно врать, когда спросишь о фактах, может выдумывать несуществующие события, людей, подсовывать факты, которых не было.
M>То есть за ним постоянно нужно проверять и уточнять в других источниках.

M>Если ты не разбираешься в теме, тебя дезинформируют. Если разбираешься, то сам исправляешь бота. Но тогда зачем нужен такой помощник?
M>Хотелось бы безупречного, безошибочного специалиста в качестве помощника. Как думаете, такой вообще возможен??

Конечно возможет. Ты же уточняешь в источниках, что мешает ИИ сделать ровно то же. Более того — где ты там уточняешь, это большой вопрос. Небось на википедию полезешь. А если крупная компания будет задаваться такой целью, у неё база фактов явно будет серьёзней.

Если что, я не согласен, что это главная проблема ChatGPT. Я им пользуюсь почти каждый день и с этой проблемой почти не сталкиваюсь. Мне от него хотелось бы в первую очередь самокритичности. Грубо говоря: я ему пишу — сделай ревью этого кода, он мне накидывает проблемные пункты. Я его прошу — вот по этому пункту подробней раскрой с примерном — где баг, он такой — извините, я присмотрелся и тут действительно всё хорошо. Ну и что тебе мешало присмотреться прежде, чем тратить моё время бесполезным ответом?

Здравствуйте, Evgeny.Panasyuk, Вы писали:

EP>Здесь в общем ничего нового по сравнению например с аутсорсингом задачи каком-нибудь стажёру — он также может накосячить где угодно
слишком радужно. стажер в конце концов научится и ты просто тупо начинаешь ему доверять, а вот ии как был деревянный так и остался.
я и ошибки ему показывал, продолжает врать на голубом глазу.

Здравствуйте, Mihal9, Вы писали:

Интересно, а платная версия такая же булшитная как и бесплатная?

Что чатгпт несет про грузинских космонавтов и ампутацию головы в условиях платной подписки?

Здравствуйте, okon, Вы писали:


M>>Как известно, главная проблема ChatGPT — это то, что на него нельзя положиться. Он может безбожно врать, когда спросишь о фактах, может выдумывать несуществующие события, людей, подсовывать факты, которых не было.
O>Также как и любой человек.


Нет, не как и любой человек.
Есть довольно много специалистов в своих областях, которые не будут безбожно врать, а предоставят точную информацию

Здравствуйте, smeeld, Вы писали:

S>На типовые вопросы в духе: алиса, сколько у тебя сисек, они ответы может скорректируют

А сколько, кстати?

Здравствуйте, Nnova, Вы писали:

N>Здравствуйте, paucity, Вы писали:

P>>Интересно, а платная версия такая же булшитная как и бесплатная?

Вот что говорит настоящая GPT4:

Старик Хоттабыч — это персонаж из сказки Габдуллы Тукая "Старик Хоттабыч". В этой сказке он был джинном, заключенным в бутылке. Однако в оригинальной сказке Хоттабыч не летал в космос. Возможно, вы имеете в виду какую-то адаптацию или новую версию истории, которую я не знаю. Если вы можете предоставить больше контекста или описать сцену, на которую вы ссылались, я мог бы попытаться помочь лучше.

Default:

В советском фильме "Старик Хоттабыч" (1956 года) старик Хоттабыч обладал волшебными способностями, но он не летал в космос. Основная линия рассказа вращалась вокруг его взаимодействия с современным ему миром после тысячелетнего пребывания в бутылке.

Однако в позднейших интерпретациях или адаптациях этой истории могли появиться новые элементы. На момент последнего обновления моих данных в сентябре 2021 года, я не располагаю информацией о каком-либо продолжении или версии истории, в которой Хоттабыч летел в космос. Если это что-то новое или нешаблонное, то мне об этом не известно.

Вам просто Рабинович по телефону насвистывает. Вы обсуждаете не настоящий GPT 4 а ваши местные поделки, которые просто имеют название GTP-4, чтобы вас дурить — как обычно.

Здравствуйте, paucity, Вы писали:

P>Интересно, а платная версия такая же булшитная как и бесплатная?

Платная версия редко что выдумывает — отвечает на уровне человека.

еще перлы из альтернтивной вселенной

Здравствуйте, Mihal9, Вы писали:

M>Здравствуйте, okon, Вы писали:


M>>>Как известно, главная проблема ChatGPT — это то, что на него нельзя положиться. Он может безбожно врать, когда спросишь о фактах, может выдумывать несуществующие события, людей, подсовывать факты, которых не было.
O>>Также как и любой человек.


M>Нет, не как и любой человек.
M>Есть довольно много специалистов в своих областях, которые не будут безбожно врать, а предоставят точную информацию

Ключевое слово в "своих областях", почему ты считаешь что ChatGPT профи во всех областях ? для каждой области есть своя специфика и свои натренированные модели.

Здравствуйте, Nnova, Вы писали:

N>ага, рассказывай мне тут, у нас не просто гпт чат за 20 баксов как у тебя, а корпоративная версия, с разными настройками, возможностью работать с кодом продукта не опасаясь его утечки за пределы нашей конторы и прочими плюшками. Менее деревянным правда, как видим, его это не сделало

Ты на результат смотри. Твоя версия туфту выдает — а моя точные данные.

Вам, скорее всего, продали GPT 3.5 а то и 3.0, просто с помощью Find/Replace — заменили версию, чтобы срубить побольше бабла.

Купи настоящую версию 4.0 — и прозревай.

Здравствуйте, Nnova, Вы писали:

N>еще перлы из альтернтивной вселенной
N>Image: 222.jpg

Правильно, из твоей Вселенной — из бадяги, которую вам продали под видом GPT 4. Еще раз говорю — эти перлы к настоящему GPT 4 — никакого отношения не имеют.

А то как в анекдоте:

- И шо вы все с ума посходили со своим Карузо?! Слышал я вашего Карузо — картавит, шепелявит...
— Вы были на концерте???
— Нет, мне Рабинович по телефону напел.

Вот что ответил настоящий GPT 4:

	Скрытый текст
	На самом деле Хоттабыч (или дедушка из "Старика Хоттабыча") никогда не летал на Марс в классической советской сказке или фильме. "Старик Хоттабыч" — это советская книга, написанная Лазарем Лагиным, в которой джин Хоттабыч освобождается мальчиком Волькой из старой бутылки и начинает помогать ему в различных жизненных ситуациях. Возможно, вы смешали историю Хоттабыча с каким-то другим произведением или адаптацией, где был элемент полёта на Марс. Однако в оригинальной версии про Марс речи не идет. https://chat.openai.com/share/43e44398-7dc9-43ce-a125-e641f20ddadc

Теперь я понимаю почему вы смеетесь, когда я говорю о том, что GPT 4 понимает текст. Именно что понимает. Вы то сравниваете со своей бадягой — с тем что Рабинович напел и смеетесь.

Здравствуйте, Mihal9, Вы писали:

M>Как известно, главная проблема ChatGPT — это то, что
я так понял, что вы говорите о умном компиляторе ?

Здравствуйте, Nnova, Вы писали:

N>https://chat.openai.com/share/8c6aa96c-53d0-4251-9f62-bc9c2ccd95bb

N>Это то, чем ты собственно и занимаешься — нарефрешишь себе правильный ответ и обьявляешь его кошерно правильным, а то и вообще просто подсказками выбиваешь из него правильное решение, которым и размахиваешь потом на форуме

Ты что слепой — у тебя 3.5 версия:

	Скрытый текст

Вот, сгенерил 3 разных диалога подряд:

https://chat.openai.com/share/f466c3ed-2755-4300-b61b-3e5136a025d7

https://chat.openai.com/share/56a90676-f0e3-4008-b39f-1e1a61c76ec0

https://chat.openai.com/share/bdc37dab-7b9f-49e7-a225-53a1a74ba01c

Я понимаю что вам хотелось бы быть умнее, чтобы это была бездушная машина и т.д. Но нет, в новой версии данной проблемы уже нет.

Попробуй сгенерить с помощью GPT 4 (не 3.5! и не вашим фейком) — чтобы он ответил на этот вопрос не правильно. Именно чтобы это был первый ответ, а не как бы защита от дурака, когда ты 10 раз убеждаешь его в обратном.

Здравствуйте, Shmj, Вы писали:

S>Я понимаю что вам хотелось бы быть умнее, чтобы это была бездушная машина и т.д. Но нет, в новой версии данной проблемы уже нет.
Ты сам хоть прочитал что сюда выложил то? В одном ответе у него рассказ Лагина, во втором какой то великосветский джинн Гайдара, нет проблемы у него ага. Ну и понятно что более интересные ответы ты сюда выложить постесняешься

S>Попробуй сгенерить с помощью GPT 4
То, что генерит 4 версия я уже показал, глюки там никуда на делись, и деться не могли, как твой собственный ответ и показывает

S>(не 3.5! и не вашим фейком)
https://openai.com/blog/introducing-chatgpt-enterprise
Просвещайся что такое корпоративный аккаунт, он по своим возможностям твою двадцатидолларовую версию уделывает как тузик грелку, вот только тебе ее явно не видать т.к. для этого работу надо приличную иметь где не жмотятся на современный софт

Здравствуйте, Nnova, Вы писали:

N>То, что генерит 4 версия я уже показал, глюки там никуда на делись, и деться не могли, как твой собственный ответ и показывает

Проблемы, которая была у тебя — уже нет.

А так — 4 версия не предел.

S>>(не 3.5! и не вашим фейком)
N>https://openai.com/blog/introducing-chatgpt-enterprise
N>Просвещайся что такое корпоративный аккаунт, он по своим возможностям твою двадцатидолларовую версию уделывает как тузик грелку, вот только тебе ее явно не видать т.к. для этого работу надо приличную иметь где не жмотятся на современный софт

Вы покупали у посредника или напрямую у openai? Уверенны что вас не обули?

Ваша версия допускает более примитивные ошибки.

Здравствуйте, Mihal9, Вы писали:

M>Как известно, главная проблема ChatGPT — это то, что на него нельзя положиться. Он может безбожно врать, когда спросишь о фактах, может выдумывать несуществующие события, людей, подсовывать факты, которых не было.

Это не проблема. Это архитектурная фича. Даешь некоторые вводные — машина тебе выдумывает некоторые более-менее правдоподобные фактоиды, ложащиеся в популярные шаблоны.
Всё это сделано в качестве proof of concept, а побочно помогает творческим работникам, дизайнерам, сценаристам и пр.

Если нужно инженерное или математическое решение — можно попасть впросак. Проверять нужно, тестировать.

Здравствуйте, Nnova, Вы писали:

S>>Проблемы, которая была у тебя — уже нет.
N>Ога, полет Хоттабыча на Марс с Незнайкой для исправления ошибки в космической карте — это совсем и не проблема оказывается

GPT4 всегда отрицает полет на Марс, не соглашается. Во всех случаях.

Именно эту ошибку мы проверяли изначально — в вашей бадяге она возникает, в настоящем GPT4 — нет.

S>>Вы покупали у посредника или напрямую у openai? Уверенны что вас не обули?
N>Кто, openai с Майкрософтом нас обул? Может и с Азуром нас обули посредники всякие? Ты реально херню какую то в стиле чата уже генерируешь, видимо он заразный.

Так это вы в рамках Azure покупали что ли? Там у них другие модели и технологии.

Здравствуйте, Nnova, Вы писали:

S>>GPT4 всегда отрицает полет на Марс, не соглашается. Во всех случаях.
N>Я тебе привел скриншот где 4 версия говорит про Марс с Незнайкой и картой. То, что ты не веришь в существование корпоративных версий openai мне глубоко параллельно

Дай ссылку на ответ оригинальный OpenAI — типа такой: https://chat.openai.com/share/bdc37dab-7b9f-49e7-a225-53a1a74ba01c

Скрин ты привел не понятно из какой бадяги — оригинальная таких глупостей не говорит.

N>Очень сочувствую конторе на которую ты работаешь и всем твоим коллегам, иметь такое каждый день при обсуждениях, пр ревью и на обычных совещаниях это полный п-ц.

Давай честно посмотрим правде в глаза. Тебе страшно за работу? Что потеряешь и не найдешь? Что OpenAI сделает тебя не нужным. Ведь это твой основной страх?

И когда ваша бадяга неверно ответила на вопрос — ты воспрял духом, сразу начал превозноситься над глупой железкой. Так?

Но пойми простую вещь — нет смысла прятать голову в песок. Оригинальная версия таких ошибок не допускает. Просто факт.