Здравствуйте, Dimonka, Вы писали:


CRT>>Если китайцы в него это не закладывали, то пусть он так бы и сказал: "не знаю такого". А то ведь он начинает врать и придумывать. По сути он всё придумывает, только что-то больше отклоняется тех данных на которых его обучали, а что-то меньше.

D>Так это тоже вопрос обучения. Может китайцы не учили его говорить "я не знаю такого"

То есть они учили его врать? На самом деле все большие языковые модели так работают. У них нет некой базы данных с которой он сверяет свои ответы. Он всегда придумывает.

D>И это не отменяет его способностей рассуждать логично.

Еще один... Один говорит что чат боты — это надстройка над БД. Другой говорит что он рассуждает логично...
Нет. Он не использует логику (в смысле формальную или математическую) для генерации своих ответов. Он не сверяет свои ответы на соответствие законам логики. Он буквально в одном абзаце ответа может утверждать одно, а в следующем утверждать противоположное. То есть нарушает первый закон логики — закон противоречия. У него вероятностный подход. Если сказаны слова A B C, то с наибольшей вероятностью следующем будет слово D. И так далее. Это если совсем примитивно объяснять.

Здравствуйте, Dimonka, Вы писали:


CRT>>Если китайцы в него это не закладывали, то пусть он так бы и сказал: "не знаю такого". А то ведь он начинает врать и придумывать. По сути он всё придумывает, только что-то больше отклоняется тех данных на которых его обучали, а что-то меньше.

D>Так это тоже вопрос обучения. Может китайцы не учили его говорить "я не знаю такого"

То есть они учили его врать? На самом деле все большие языковые модели так работают. У них нет некой базы данных с которой он сверяет свои ответы. Он всегда придумывает.

D>И это не отменяет его способностей рассуждать логично.

Один говорит что чат бот — это надстройка над БД. Другой говорит что он рассуждает логично...
Нет. Он не использует логику (в смысле формальную или математическую) для генерации своих ответов. Он не проверяет свои ответы на соответствие законам логики. Он буквально в одном абзаце ответа может утверждать одно, а в следующем утверждать противоположное. То есть нарушает первый закон логики — закон противоречия. У него вероятностный подход. Если сказаны слова A B C, то с наибольшей вероятностью следующим будет слово D. И так далее. Это если совсем примитивно объяснять.