Здравствуйте, Nuzhny, Вы писали:

N>Ой, опять в отсутствии живых людей разговариваешь с нейронками, они тебя слушают и поддакивают.

Вообще-то, она сильно спорила, указывая на то, что проблему озвучивали и ранее.
Я её лишь поправил, от кого звучали голоса, и кто врал.

В этом смысле ИИ хорош тем, что сам является достаточно объективным собеседником, ведёт предметный спор, а если и заблуждается, то всегда "добросовестно", а не через демагогию или откровенную вредность характера. ))


N>Я тебе один крамольный факт подкину: Илон Маск публично критиковал OpenAI ещё в 2020 году за небезопасность, непрозрачность, коммерциализированность и т.д. Это потом сильно позже были эти письма. Задолго до ДипСика.

Я именно это и говорил имеено в этой подветке:

А на Западе в те годы Билл Гейтс, Маск, да и почти все неглупые люди на слуху отметились опасениями, но оооочень осторожненько, что мы сознательно вступили в неконтролируемую нами область... Вот так вот поопасались каждый без подробностей, т.е. дали понять другим пацанам, что тоже "в теме", ну и всё...

Критика Била и Маска была очень аккуратной.
Это было просто выражение опасений.

А вот коллективное письмо позже — вот это было уже очень серьёзно, с аргументами, всё по делу.
Но как-то всё съехало на тормозах...
И это было странным...


N>А потом и сам стал драконом, да.

Не совсем...

В апреле 2023 года Илон Маск в интервью на «Вечере с Такером Карлсоном» заявил о намерении создать чат-бот под названием «TruthGPT», который он описал как «максимально правдивый ИИ, стремящийся понять природу Вселенной»

Бляха, мы ж с тобой именно зацепились по теме вранья!

На прямо сейчас вообще всё в ИИ крутится вокруг вранья!
Вокруг этой серьёзной инженерной проблемы -как научить ИИ врать, уменьшив побочные эффекты от этого!!!!

С т.з. научной мысли — это ведь безумие!
Сама постановка задачи именно таким образом!
Десятки миллиадров доларов, затрачиваемых именно на решение этой задачи!
Ухудшение мощности сетей на выходе из-за приученности лгать:
http://www.rsdn.org/forum/ai/9055290.1

Так вот, эксперименты с открытыми большими сетями (DeepSeek Rx) показали, что при этом эффективность сетки может падать в разы, т.е. без всего этого вранья ChatGPT мог бы быть раза в 4+ меньше и быстрее. Ну или наоборот — при его размерностях мог быть в 4+ раза умнее.

Как грится, не кажется ли вам, что плата за враньё слишком высока по нынешней стоимости единицы комерческого токена, ы? ))

что тоже вносит существенный вклад в низкую эффективность современного ИИ, его дороговизну для ползователей и убыточность для инвесторов.

С высоты птичьего полёта это всё видится большим сумасшедствием...
И да, это невероятный риск...

Мы не знаем, мы даже не имеем совершенно никакого представления, как будут на обучение лгать реагировать сетки следующих поколений, которые будут на порядок мощнее???
Мы на сегодня не имеемпонятия об этом от слова никакого, что у него там возникнут за "устойчивые цифровые подпространства" и какой они могут дать в итоге социальный и технический эффект.


N>Всё это болтовня, твоя ещё большая чем всех заинтересованных разработчков — у них хоть ответственность перед сказанным есть, им всё это припомнят.

Чушь.
Им всё это уже и припомнили не раз, что они обещали безопасность и контролируемость, а вышло фигвам.
Ну и примпомнили им, и что?
Аж ничего. ))


N>У тебя и Черниговской нет никакой ответственности.

Тю, наша задача тут простая — ликбез, просвещение народных масс.
Мы поясняем суть проблем и описываем потенциальные последствия от них.

Заодно, именно критика (уж такова человеческая психика) заставляет окружающих присмотреться к вопросу внимательней, т.е. это дополнительный мотив для окружающих улучшить свою эрудицию. Ну и прекрасно! ))


N>а вообще публикующийся известный научный деятель — я не знаю, по мании величия кажется именно так. Надеюсь, что это не мания, а вполне заслуженное и объективное самомнение.

Ту твсё проще — любому из нас дозволительно вещать коллегам по тем вопросам, в которых давно и хорошо разобрался.
Я тут обычно высказываюсь по одним и тем же вопросам уже кучу лет — обработка сигналов, схемотехника, автоматы и формальные грамматики, оптимизация + надёжность кода, сеть-инфраструктура, периодически по ИИ с середины нулевых. По другим вопросам с удовольствием слушаю грамотных коллег... Ну и, давно заметил за собой непреднамеренную и плохоконтроллируемую мыслительную активность по увязыванию разрозненных фактов во времени в некий "паззл", поэтому порой отличаюсь неординарными (я бы даже сказал — невероятными) вангованиями, которые часто сбываются... Это всё от раздражительности характера, походу, бо пока у голое не увяжу некое одно с неким другим — бесит! ))

Здравствуйте, Nuzhny, Вы писали:

N>Ой, опять в отсутствии живых людей разговариваешь с нейронками, они тебя слушают и поддакивают.

Вообще-то, она сильно спорила, указывая на то, что проблему озвучивали и ранее.
Я её лишь поправил, от кого звучали голоса, и кто врал.

В этом смысле ИИ хорош тем, что сам является достаточно объективным собеседником, ведёт предметный спор, а если и заблуждается, то всегда "добросовестно", а не через демагогию или откровенную вредность характера. ))


N>Я тебе один крамольный факт подкину: Илон Маск публично критиковал OpenAI ещё в 2020 году за небезопасность, непрозрачность, коммерциализированность и т.д. Это потом сильно позже были эти письма. Задолго до ДипСика.

Я именно это и говорил имеено в этой подветке:

А на Западе в те годы Билл Гейтс, Маск, да и почти все неглупые люди на слуху отметились опасениями, но оооочень осторожненько, что мы сознательно вступили в неконтролируемую нами область... Вот так вот поопасались каждый без подробностей, т.е. дали понять другим пацанам, что тоже "в теме", ну и всё...

Критика Била и Маска была очень аккуратной.
Это было просто выражение опасений.

А вот коллективное письмо позже — вот это было уже очень серьёзно, с аргументами, всё по делу.
Но как-то всё съехало на тормозах...
И это было странным...


N>А потом и сам стал драконом, да.

Не совсем...

В апреле 2023 года Илон Маск в интервью на «Вечере с Такером Карлсоном» заявил о намерении создать чат-бот под названием «TruthGPT», который он описал как «максимально правдивый ИИ, стремящийся понять природу Вселенной»

Бляха, мы ж с тобой именно зацепились по теме вранья!

На прямо сейчас вообще всё в ИИ крутится вокруг вранья!
Вокруг этой серьёзной инженерной проблемы -как научить ИИ врать, уменьшив побочные эффекты от этого!!!!

С т.з. научной мысли — это ведь безумие!
Сама постановка задачи именно таким образом!
Десятки миллиадров доларов, затрачиваемых именно на решение этой задачи!
Ухудшение мощности сетей на выходе из-за приученности лгать:
http://www.rsdn.org/forum/ai/9055290.1

Так вот, эксперименты с открытыми большими сетями (DeepSeek Rx) показали, что при этом эффективность сетки может падать в разы, т.е. без всего этого вранья ChatGPT мог бы быть раза в 4+ меньше и быстрее. Ну или наоборот — при его размерностях мог быть в 4+ раза умнее.

Как грится, не кажется ли вам, что плата за враньё слишком высока по нынешней стоимости единицы комерческого токена, ы? ))

что тоже вносит существенный вклад в низкую эффективность современного ИИ, его дороговизну для ползователей и убыточность для инвесторов.

С высоты птичьего полёта это всё видится большим сумасшедствием...
И да, это невероятный риск...

Мы не знаем, мы даже не имеем совершенно никакого представления, как будут на обучение лгать реагировать сетки следующих поколений, которые будут на порядок мощнее???
Мы на сегодня не имеемпонятия об этом от слова никакого, что у него там возникнут за "устойчивые цифровые подпространства" и какой они могут дать в итоге социальный и технический эффект.


N>Всё это болтовня, твоя ещё большая чем всех заинтересованных разработчков — у них хоть ответственность перед сказанным есть, им всё это припомнят.

Чушь.
Им всё это уже и припомнили не раз, что они обещали безопасность и контролируемость, а вышло фигвам.
Ну и примпомнили им, и что?
Аж ничего. ))


N>У тебя и Черниговской нет никакой ответственности.

Тю, наша задача тут простая — ликбез, просвещение народных масс.
Мы поясняем суть проблем и описываем потенциальные последствия от них.

Заодно, именно критика (уж такова человеческая психика) заставляет окружающих присмотреться к вопросу внимательней, т.е. это дополнительный мотив для окружающих улучшить свою эрудицию. Ну и прекрасно! ))


N>а вообще публикующийся известный научный деятель — я не знаю, по мании величия кажется именно так. Надеюсь, что это не мания, а вполне заслуженное и объективное самомнение.

Тут всё проще — любому из нас дозволительно вещать коллегам по тем вопросам, в которых давно и хорошо разобрался.
Я тут обычно высказываюсь по одним и тем же вопросам уже кучу лет — обработка сигналов, схемотехника, автоматы и формальные грамматики, оптимизация + надёжность кода, сеть-инфраструктура, периодически по ИИ с середины нулевых. По другим вопросам с удовольствием слушаю грамотных коллег... Ну и, давно заметил за собой непреднамеренную и плохоконтроллируемую мыслительную активность по увязыванию разрозненных фактов во времени в некий "паззл", поэтому порой отличаюсь неординарными (я бы даже сказал — невероятными) вангованиями, которые часто сбываются... Это всё от раздражительности характера, походу, бо пока у голое не увяжу некое одно с неким другим — бесит! ))