Тут пишут:

На прошлой неделе фонд Arc Prize Foundation, который поддерживает и администрирует ARC-AGI, обновил приблизительные затраты на вычисления для o3. Первоначально организация подсчитала, что самая производительная конфигурация o3, которую она протестировала, o3 high, стоила около $3000 для решения одной задачи ARC-AGI. Теперь фонд Arc Prize Foundation считает, что стоимость намного выше — возможно, около $30000 за задачу.

Но вроде как для обывателей — сделают тариф — по $20 за 1 (ОДНУ!!!) задачу: https://vc.ru/future/1722110-o3-ot-openai-znakomimsya-s-modelyu-kotoraya-mozhet-brat-za-odnu-zadachu-do-20-dollarov

Т.е. даже мин. конфигурация — сравнимо со стоимостью фрилансера — за $20 вполне люди выполняют работу на пол часика времени.

Так же остается вопрос — что можно получить за $20 — вроде как результат на пару процентов выше текущей, которая $20 за месяц. Я уже молчу по $30 тыс. за задачу — за такую стоимость можно нанять группу ученых — неужто LLM-ка отработает сопоставимо?

В общем, кажется что пошло экспоненциальное нарастание стоимости вычислений при повышении качества на 1-3%

Здравствуйте, Shmj, Вы писали:

S>В общем, кажется что пошло экспоненциальное нарастание стоимости вычислений при повышении качества на 1-3%

А ты думал, в сказку попал?

Здравствуйте, student__, Вы писали:

S>>В общем, кажется что пошло экспоненциальное нарастание стоимости вычислений при повышении качества на 1-3%
__>А ты думал, в сказку попал?

По началу стоимость была стабильной а качество увеличивалось. Теперь начали давить на кошелек, вводить лимиты и пр. Причем говорят что тот общий тариф $20 для них глубоко убыточен и грозятся повышать.

Здравствуйте, Shmj, Вы писали:

S>В общем, кажется что пошло экспоненциальное нарастание стоимости вычислений при повышении качества на 1-3%

А откуда известно про 1-3%? Как это измеряют? Что показывают эти проценты?

Здравствуйте, Shmj, Вы писали:

Мне кажется, что из существующих алгоритмов и теории выжато уже почти всё, а попытка двигаться за счет масштабирования вычислительных ресурсов тупиковая, так как в железе нет ничего революционного и не предвидится.
Нейросети всегда развивались волнообразно, с промежутками между ними в 10-20 или более лет и дело было в первую очередь не в вычислительных ресурсах, а в теоретической базе. Вот после появления свёрточных нейросетей был бум нейросетей в определенных областях. Возможно надо ждать 20-30 лет до появления новой теоретической базы.

Здравствуйте, TheBeginner, Вы писали:

TB>Мне кажется, что из существующих алгоритмов и теории выжато уже почти всё...

Это про нейросети, или вообще про алгоритмы?

Здравствуйте, Shmj, Вы писали:

S>Так же остается вопрос — что можно получить за $20 — вроде как результат на пару процентов выше текущей, которая $20 за месяц. Я уже молчу по $30 тыс. за задачу — за такую стоимость можно нанять группу ученых — неужто LLM-ка отработает сопоставимо?

"за такую стоимость можно нанять группу ученых" — хрен наймёшь, во-первых. Во-вторых, задачу они тебе решат за гораздо бОльшее время. Но дело-то не столько в стоимости прямо сейчас — CEO Anthropic говорил недавно, что стоимость вычислений каждый год снижается в 4 раза. То есть через год за эту задачу ты потратишь уже в 4 раза меньше или за те же деньги сможешь решить намного более сложную задачу. Феномен DeepSeek как раз из этой тенденции растёт. Поэтому OpenAI много чего сейчас делает в убыток из желания застолбить место и не дать дороги конкурентам потом.

Здравствуйте, Shmj, Вы писали:

S>Но вроде как для обывателей — сделают тариф — по $20 за 1 (ОДНУ!!!) задачу: https://vc.ru/future/1722110-o3-ot-openai-znakomimsya-s-modelyu-kotoraya-mozhet-brat-za-odnu-zadachu-do-20-dollarov
S>Т.е. даже мин. конфигурация — сравнимо со стоимостью фрилансера — за $20 вполне люди выполняют работу на пол часика времени.
S>Так же остается вопрос — что можно получить за $20 — вроде как результат на пару процентов выше текущей, которая $20 за месяц. Я уже молчу по $30 тыс. за задачу — за такую стоимость можно нанять группу ученых — неужто LLM-ка отработает сопоставимо?
Называется "Греби бабло, пока лохи на хайпе" (старое "куй железо, пока горяче").

S>В общем, кажется что пошло экспоненциальное нарастание стоимости вычислений при повышении качества на 1-3%
А вот "Это норма".

Здравствуйте, Философ, Вы писали:

Ф>А откуда известно про 1-3%? Как это измеряют? Что показывают эти проценты?

Ну тут смотрите:

	Скрытый текст

Обратите внимание — нижняя шкала — экспоненциальная. Вначале 1 цент а в конце уже 1000 долларов

Здравствуйте, Shmj, Вы писали:

S>

S>На прошлой неделе фонд Arc Prize Foundation, который поддерживает и администрирует ARC-AGI, обновил приблизительные затраты на вычисления для o3. Первоначально организация подсчитала, что самая производительная конфигурация o3, которую она протестировала, o3 high, стоила около $3000 для решения одной задачи ARC-AGI. Теперь фонд Arc Prize Foundation считает, что стоимость намного выше — возможно, около $30000 за задачу.

а ты знаешь как оно работает?
Это компьютер с несколькими ускорителями ИИ (видеокарты скорее всего каждая по >100gb памяти, аля Nvidia H200 NVL 141Gb), общим ОЗУ примерно 1.5тб памяти, с многоканальным контроллером памяти, и парой процессоров.

т.е. тут компьюетр грубо говоря стоит по 3.5млн рублей каждая карта ИИ, + 1.5терабайта наверное этак миллион, плюс cpu мать и платформа миллиона 3. т.е. компьютер, узел всего лишь один из многих в стойкЕ, ценой примерно миллионов 15, т.е. цена узла — 100-150 тысяч$. жрет питания — я даже боюсь представить сколько. запросто киловатта полтора.

и вот знаешь как эта хрень работает в рассуждающих ответах местами? она начинает подбирать итерационно действия под требуемый результат.
У меня случай был — на питоне сгенерируй, говорю, алгоритм такой то, чтобы он выдвал вот это вот.
и понеслось. она начала перебирать варианты алгоритма, подбирая там разные коэффициенты, а потом запускала и смотрела что получилось.
и так много раз, пока у меня тариф не кончился на запросы по этому типу ИИ. несколько десятков минут фигачила без остановки.

и если задача серьезная — она сутками же может работать над ней.

Здравствуйте, Nuzhny, Вы писали:

N>"за такую стоимость можно нанять группу ученых" — хрен наймёшь, во-первых. Во-вторых, задачу они тебе решат за гораздо бОльшее время. Но дело-то не столько в стоимости прямо сейчас — CEO Anthropic говорил недавно, что стоимость вычислений каждый год снижается в 4 раза. То есть через год за эту задачу ты потратишь уже в 4 раза меньше или за те же деньги сможешь решить намного более сложную задачу. Феномен DeepSeek как раз из этой тенденции растёт. Поэтому OpenAI много чего сейчас делает в убыток из желания застолбить место и не дать дороги конкурентам потом.

ну не. они уже уперлись в масштабирование по обучению. там предел виден. теперь они пытаются масштабировать рассуждения. но скоро и они кончатся, верней, оно скорее всего будет экономически не целесообразно. т.е. для серьезного запроса будет часами крутиться кластер из сверхдорогого оборудования. это будет очень дорого, и подходить только для ограниченного круга задач.

феномен DS — это опенсорс на полную модель. Бери да делай с ней что хочешь.

Здравствуйте, Shmj, Вы писали:

полез гуглить, что там за бенчмарк такой (ARC-AGI).
пока дошёл до:

Many AI benchmarks measure performance on tasks that require extensive training or specialized knowledge (PhD++ problems). ARC Prize focuses instead on tasks that humans solve effortlessly yet AI finds challenging which highlight fundamental gaps in AI's reasoning and adaptability.

This approach reveals the essential qualities of intelligence — such as the ability to generalize from limited examples, interpret symbolic meaning, and flexibly apply rules in varying contexts—that current AI systems struggle to replicate.

Что именно там в процентах измеряется пока не понял. Читаю....

UPD:
Сдаётся мне, что этот ваш ИИ — какая-то херня — продвинутый поисковик. Слишком сильно бьётся описание принципов этого бенчмарка с недавно услышанным интенрвью препода по астрономии — он там олимпиадными задачами по астрономии занимался. Те задачи, которые попали в интернет ИИ решает, а об те, которые не попали спотыкается, хотя школьники их решают.

Здравствуйте, Философ, Вы писали:

Ф>Сдаётся мне, что этот ваш ИИ — какая-то херня — продвинутый поисковик.
Вот так попасть сразу дважды мимо может только гома. Он и не поисковик и не замена тебя, пока, как ты понадеялся.

З.Ы. И да, если вдруг он сможет заменить тебя, то ты мгновенно отправишься в землю.

Здравствуйте, Vzhyk2, Вы писали:

V>Вот так попасть сразу дважды мимо может только гома.

Что такое "гома"? Это я где-то попал мимо?

Здравствуйте, Vzhyk2, Вы писали:

V>Вот так попасть сразу дважды мимо может только гома. Он и не поисковик и не замена тебя, пока, как ты понадеялся.

Почему бы и не поисковик? Последние исследования работы чатиков приносят подчас удивительные плоды.
1. Оказывается, что форма вопроса важнее семантики: чатик цепляется за артикли и знаки препинания, орфографически малограмотные вопросы просаживает качество ответов на 20%
2. Легко обмануть "зрение" чатика невидимым для глаза образом. Просто менять картинку так, чтобы она мало отличалась от исходника, но чтобы эмбеддинг её был ближе в латентном пространстве к чему-то другому.

Это как старая проблема сеток на имэйджнете, когда рыба распознавалась только тогда, когда она была в руках у рыбаков. То есть современные LLM подросли, да не выросли. Также тупят, как и старые сверточные, но их просто труднее на этом поймать.

Здравствуйте, Shmj, Вы писали:

S>На прошлой неделе фонд Arc Prize Foundation, который поддерживает и администрирует ARC-AGI, обновил приблизительные затраты на вычисления для o3. Первоначально организация подсчитала, что самая производительная конфигурация o3, которую она протестировала, o3 high, стоила около $3000 для решения одной задачи ARC-AGI. Теперь фонд Arc Prize Foundation считает, что стоимость намного выше — возможно, около $30000 за задачу.
S>

S>Но вроде как для обывателей — сделают тариф — по $20 за 1 (ОДНУ!!!) задачу: https://vc.ru/future/1722110-o3-ot-openai-znakomimsya-s-modelyu-kotoraya-mozhet-brat-za-odnu-zadachu-do-20-dollarov

Осталось определить, как "ARC-AGI задача" соотносится с обычным вопросом типа "почему Наполи проиграл?" или "напиши пять лучших рецептов пирога", которые задают LLMам. Я что-то подозреваю, что разница в стоимости и доходит до сотен тысяч раз.

S>В общем, кажется что пошло экспоненциальное нарастание стоимости вычислений при повышении качества на 1-3%

Ничего удивительного, если это так.

Долг платежом красен, а ублюдские околодемпинговые методы конкуренции — "внезапной" и "неожиданной" необходимостью отбития расходов. Кушайте, не обляпайтесь. Или вы думали, что монстроидальный молох с додекаллионными CAPEX и ундециллионными OPEX не захочет потраченных на себя средств обратно и с лихвой?

Здравствуйте, Философ, Вы писали:

Ф>Что такое "гома"? Это я где-то попал мимо?
Это примат, который в силу своего величия в своих глазах назвал себя еще и сапиенсом (умным).
А в реальности чуть более продвинутая шимпанзе.

Здравствуйте, TheBeginner, Вы писали:

TB>Здравствуйте, Shmj, Вы писали:

TB>Мне кажется, что из существующих алгоритмов и теории выжато уже почти всё, а попытка двигаться за счет масштабирования вычислительных ресурсов тупиковая, так как в железе нет ничего революционного и не предвидится.
TB>Нейросети всегда развивались волнообразно, с промежутками между ними в 10-20 или более лет и дело было в первую очередь не в вычислительных ресурсах, а в теоретической базе. Вот после появления свёрточных нейросетей был бум нейросетей в определенных областях. Возможно надо ждать 20-30 лет до появления новой теоретической базы.

Нужно что бы был отбор среди сетей как у людей.