Информация об изменениях

Сообщение Re: o3 от OpenAI - $30 тыс. на вычисления за 1 задачу - но.. от 04.04.2025 18:01

Изменено 04.04.2025 18:03 rm2

Re: o3 от OpenAI - $30 тыс. на вычисления за 1 задачу - но...
Здравствуйте, Shmj, Вы писали:

S>

S>На прошлой неделе фонд Arc Prize Foundation, который поддерживает и администрирует ARC-AGI, обновил приблизительные затраты на вычисления для o3. Первоначально организация подсчитала, что самая производительная конфигурация o3, которую она протестировала, o3 high, стоила около $3000 для решения одной задачи ARC-AGI. Теперь фонд Arc Prize Foundation считает, что стоимость намного выше — возможно, около $30000 за задачу.



а ты знаешь как оно работает?
Это компьютер с несколькими ускорителями ИИ (видеокарты скорее всего каждая по 100gb памяти), общим ОЗУ примерно 1.5тб памяти, с многоканальным контроллером памяти, и парой процессоров.

т.е. тут компьюетр грубо говоря стоит по 3.5млн рублей каждая карта ИИ, + 1.5терабайта наверное этак миллион, плюс cpu мать и платформа миллиона 3. т.е. компьютер, узел всего лишь один из многих в стойкЕ, ценой примерно миллионов 15, т.е. цена узла — 100-150 тысяч$. жрет питания — я даже боюсь представить сколько. запросто киловатта полтора.

и вот знаешь как эта хрень работает в рассуждающих ответах местами? она начинает подбирать итерационно действия под требуемый результат.
У меня случай был — на питоне сгенерируй, говорю, алгоритм такой то, чтобы он выдвал вот это вот.
и понеслось. она начала перебирать варианты алгоритма, подбирая там разные коэффициенты, а потом запускала и смотрела что получилось.
и так много раз, пока у меня тариф не кончился на запросы по этому типу ИИ. несколько десятков минут фигачила без остановки.

и если задача серьезная — она сутками же может работать над ней.
Re: o3 от OpenAI - $30 тыс. на вычисления за 1 задачу - но..
Здравствуйте, Shmj, Вы писали:

S>

S>На прошлой неделе фонд Arc Prize Foundation, который поддерживает и администрирует ARC-AGI, обновил приблизительные затраты на вычисления для o3. Первоначально организация подсчитала, что самая производительная конфигурация o3, которую она протестировала, o3 high, стоила около $3000 для решения одной задачи ARC-AGI. Теперь фонд Arc Prize Foundation считает, что стоимость намного выше — возможно, около $30000 за задачу.



а ты знаешь как оно работает?
Это компьютер с несколькими ускорителями ИИ (видеокарты скорее всего каждая по >100gb памяти), общим ОЗУ примерно 1.5тб памяти, с многоканальным контроллером памяти, и парой процессоров.

т.е. тут компьюетр грубо говоря стоит по 3.5млн рублей каждая карта ИИ, + 1.5терабайта наверное этак миллион, плюс cpu мать и платформа миллиона 3. т.е. компьютер, узел всего лишь один из многих в стойкЕ, ценой примерно миллионов 15, т.е. цена узла — 100-150 тысяч$. жрет питания — я даже боюсь представить сколько. запросто киловатта полтора.

и вот знаешь как эта хрень работает в рассуждающих ответах местами? она начинает подбирать итерационно действия под требуемый результат.
У меня случай был — на питоне сгенерируй, говорю, алгоритм такой то, чтобы он выдвал вот это вот.
и понеслось. она начала перебирать варианты алгоритма, подбирая там разные коэффициенты, а потом запускала и смотрела что получилось.
и так много раз, пока у меня тариф не кончился на запросы по этому типу ИИ. несколько десятков минут фигачила без остановки.

и если задача серьезная — она сутками же может работать над ней.