Здравствуйте, Shmj, Вы писали:
S>S>На прошлой неделе фонд Arc Prize Foundation, который поддерживает и администрирует ARC-AGI, обновил приблизительные затраты на вычисления для o3. Первоначально организация подсчитала, что самая производительная конфигурация o3, которую она протестировала, o3 high, стоила около $3000 для решения одной задачи ARC-AGI. Теперь фонд Arc Prize Foundation считает, что стоимость намного выше — возможно, около $30000 за задачу.
а ты знаешь как оно работает?
Это компьютер с несколькими ускорителями ИИ (видеокарты скорее всего каждая по >100gb памяти, аля Nvidia H200 NVL 141Gb), общим ОЗУ примерно 1.5тб памяти, с многоканальным контроллером памяти, и парой процессоров.
т.е. тут компьюетр грубо говоря стоит по 3.5млн рублей каждая карта ИИ, + 1.5терабайта наверное этак миллион, плюс cpu мать и платформа миллиона 3. т.е. компьютер, узел всего лишь один из многих в стойкЕ, ценой примерно миллионов 15, т.е. цена узла — 100-150 тысяч$. жрет питания — я даже боюсь представить сколько. запросто киловатта полтора.
и вот знаешь как эта хрень работает в рассуждающих ответах местами? она начинает подбирать итерационно действия под требуемый результат.
У меня случай был — на питоне сгенерируй, говорю, алгоритм такой то, чтобы он выдвал вот это вот.
и понеслось. она начала перебирать варианты алгоритма, подбирая там разные коэффициенты, а потом запускала и смотрела что получилось.
и так много раз, пока у меня тариф не кончился на запросы по этому типу ИИ. несколько десятков минут фигачила без остановки.
и если задача серьезная — она сутками же может работать над ней.