Информация об изменениях

Сообщение Re[3]: fyi: потребление энергии на ИИ от 18.02.2025 15:18

Изменено 18.02.2025 15:24 kov_serg

Re[3]: fyi: потребление энергии на ИИ
Здравствуйте, Философ, Вы писали:

Ф>Здравствуйте, kov_serg, Вы писали:


_>>Если прикинуть то:

_>>Если запускать на H200 4e15ops/700W = 1.75e-13 W/op


Ф>W/op — странная единица измерения. Она наводит на мысли о том, что где-то тут ошибка. Надо в джоулях считать — там E должно быть.

там 4e15 operation/second

700W / 4e15op/s = J/op = W/ops

Ф>Объясни плз, почему ты считаешь в символах? Я про вот это:

Ф>

Ф>28 ms/символ

Просто из расчета что он последующий симаол генерирует на основе предыдущего состояния по одному.
Это оценка по порядку величины +- лапоть
Re[3]: fyi: потребление энергии на ИИ
Здравствуйте, Философ, Вы писали:

Ф>Здравствуйте, kov_serg, Вы писали:


_>>Если прикинуть то:

_>>Если запускать на H200 4e15ops/700W = 1.75e-13 W/op


Ф>W/op — странная единица измерения. Она наводит на мысли о том, что где-то тут ошибка. Надо в джоулях считать — там E должно быть.

там 4e15 operation/second

700W / 4e15op/s = J/op = W/ops

Ф>Объясни плз, почему ты считаешь в символах? Я про вот это:

Ф>

Ф>28 ms/символ

Просто из расчета что он последующий символ генерирует на основе предыдущего состояния по одному.
Это оценка по порядку величины +- лапоть