Сообщение Re[3]: fyi: потребление энергии на ИИ от 18.02.2025 15:18
Изменено 18.02.2025 15:24 kov_serg
Re[3]: fyi: потребление энергии на ИИ
Здравствуйте, Философ, Вы писали:
Ф>Здравствуйте, kov_serg, Вы писали:
_>>Если прикинуть то:
_>>Если запускать на H200 4e15ops/700W = 1.75e-13 W/op
Ф>W/op — странная единица измерения. Она наводит на мысли о том, что где-то тут ошибка. Надо в джоулях считать — там E должно быть.
там 4e15 operation/second
700W / 4e15op/s = J/op = W/ops
Ф>Объясни плз, почему ты считаешь в символах? Я про вот это:
Ф>
Это оценка по порядку величины +- лапоть
Ф>Здравствуйте, kov_serg, Вы писали:
_>>Если прикинуть то:
_>>Если запускать на H200 4e15ops/700W = 1.75e-13 W/op
Ф>W/op — странная единица измерения. Она наводит на мысли о том, что где-то тут ошибка. Надо в джоулях считать — там E должно быть.
там 4e15 operation/second
700W / 4e15op/s = J/op = W/ops
Ф>Объясни плз, почему ты считаешь в символах? Я про вот это:
Ф>
Просто из расчета что он последующий симаол генерирует на основе предыдущего состояния по одному.Ф>28 ms/символ
Это оценка по порядку величины +- лапоть
Re[3]: fyi: потребление энергии на ИИ
Здравствуйте, Философ, Вы писали:
Ф>Здравствуйте, kov_serg, Вы писали:
_>>Если прикинуть то:
_>>Если запускать на H200 4e15ops/700W = 1.75e-13 W/op
Ф>W/op — странная единица измерения. Она наводит на мысли о том, что где-то тут ошибка. Надо в джоулях считать — там E должно быть.
там 4e15 operation/second
700W / 4e15op/s = J/op = W/ops
Ф>Объясни плз, почему ты считаешь в символах? Я про вот это:
Ф>
Это оценка по порядку величины +- лапоть
Ф>Здравствуйте, kov_serg, Вы писали:
_>>Если прикинуть то:
_>>Если запускать на H200 4e15ops/700W = 1.75e-13 W/op
Ф>W/op — странная единица измерения. Она наводит на мысли о том, что где-то тут ошибка. Надо в джоулях считать — там E должно быть.
там 4e15 operation/second
700W / 4e15op/s = J/op = W/ops
Ф>Объясни плз, почему ты считаешь в символах? Я про вот это:
Ф>
Просто из расчета что он последующий символ генерирует на основе предыдущего состояния по одному.Ф>28 ms/символ
Это оценка по порядку величины +- лапоть