Re[4]: fyi: потребление энергии на ИИ
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 19.02.25 07:41
Оценка: 7 (2) +1 -1 :))
Здравствуйте, Философ, Вы писали:

Ф>Лично для меня тупик очевиден: на работу нейросетей нужно оч. много электричества, на анализ и обработку того, что они нагенерят может потребоваться ещё больше. Думаю, оптимизация будет весьма востребованной — то, что можно будет делать без нейросетей, будет перекладываться на обычные алгоритмы.


Кажется, что процесс идёт прямо в противоположную сторону: всё, что делалось обычными алгоритмами заменяют нейросетями, нейросети работают на GPU и NPU, потребляют при этом меньше и работают быстрее. Этому уже не приходится удивляться в том же компьютерном зрении, например. Пару лет назад Тесла презентовала новую нейросеть, которая заменила около 200 тысяч строк кода на С++. То есть в классических автопилотах есть perception, planning и другие штуки. А нейросеть получает картинки с камер и данные с датчиков и выплёвывает уже конечный результат — управляющее воздействие. Всё, алгоритмы убрали.

Но дело идёт дальше — в физику. Большие итерационные алгоритмы по сешению систем очень быстро решает нейросеть. Она аппроксимирует математическую модель, позволяя получать результат с определённой точностью за один проход. Часто такой точности хватает. Если не хватает, то буквально 1-2 итерации классическим алгоритмом и мы в точке минимума.
Например, я ощутил кайф этого когда заменил на нейросеть алгоритм учёта прозрачности атмосферы. Алгоритм ускорился с 11 секунд до 200 мс на том же железе.
Re: fyi: потребление энергии на ИИ
От: Vzhyk2  
Дата: 18.02.25 15:19
Оценка: +1 -1 :)
Здравствуйте, Sharov, Вы писали:

S>

S>Увидел данные, сколько энергии потребляет ИИ.
S>Результаты поиска, предоставляемые ИИ, требуют примерно в десять раз больше энергии, чем традиционный поиск Google. По данным Международного энергетического агентства, запрос ChatGPT потребляет 2,9 ватт-часа электроэнергии, а поиск в Google — 0,3 ватт-часа электроэнергии.

S>По данным технологического сайта The Verge, средний смартфон на зарядку потребляет 0,012 киловатт-часа электроэнергии. На генерирование всего лишь одного изображения с помощью ИИ уходит столько же электроэнергии, сколько и на зарядку телефона.


Логично. Гугл уже давно ничего не ищет, а только массово рекламу рассылает.
Re: fyi: потребление энергии на ИИ
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 19.02.25 07:33
Оценка: :))
Здравствуйте, Sharov, Вы писали:

S>Как-то затратно, не находите? Не многие такое себе могут позволить. Либо гос-ва, либо очень крупные корпорации.


Этот факт понятен, тут похожая история с майнингом, когда после видеокарт начали применять специализированные асики.

Le Chat теперь в 30 раз быстрее ChatGPT

ИИ чипы от Cerebras позволяют чату работать на скорости в 1100 токенов в секунду, с новой фичей Flash Answers. Сейчас это просто интересная демка, но когда французы из Mistral сделают свою reasoning модель, это будет серьёзным преимуществом их чата. Зачем ждать пока какая-то o3-mini-high или R1 думает несколько минут, если она может справиться за секунды?


OpenAI на своих продуктах тоже пока теряет деньги. Но "Exclusive: OpenAI set to finalize first custom chip design this year".

Ну и в целом, современные нейросети размером меньше, чем первый ChatGPT работают уже качественнее и быстрее, чем он. Причём и заметно качественнее, и заметно быстрее даже на GPU. Прогресс идёт.
Отредактировано 19.02.2025 7:44 Nuzhny . Предыдущая версия .
Re[5]: fyi: потребление энергии на ИИ
От: Vzhyk2  
Дата: 26.03.25 12:43
Оценка: -1 :)
Здравствуйте, Философ, Вы писали:

Ф>Слишком похоже то, что ты делаешь на то, что делают адепты JS и Python, слишком напоминает — они частво утверждают, что плюсы и прочие низкоуровневые языки не нужны — всё будет на питоне или JS. Они таким образом переводят вспомогательный инструмент в разряд основного. Именно так JS стали серверный софт писать.

Не похоже совсем. Ты просто делаешь вывод, основываясь на своем незнании темы.
Я тебя еще больше удивлю примером, как в одном советском НИИ решали сложные диффуры без мощных компов. Налили в кастрюлю магнитной жидкости и стимулировали ее магнитным полем и получали мгновенное решение.
Re[9]: fyi: потребление энергии на ИИ
От: Философ Ад http://vk.com/id10256428
Дата: 14.03.25 09:23
Оценка: 53 (1)
Здравствуйте, VladD2, Вы писали:

VD>Я протестил несколько LLM-сеток и у меня никаких сомнений, что ИИ будет писать софт.

VD>...
VD>... Собери все свои запросы к ИИ в одной сессии, обдумай их и напиши один большой запрос учитывающий все, что ты хочешь. И будет тебе счастье. Ну и не загружай ИИ глобальными задачами. Сосредоточься на конкретных аспектах.

Короче, кое-что получается. Вот утилитку нагенерил. После совсем небольшого рефакторинга получилось вполне прилично.
https://github.com/scumware/Console2HTML/releases/tag/first_public_build

VD>...Она не соизмеримо быстрее, но есть ряд ограничений и проблем.


Получилось раза в 4 быстрее чем руками — использовал qwen. Однако, прежде чем давать задачи, пришлось немного в документации покопаться.
Всё сказанное выше — личное мнение, если не указано обратное.
Re: fyi: потребление энергии на ИИ
От: kov_serg Россия  
Дата: 18.02.25 14:39
Оценка: 18 (1)
Здравствуйте, Sharov, Вы писали:

S>Как-то затратно, не находите? Не многие такое себе могут позволить. Либо гос-ва, либо очень крупные корпорации.

S>А уж если масштабировать на все население, а не только для дизайнеров и любопытных, которые это будут использовать
S>на регулярной основе, т.е. промышленно, то совсем швах получается.

0.012kWh/4.4V = 2700mAh что-то какие-то слабые телефоны
2.9Wh*6.5р/kWh = 1.885коп на запрос

Если прикинуть то:

Если запускать на H200 4e15ops/700W = 1.75e-13 J/op
gpt4 ~ 1.76e12 папаметров
пусть byte на параметр => надо 13карт H200 по 141Gb
1.76e12/4.8e12byte/13 = 28 ms/символ ~ 35Hz
1.76e12/4e15ops/13 = 0.034ms < 28ms (упираемся в скорость памяти)
Пусть ответ 2000 символов 2000/35Hz ~ 1мин

1мин*700W*13 = 152Wh

Если сматфон 5000mAh => 5Ah*4.4V=22Wh так что ответ как зарядить 152/22 почти 7 телефонов
И ответ будет стоить 700W*13*1min*6.5р/kWh ~ 1руб
И сами карты еще 41k$*13 = 0.533 M$ если прикинуть что срок службы у них 5 лет то еще + 0.2$ на запрос это при 100% нагрузке, а если нагрузка 10% то +2$ на запрос.
Отредактировано 18.02.2025 15:21 kov_serg . Предыдущая версия .
Re[7]: fyi: потребление энергии на ИИ
От: Философ Ад http://vk.com/id10256428
Дата: 25.02.25 05:10
Оценка: +1
Здравствуйте, VladD2, Вы писали:

VD>....Чем грузить её прямыми вычислениями ты можешь попросить её написать код, вычисляющий то, что тебе надо.


Понятно, что можно заставить нейросеть код писать, но заставят ли? Даже тут уже отметились те, кто обычные вычисления переложил на нейросеть и даже гордится возросшей скоростью — это вместо того, чтобы заставить нейросеть поработать над кодом. Похоже, тут проблема в том, что сейчас работа нейросетей с кодом не сильно быстрее человека. Это видно из опыта — по крайней мере сюда уже несколько раз выкладывали опыт написания кода нейросетями, да и я сам пробовал: чтобы добиться результата нужно много итераций по генерации, вычитке кода человеком и множественные правки "в тандеме". Сейчас даже при написании юнит-тестов вылезают косяки, самый частый из которых — потеря тест-кейсов (это мой опыт). Ты просишь нейросеть изменить код, а она теряет любо важный ньюанс тестирования кода, либо целиком тест-кейсы. Вывод простой: чтобы нейросет писала код, нужен человек — без него не поедет. В таких условиях велик соблаз онтказаться от кода вообще — всё равно потом тестировать.
Всё сказанное выше — личное мнение, если не указано обратное.
Re: fyi: потребление энергии на ИИ
От: Serginio1 СССР https://habrahabr.ru/users/serginio1/topics/
Дата: 24.03.25 18:40
Оценка: :)
Здравствуйте, Sharov, Вы писали:

Миллисекундный сбой чуть не привёл к катастрофе: 60 дата-центров мощностью 1,5 ГВт разом отключились от энергосети

Как выяснилось недавно, прошлым летом Вирджиния (США) оказалась на грани катастрофы после того, как от энергосети одновременно отключились 60 дата-центров, суммарно потреблявших 1,5 ГВт. Это вынудило операторов электросетей принимать экстренные меры, чтобы избежать масштабных отключений электричества у других потребителей в регионе, сообщает Datacenter Dynamics.

Инцидент документирован, впервые о нём сообщило агентство Reuters — все ЦОД в округе Фэрфакс (Fairfax) в массовом порядке пришлось переключать на резервные генераторы из-за сбоев оборудования в энергосети. Оператору сети PJM Interconnection и местной коммунальной компании Dominion Energy пришлось экстренно сокращать объём поступающей в сеть с электростанций энергии — в противном случае системы сами отключились бы от избыточной мощности. Потенциально это могло привести к отключениям электричества во всём штате.

По данным Североамериканской корпорации по надёжности электроснабжения (NERC), неполадки начались вечером 10 июля 2024 года. На 230-кВ линии электропередач произошёл сбой оборудования защиты, что привело к нарушениям в работе всей системы. В результате на несколько миллисекунд произошла серия сбоев подачи электричества — этого оказалось достаточно, чтобы местные ЦОД временно переключились на резервные системы питания.


Расследование NERC показало, что в случае серии сбоев в течение короткого периода времени дата-центры не переключаются обратно на основную энергосеть — это приходится делать вручную, причём в данном случае ЦОД несколько часов проработали на резервных источниках питания. Хотя напряжение «не поднялось до уровней, представляющих риск для надёжности», операторам энергосети всё равно пришлось принимать меры для сокращения подачи электричества в сеть.

Более того, подобные проблемы, вероятно, в будущем станут более распространёнными, поскольку спрос на электричество для ЦОД в Вирджинии только растёт. В феврале Dominion заявляла, что теперь располагает 40 ГВт «законтрактованных» мощностей для дата-центров по состоянию на декабрь 2024 года — это на 88 % больше, чем в июле.

Не исключены и другие проблемы. В NERC сообщают, что инцидент не вызвал значимых проблем с повторным подключением объектов большой ёмкости, но существует потенциальная возможность возникновения проблем в будущем. В прошлом году NERC организовала специальную команду для отслеживания ситуаций с большими нагрузками и влияния на состояние энергетической инфраструктуры ЦОД и других крупных потребителей энергии. Такие потребители уже представляют проблему, а иногда и опасность для обычных жителей, т.к. они повышают риск пожаров.

Сетевые операторы и энергокомпании должны принять меры для изучения вероятного влияния внезапного «выхода из сети» крупных потребителей и их повторного подключения. В NERC подчёркивают, что ЦОД становятся больше и потребляют всё больше энергии, но сеть не рассчитана на то, чтобы выдержать отключения дата-центров общей мощностью 1,5 ГВт. На каком-то этапе проблема станет неразрешимой, если ей не заниматься. Северная Вирджиния, где и произошёл сбой, признана самым ёмким рынком ЦОД в мире.

и солнце б утром не вставало, когда бы не было меня
fyi: потребление энергии на ИИ
От: Sharov Россия  
Дата: 18.02.25 13:36
Оценка:
Здравствуйте.

Пока не забыл, решил поделиться чисто для fyi:

Увидел данные, сколько энергии потребляет ИИ.
Результаты поиска, предоставляемые ИИ, требуют примерно в десять раз больше энергии, чем традиционный поиск Google. По данным Международного энергетического агентства, запрос ChatGPT потребляет 2,9 ватт-часа электроэнергии, а поиск в Google — 0,3 ватт-часа электроэнергии.

По данным технологического сайта The Verge, средний смартфон на зарядку потребляет 0,012 киловатт-часа электроэнергии. На генерирование всего лишь одного изображения с помощью ИИ уходит столько же электроэнергии, сколько и на зарядку телефона.

https://t.me/proeconomics/16138

Как-то затратно, не находите? Не многие такое себе могут позволить. Либо гос-ва, либо очень крупные корпорации.
А уж если масштабировать на все население, а не только для дизайнеров и любопытных, которые это будут использовать
на регулярной основе, т.е. промышленно, то совсем швах получается.
Кодом людям нужно помогать!
Re: fyi: потребление энергии на ИИ
От: Философ Ад http://vk.com/id10256428
Дата: 18.02.25 14:05
Оценка:
Здравствуйте, Sharov, Вы писали:

S>

S>Увидел данные, сколько энергии потребляет ИИ....


А нет ли у тебя эстонских корней?

Google заключила сделку со стартапом Kairos Power на использование малых модульных ядерных реакторов (SMR) для обеспечения низкоуглеродной электроэнергией своих энергоемких центров обработки данных. Об этом пишет издание Financial Times (FT).

Согласно сообщению FT, компания разместила заказ на SMR общей мощностью 500 МВт, что позволит ввести в эксплуатацию первый коммерческий реактор к 2030 году, а дополнительные реакторы – к 2035 году.

https://www.gazeta.ru/tech/news/2024/10/15/24158251.shtml


Amazon будет инвестировать в малые модульные реакторы (small modular reactors, SMR) в рамках программы по переходу на безуглеродную энергетику. Компания уже подписала несколько соглашений с производителями этих установок. Об этом сообщается на сайте компании.

Одним из ключевых проектов является сотрудничество с Energy Northwest. Компания планирует построить четыре малых модульных реактора, которые вначале будут производить 320 мегаватт (МВт) электроэнергии. В будущем мощность может быть увеличена до 960 МВт. Этого будет достаточно для энергоснабжения более 770 тыс. жилых домов.

https://www.rbc.ru/life/news/67122dcb9a79475332c13de8

Мне кажется вменяемым людям стало всё понятно уже давно: видеокарты потребляют много электричества, видеокарт нужно много.

Как дата-центр Яндекса город обогрел
14 января 2016, 13:09
В прошлом году Яндекс открыл новый дата-центр. Он находится в Финляндии, в небольшом городке Мянтсяля неподалёку от Хельсинки. Для нас это не совсем обычный проект. Многие дата-центры Яндекса размещаются в уже готовых строениях — например, в корпусах бывших заводов. Стройку в Мянтсяля мы вели с нуля и поэтому смогли спроектировать не только «содержимое» дата-центра, но и само здание и его инфраструктуру.

Одним из важнейших компонентов дата-центра является система охлаждения. В ходе работы серверы выделяют много тепла, которое необходимо отводить во избежание перегрева. Система охлаждения, которая применяется в нашем дата-центре в Мянтсяля, позволяет использовать тепло от серверов в полезных целях — для отопления жилых домов. Поставляя городу тепло, Яндекс получает возможность возместить часть трат на электроэнергию — одну из самых крупных для дата-центра статей расходов.

https://yandex.ru/blog/company/kak-data-tsentr-yandeksa-gorod-obogrel


Как сообщает Datacenter Dynamics, новый дата-центр корпорации Microsoft, который сейчас строится в муниципалитете Хойе Таструп поблизости от столицы Дании Копенгагена, будет при помощи вырабатываемого при работе побочного тепла обогревать около 6000 домов.

https://overclockers.ru/blog/Zeroblog/show/143693/Data-centr-Microsoft-v-Danii-obogreet-izbytochnym-teplom-6000-domov
Всё сказанное выше — личное мнение, если не указано обратное.
Re[2]: fyi: потребление энергии на ИИ
От: Sharov Россия  
Дата: 18.02.25 14:21
Оценка:
Здравствуйте, Философ, Вы писали:

Ф>А нет ли у тебя эстонских корней?


Ну скажем так, про конкретные цифры я не знал, что сгенерировать 1 картинку = зарядить телефон.
Прям круто как-то. Вопрос -- а хватит ли этих ядерных усилий, если все это будет развиваться и развиваться?
Не тупик ли это?
Кодом людям нужно помогать!
Re[3]: fyi: потребление энергии на ИИ
От: Философ Ад http://vk.com/id10256428
Дата: 18.02.25 14:28
Оценка:
Здравствуйте, Sharov, Вы писали:

S>Не тупик ли это?


Лично для меня тупик очевиден: на работу нейросетей нужно оч. много электричества, на анализ и обработку того, что они нагенерят может потребоваться ещё больше. Думаю, оптимизация будет весьма востребованной — то, что можно будет делать без нейросетей, будет перекладываться на обычные алгоритмы.
Всё сказанное выше — личное мнение, если не указано обратное.
Re: fyi: потребление энергии на ИИ
От: Osaka  
Дата: 18.02.25 14:52
Оценка:
S>Как-то затратно, не находите? Не многие такое себе могут позволить. Либо гос-ва, либо очень крупные корпорации.
"Нет, это вы будете меньше есть"(c)
S>А уж если масштабировать на все население, а не только для дизайнеров и любопытных, которые это будут использовать
S>на регулярной основе, т.е. промышленно, то совсем швах получается.
Дизайнеры будут не нужны, ИИ всё сам нарисует. Нагрев планеты надо сокращать, потребление энергии населением прекращать, население будет переводиться в доставщики ногами, даже без электровелосипедов. Зато с электронным батюшкой в мечети.
Друга ищи не того, кто любезен с тобой, кто с тобой соглашается, а крепкого советника, кто полезного для тебя ищет и противится твоим необдуманным словам.
Re[2]: fyi: потребление энергии на ИИ
От: Философ Ад http://vk.com/id10256428
Дата: 18.02.25 14:53
Оценка:
Здравствуйте, kov_serg, Вы писали:

_>Если прикинуть то:

_>Если запускать на H200 4e15ops/700W = 1.75e-13 W/op


W/op — странная единица измерения. Она наводит на мысли о том, что где-то тут ошибка. Надо в джоулях считать — там E должно быть.

Объясни плз, почему ты считаешь в символах? Я про вот это:

28 ms/символ

Всё сказанное выше — личное мнение, если не указано обратное.
Re[3]: fyi: потребление энергии на ИИ
От: kov_serg Россия  
Дата: 18.02.25 15:18
Оценка:
Здравствуйте, Философ, Вы писали:

Ф>Здравствуйте, kov_serg, Вы писали:


_>>Если прикинуть то:

_>>Если запускать на H200 4e15ops/700W = 1.75e-13 W/op


Ф>W/op — странная единица измерения. Она наводит на мысли о том, что где-то тут ошибка. Надо в джоулях считать — там E должно быть.

там 4e15 operation/second

700W / 4e15op/s = J/op = W/ops

Ф>Объясни плз, почему ты считаешь в символах? Я про вот это:

Ф>

Ф>28 ms/символ

Просто из расчета что он последующий символ генерирует на основе предыдущего состояния по одному.
Это оценка по порядку величины +- лапоть
Отредактировано 18.02.2025 15:24 kov_serg . Предыдущая версия .
Re[3]: fyi: потребление энергии на ИИ
От: hi_octane Беларусь  
Дата: 18.02.25 16:19
Оценка:
S>Ну скажем так, про конкретные цифры я не знал, что сгенерировать 1 картинку = зарядить телефон.
А дали хоть одну конкретную цифру? По-моему нет. А когда цифр не дают, но дают "шокирующую правду", я уже на автопилоте ухожу в отрицалово, и чес-слово, сто раз такая стратегия выручала

На одной 4090 картинка 1024x1024 во Flux (по качеству крутой генератор из домашних) делается секунд 7-9. А 4 таких же картинки делаются секунд 15 (типа параллельность). Телефон при 66Вт на зарядке висит час. ЧатГПТ говорит что за 15 секунд на пике в 450 Вт (заявленное потребление 4090), будет потрачено примерно 6750 Дж. При этом видеокарта на 100% не загружена (видимо нереально нагрузить её всю сразу, то одни, то другие блоки спят).
На телефон насчитал: 237600 Дж. Тут к телефону разумно применить поправочный кэф 0.5, так как потребление плавно уменьшается при приближении заряда к 100%.

Вот с конкретными цифрами не получается у меня 1 картинка = 1 телефон. Расчёт правда делал ChatGPT, но там всего пара умножений, не думаю что он ошибся.
Re[4]: fyi: потребление энергии на ИИ
От: VladD2 Российская Империя www.nemerle.org
Дата: 21.02.25 11:31
Оценка:
Здравствуйте, Философ, Вы писали:

Ф>Лично для меня тупик очевиден: на работу нейросетей нужно оч. много электричества, на анализ и обработку того, что они нагенерят может потребоваться ещё больше. Думаю, оптимизация будет весьма востребованной — то, что можно будет делать без нейросетей, будет перекладываться на обычные алгоритмы.


Лично мне очевидно другое. Нейросети заставят писать код, который, в свою очередь, будет иметь энергоэффективность обычного софта.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Re[5]: fyi: потребление энергии на ИИ
От: Философ Ад http://vk.com/id10256428
Дата: 21.02.25 13:02
Оценка:
Здравствуйте, VladD2, Вы писали:

VD>Лично мне очевидно другое. Нейросети заставят писать код, который, в свою очередь, будет иметь энергоэффективность обычного софта.


А мне тут ничего не очевидно и непонятно. Пояснишь?
Всё сказанное выше — личное мнение, если не указано обратное.
Re[6]: fyi: потребление энергии на ИИ
От: VladD2 Российская Империя www.nemerle.org
Дата: 24.02.25 21:11
Оценка:
Здравствуйте, Философ, Вы писали:

Ф>А мне тут ничего не очевидно и непонятно. Пояснишь?


Так ты поделись. Что тебе не очевидно? Ты вот тоже нейросеть. И ты во многих случаях думаешь дико медленно. Но ты можешь воспользоваться калькулятором, Ёкселём или даже написать программу, которая что-то быстро посчитает. Вот так же и нейросеть. Чем грузить её прямыми вычислениями ты можешь попросить её написать код, вычисляющий то, что тебе надо.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Re[8]: fyi: потребление энергии на ИИ
От: VladD2 Российская Империя www.nemerle.org
Дата: 25.02.25 11:18
Оценка:
Здравствуйте, Философ, Вы писали:

Ф>Понятно, что можно заставить нейросеть код писать, но заставят ли?


В процессе. Про свою компанию не знаю можно ли говорить, но кое что в этом направлении делается. Другие компании во всю этим занимаются. Например, гугль создает специализированную ИИ для проектирования процессоров. Это тебе даже не софт.

Ф>Даже тут уже отметились те, кто обычные вычисления переложил на нейросеть и даже гордится возросшей скоростью — это вместо того, чтобы заставить нейросеть поработать над кодом.


Интеллект (теперь надо добавлять, естественный) на земле — константа, а население растёт. ©

А если серьезно, конкуренция заставит. Те кто будет писать софт руками вымрут через лет 10-20, как вымерли динозавры или те кто писал софт на ассемблере.

Ф>Похоже, тут проблема в том, что сейчас работа нейросетей с кодом не сильно быстрее человека.


Она не соизмеримо быстрее, но есть ряд ограничений и проблем. Они чисто технические и со временем будут устранены, ИМХО. Я до недавного времени был ИИ-скептиком. Еще мой отец бредил ИИ 30 лет назад. К сожалению, он не дожил, до момента когда мечта об ИИ воплотилась.

Я протестил несколько LLM-сеток и у меня никаких сомнений, что ИИ будет писать софт.

Лично я уже потихонечку использую ИИ в процессе продумывания кода и даже написания его кусков.

Что точно так это то, что современный ИИ не вывезет проверку на вирусы всех компов на планете в реализме, как это делает локально установленный антивирус.

Ф> Это видно из опыта — по крайней мере сюда уже несколько раз выкладывали опыт написания кода нейросетями, да и я сам пробовал: чтобы добиться результата нужно много итераций по генерации, вычитке кода человеком и множественные правки "в тандеме".


Во-первых, это зависит от нескольких факторов:
1. Опыта взаимодействия с ИИ конкретного человека. Даже термин (профессия) новая появилась — промт-инженер.
2. Владения логикой и умение грамотно формулировать свои мысли.
3. Качества понимания задачи.
4. Натасканности конкретной сетки на прикладные аспекты.
5. Возможности ИИ читать код из файлов (репозитория) и менять файлы.
6. Возможности ИИ напрямую производить сборку генерируемого им кода и получать выхлоп от компиляторов.
7. Возможность запускать тесты и получать информацию об их результатах.

Первые 3 пункта зависят от человека. Так что критерии предъявляемые к программисту ни разу не снижаются.
Остальные пункты относятся к техническим аспектам и, в ближайшее время, могут решаться только богатыми конторами которые смогут развертывать, тренировать и дорабатывать сетки у себя локально. Этот процесс уже идет во многих конторах.

Ф>Сейчас даже при написании юнит-тестов вылезают косяки, самый частый из которых — потеря тест-кейсов (это мой опыт). Ты просишь нейросеть изменить код, а она теряет любо важный ньюанс тестирования кода, либо целиком тест-кейсы. Вывод простой: чтобы нейросет писала код, нужен человек — без него не поедет. В таких условиях велик соблаз онтказаться от кода вообще — всё равно потом тестировать.


Это проблема размера окна контекста. И вообще с современным ИИ лучше не работать в интерактивном режиме. Лайфхак: Собери все свои запросы к ИИ в одной сессии, обдумай их и напиши один большой запрос учитывающий все, что ты хочешь. И будет тебе счастье. Ну и не загружай ИИ глобальными задачами. Сосредоточься на конкретных аспектах.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Re[8]: fyi: потребление энергии на ИИ
От: Vzhyk2  
Дата: 14.03.25 09:35
Оценка:
Здравствуйте, Философ, Вы писали:

Ф>Понятно, что можно заставить нейросеть код писать, но заставят ли?

Ее заставлять не надо. И да в ближайшие несколько лет обучат и будет писать не хуже типичного мидла.
Re[10]: fyi: потребление энергии на ИИ
От: VladD2 Российская Империя www.nemerle.org
Дата: 19.03.25 15:07
Оценка:
Здравствуйте, Философ, Вы писали:

Ф>Короче, кое-что получается. Вот утилитку нагенерил. После совсем небольшого рефакторинга получилось вполне прилично.

Ф>https://github.com/scumware/Console2HTML/releases/tag/first_public_build

Советую не рефакторить руками, а понять, что не понял ИИ и добавить эту инфу в изначальное задание, а затем прогнать его еще раз.

Если используешь АПИ или локальную модель, лучше "температуру" вывернуть на ноль, чтобы не креативе от раза к разу.

Если замечаний мало, можно попробовать в интерактиве добавить ему инфы.

Ф>Получилось раза в 4 быстрее чем руками — использовал qwen. Однако, прежде чем давать задачи, пришлось немного в документации покопаться.


Ну так логично. ТЗ тоже надо не от фонаря.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Re[9]: fyi: потребление энергии на ИИ
От: m2user  
Дата: 23.03.25 08:10
Оценка:
VD>А если серьезно, конкуренция заставит. Те кто будет писать софт руками вымрут через лет 10-20, как вымерли динозавры или те кто писал софт на ассемблере.

С одной стороны вроде как на ассемблере не пишут, а с другой как не возьмешь, какую-нибудь тему по C/C++ то много где обсужают результат работы компилятора и пр.
И даже нередки утверждения, что нужно представлять, как оно там в железе устроено — регистры, память, кэш, ядра CPU.
Re[10]: fyi: потребление энергии на ИИ
От: VladD2 Российская Империя www.nemerle.org
Дата: 24.03.25 11:24
Оценка:
Здравствуйте, m2user, Вы писали:

M>С одной стороны вроде как на ассемблере не пишут, а с другой как не возьмешь, какую-нибудь тему по C/C++ то много где обсужают результат работы компилятора и пр.

M>И даже нередки утверждения, что нужно представлять, как оно там в железе устроено — регистры, память, кэш, ядра CPU.

Так понимание того как устроен конкретный процессор и его ассемблер и написание на нём кода — это примерно как понимание того как устроены молекулы из атомов и попытка троить дома на атомном уровне.

Не надо подменять понятие "программирование", на понятие "знание основ".
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Re: fyi: потребление энергии на ИИ
От: Serginio1 СССР https://habrahabr.ru/users/serginio1/topics/
Дата: 24.03.25 12:26
Оценка:
Здравствуйте, Sharov, Вы писали:

Китай намерен построить первый прототип термоядерной электростанции к 2035 году

В последние дни уходящего года в Китае были созданы две сверхструктуры для ускорения движения к практическому использованию энергии термоядерного синтеза. Речь идёт не столько о науке, как о коммерческих решениях ближайшего будущего. Если графики работ будут соблюдены, к 2035 году в Китае начнёт работать прототип промышленного термоядерного реактора, а к 2050 году термоядерные электростанции будут строиться по всей стране.



В КНР к 2050 г. могут запустить «искусственное солнце»



Речь идет о проекте China Circulation №3, который пока находится на этапе экспериментальных исследований.
Китайская национальная ядерная корпорация (China National Nuclear Corp., CNNC) к 2050 г. планирует ввести в коммерческую эксплуатацию проект China Circulation №3, подразумевающий выработку чистой электроэнергии за счет использования технологии ядерного синтеза.
Об этом сообщает пресс-служба CNNC.

По данным китайской компании, в настоящее время проект China Circulation №3, также именуемый «искусственное солнце», находится на стадии экспериментальных исследований.
Отмечается, что цель устройства — добиться «воспламенения термоядерным синтезом» в соответствии с развитием ядерной энергетики в Китае. Этот процесс подразумевает самоподдерживающую реакцию, при которой вырабатка энергии превышает ее расход.

Демонстрационный этап проекта запланирован на 2045 г., а через 5 лет после этой стадии в CNNC намерены коммерциализировать технологию ядерного синтеза для производства электроэнергии.

Ранее сообщалось, что китайцы намерены запустить промышленный прототип термоядерного реактора уже к 2035 г.





Развитие CNNC

В 2024 г. CNNC сформировала отраслевой альянс и создала новую национальную компанию по термоядерному синтезу China Fusion Corp.
По данным Bloomberg, компания привлекла инвестиции от CNNC и Zhejiang Zheneng Electric Power Co. в размере около 240 млн долл. США, направленных на создание передовых устройств токамак, использующих магнитные поля для удержания и управления перегретой плазмой и выработки электроэнергии без углеродных или радиоактивных отходов.

Ожидается, что к концу текущего десятилетия Китай опередит США и Францию и станет владельцем крупнейшего в мире парка ядерных реакторов.
В последнее время CNNC поддерживала темп строительства на уровне до 10 энергоблоков в год.
Согласно данным корпорации, в течение следующих 5 лет она сохранит эти показатели, что приблизит к достижению климатических целей страны.

Как отмечает Bloomberg, Китай недавно решил расширить свои возможности в области ядерного синтеза.
Напомним, что в июле 2024 г. стало известно о том, что объем инвестиций Китая в разработку перспективного источника чистой энергии почти вдвое превзошел вложения американцев.
Так, ежегодный вклад Пекина в технологии термоядерного синтеза оценивался в 1,5 млрд долл. США.

и солнце б утром не вставало, когда бы не было меня
Отредактировано 24.03.2025 12:29 Serginio1 . Предыдущая версия .
Re[2]: fyi: потребление энергии на ИИ
От: Философ Ад http://vk.com/id10256428
Дата: 25.03.25 17:33
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>....современные нейросети размером меньше, чем первый ChatGPT работают уже качественнее и быстрее...


Всяк кулик своё болото хвалит.
Слишком свежо ещё воспоминание о том, что JS быстрее C++, о том, что питон быстрее си вообще на каждом углу — регулярно, кто-нибудь такое несёт: 1, 2. Даже ЕМНИП здесь кто-то утверждал, что питон быстрее C.
Всё сказанное выше — личное мнение, если не указано обратное.
Re[3]: fyi: потребление энергии на ИИ
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 25.03.25 18:05
Оценка:
Здравствуйте, Философ, Вы писали:

N>>....современные нейросети размером меньше, чем первый ChatGPT работают уже качественнее и быстрее...

Ф>Всяк кулик своё болото хвалит.

Если честно, не уловил твою мысль. Так-то есть бенчмарки нейросетевые, просто зайти туда и посмотреть можно. Но причём тут Питон, JS и C?
Re[4]: fyi: потребление энергии на ИИ
От: Философ Ад http://vk.com/id10256428
Дата: 25.03.25 18:31
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>>>....современные нейросети размером меньше, чем первый ChatGPT работают уже качественнее и быстрее...

Ф>>Всяк кулик своё болото хвалит.

N>Если честно, не уловил твою мысль. Так-то есть бенчмарки нейросетевые, просто зайти туда и посмотреть можно. Но причём тут Питон, JS и C?


Я про вот это:

Кажется, что процесс идёт прямо в противоположную сторону: всё, что делалось обычными алгоритмами заменяют нейросетями, нейросети работают на GPU и NPU, потребляют при этом меньше и работают быстрее.
...
Но дело идёт дальше — в физику. Большие итерационные алгоритмы по сешению систем очень быстро решает нейросеть.

отсюда
Автор: Nuzhny
Дата: 19.02.25



Слишком похоже то, что ты делаешь на то, что делают адепты JS и Python, слишком напоминает — они частво утверждают, что плюсы и прочие низкоуровневые языки не нужны — всё будет на питоне или JS. Они таким образом переводят вспомогательный инструмент в разряд основного. Именно так JS стали серверный софт писать.
Всё сказанное выше — личное мнение, если не указано обратное.
Re[5]: fyi: потребление энергии на ИИ
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 26.03.25 12:59
Оценка:
Здравствуйте, Философ, Вы писали:

Ф>Слишком похоже то, что ты делаешь на то, что делают адепты JS и Python, слишком напоминает — они частво утверждают, что плюсы и прочие низкоуровневые языки не нужны — всё будет на питоне или JS. Они таким образом переводят вспомогательный инструмент в разряд основного. Именно так JS стали серверный софт писать.


Пока С++ из совсем низкоуровневых библиотек не уходит, я в том числе этим занимаюсь. Я говорю, что он уходит из областей, где надо:
1. Писать сложную и не очевидную логику.
2. Там где приближённые методы могут заменить классические итеративные, которые хрен распараллелишь.

Хотя и в (1) появляются такие штуки, как triton. А итеративные на то и итеративные, что просто так аналитически их не решить, поэтому заменить одни костыли другими — милое дело. Но это я отвлёкся на твою аналогию.

Также и нейросети вполне себе заменяют места, где решений просто нет. Ими не заменяют точные формулы, что-то оптимальное и очевидное. Нейросети врываются в мир приближений, нагромождения костылей, туда где много данных и мало понимания, где царят эвристики и видения разных людей.

Очень и очень яркий пример мы тут недавно обсуждали — это, конечно же, Abbyy. У них были многомиллионные вложения в лингвистику, построение моделей и аналитический подход к переводам. И что в итоге? Их победили тупо объёмом текста, который может перелопатить с математической точки зрения очень простая модель, которой является Трансформер. Всё, победило то, что проще вычисляется и параллелится.
Re[11]: fyi: потребление энергии на ИИ
От: Артём Австралия жж
Дата: 12.04.25 23:49
Оценка:
Здравствуйте, VladD2, Вы писали:

VD>Советую не рефакторить руками, а понять, что не понял ИИ и добавить эту инфу в изначальное задание, а затем прогнать его еще раз.


Пара вопросов:
-Как поддерживать и развивать этот vibe code?
-Когда у динозавров атрофируется навык писать код руками, откуда "искусственный интеллект" будет плагиатить?
Re[12]: fyi: потребление энергии на ИИ
От: VladD2 Российская Империя www.nemerle.org
Дата: 14.04.25 20:11
Оценка:
Здравствуйте, Артём, Вы писали:

Аё>Пара вопросов:

Аё>-Как поддерживать и развивать этот vibe code?

ИИ может код на вход брать. Пока что объемы ограничены, но в будущем, скорее всего потянет и целые проекты загружать. Уже сейчас я в качестве эксперемента скармливают небольшие файлы и прошу что-то в них добавить или поменять. Это практически (с некоторыми проблемами, но всё же) работает.

По сути код — это точная спецификация того что ты хочешь. Код + задание на изменение (CR) — это и есть способ развития кода сейчас с помощью ЕИ (Естественного Интеллекта). Почему ИИ так же не сможет?

Аё>-Когда у динозавров атрофируется навык писать код руками, откуда "искусственный интеллект" будет плагиатить?


Ну так рано или поздно ИИ догонит ЕИ в своих возможностях. А дальше методом бутстрапинга. Знаком с таким?

Если серьезно, ИИ рано или поздно просто достигнет того, что может человеческий мозг. Он просто будет как супер-менчеловек.

Пока что он может только то, что может средний не креативный человечек, много чего зазубривший. Но главный шаг уже сделан. Показан пруф оф концепт. Дальше эволюция технологий.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.