предыдущая часть 3

Автор: xma
Дата: 13.03.23

	(2039 год) sub-A2

[2 июля 2024] ИИ нуждается в огромной вычислительной мощности. Могут ли помочь световые чипы?
https://habr.com/ru/companies/first/articles/826022/

В прошлом году его группа провела моделирование, показавшее, что в течение десятилетия достаточно большая оптическая система может сделать некоторые модели искусственного интеллекта более чем в 1000 раз эффективнее, чем будущие электронные системы.

читаем статью,

[20 Feb 2023] Optical Transformers
https://arxiv.org/pdf/2302.10360

	Скрытый текст

DAC/ADC costs and 4-bit inference would roughly double all of our energy advantage estimates. In Appendix F we combine this with the assumption that future memory access may be 5× cheaper to show that future optics-based systems might achieve energy advantages of >100, 000× running models the size of FUTURE-4q (over our 300-fJ/MAC state-of-theart GPU estimate).

тоже пишут про 10`5 преимуществе (потенциальном), так что хз :D (по крайней мере, для будущих нейросетей уровня FUTURE-4q, где q = 10`15 parameters)

ну и я так понял что фотоника это больше про инференс (т.е. не обучение с нуля нейросетей, а наоборот для вывода из готовой нейросети)