Вот Apple добавила в процессоры, среди прочего, и Neural Engine — отдельно от GPU. Правда бегло не нашел как его использовать, какая интеграция с имеющимся софтом.
Вроде даже зашла тема, т.к. сделали на 40% быстрее в новом процессоре.
Кто что скажет — перспективная ли тема? Будут ли создавать отдельные типа вычислительные карты (по аналогии с видеокартами) только для Neural Engine? Вернее вроде создают, но пока в магазине их не видел.
Я вот смотрю — уже куча ML-моделей разных. Даже попробовал сам запустить — но пока не по моему железу, слишком долго генерится и результат хуже чем в облаке. Но кто-то ж этим пользуется то...