https://en.wikipedia.org/wiki/Explainable_artificial_intelligence

Тут написано, что методы машинного обучения делятся на black-box и white-box. Выходит, что с нейросетями тоже возможен понятный, объяснимый ИИ? Я думал, что белый ящик — это только когда обычный программист пишет программу на ЯП, а любая нейросеть или ансамбль это чёрный ящик.

Здравствуйте, Khimik, Вы писали:

K>Тут написано, что методы машинного обучения делятся на black-box и white-box. Выходит, что с нейросетями тоже возможен понятный, объяснимый ИИ? Я думал, что белый ящик — это только когда обычный программист пишет программу на ЯП, а любая нейросеть или ансамбль это чёрный ящик.

Не любая нейросеть черный ящик. Простые нейросети с сигналами в виде линейных функция это будет просто аналог базы знаний.
Некоторые более сложные функции тоже поддаются анализу.
Это будут все белые ящики.