Здравствуйте, Gattaka, Вы писали:
...
>G Т.е. его фиг подебажишь.
Неужели?
Нафик тогда нам такой ИИ, который "кот в мешке"

>G И фиг поймешь как он работает. Не потому что код плохо написан, а потому что по другому просто нельзя. Слишком сложная система.
Т.е. при всём "огромном" искуственном интеллекте — принцип KISS оказался слишком невоспоизводимым

P.S. ИМХО для систем ИИ прежде всего будет актуально:
1) Наличие простых тестов,
2) Возможность в любых ситуациях точно отследить всю цепочку принимаемых решений,
3) Возможность установки простых правил обработки информации (а в случае сложных правил — возможность их декомпозиции до простых).