Здравствуйте, BlackEric, Вы писали:

BE>Что бы почитать про применение машинного обучения для выявления вредоносных файлов. На русском или английском.

Было соревнование на каггле лет 7 назад от мс -- https://www.kaggle.com/c/malware-classification/overview
Можно поизучать решения на гитхабе. Там народ CV применял для анализа паттернов, например.
Еще тут можно глянуть -- https://www.youtube.com/watch?v=VLQTRlLGz5Y