Новый ИИ-агент Microsoft обнаруживает и блокирует вредоносное ПО

Microsoft представила новую систему искусственного интеллекта под названием Project Ire, способную автономно выявлять и блокировать вредоносное ПО без участия человека. Это прототип, разработанный для обратного инжиниринга файлов с целью определения их потенциальной опасности.

Project Ire анализирует файлы, даже если у него нет данных об их происхождении или назначении. Система использует набор инструментов, включая декомпиляторы и средства анализа поведения, чтобы изучить код, понять его работу и принять решение о блокировке.

Проект создан совместными усилиями Microsoft Research, Microsoft Defender Research и команды Discovery & Quantum. Для обеспечения прозрачности в него встроен механизм формирования «цепочки доказательств» — детального объяснения каждого шага анализа. Это позволяет экспертам проверять решения ИИ, особенно в случаях ложных срабатываний.

Тестирование и результаты

Microsoft проверила систему на почти 4000 сложных файлов, которые ранее обходили другие автоматизированные средства защиты. Project Ire показал точность 0,89 и всего 4% ложных срабатываний.

Особенно важно, что система стала первой (включая человеческих аналитиков), которая смогла автоматически заблокировать образец APT-атаки. Угроза была нейтрализована Microsoft Defender.