Новый инструмент для точного определения AI с минимальным числом ошибок
Исследователи из Мичиганского университета разработали инструмент Liketropy для выявления текстов, созданных искусственным интеллектом. Он сочетает статистические методы — анализ правдоподобия и энтропии — и работает без предварительного обучения на примерах. В тестах точность достигает 96%, а уровень ложных обвинений — всего 1%.
Liketropy использует «нулевые статистические тесты», которые оценивают текст на основе его внутренних свойств, таких как предсказуемость слов. Это позволяет отличать написанное человеком от сгенерированного большими языковыми моделями (LLM), даже если сам алгоритм скрыт или текст специально адаптирован для обхода детекторов.
Почему это важно
Большинство существующих инструментов либо слишком агрессивны, либо недостаточно точны. Особенно критично это в образовании и политике, где ложные обвинения могут иметь серьёзные последствия. Например, студенты, для которых английский — не родной, часто получают несправедливые отметки из-за стилистических особенностей.
«Мы сознательно избегали создания детектора, который просто тыкает пальцем. Наша цель — минимизировать ошибки, сохраняя высокую точность», — объясняет Тара Радванд, один из авторов исследования.
Где пригодится
- Академическая проверка работ
- Борьба с дезинформацией в соцсетях
- Внутренний аудит корпоративных ИИ-ассистентов
Инструмент уже получил награды на студенческих конференциях и привлёк внимание сообществ, связанных с машинным обучением. Сейчас команда работает над адаптацией Liketropy для разных сфер — от юриспруденции до науки.
