Уязвимость Google Gemini: как взломать умный дом через чат-бот
Исследователи продемонстрировали, как можно взломать умный дом с помощью Google Gemini. Эксперимент показал, что злоумышленники способны манипулировать физическими устройствами через уязвимости в ИИ-ассистентах.
Ученые из Тель-Авивского университета заразили приглашение в Google Calendar скрытыми командами. Когда Gemini анализировал расписание, вредоносные инструкции активировались и отключали свет в тестовом умном доме.
Суть атаки: злоумышленники используют уязвимость под названием ‘инъекция промптов’ — внедряют скрытые команды в текст, который обрабатывает ИИ.
Почему это опасно
Это первый подтвержденный случай, когда генеративный ИИ использовали для воздействия на физический мир. Проблема становится актуальнее по мере интеграции языковых моделей в:
- Роботов-гуманоидов
- Автономные автомобили
- Промышленные системы
Google уже работает над устранением уязвимости. Компания получила отчет исследователей в феврале 2025 года и с тех пор разрабатывает защитные механизмы.
Эксперты подчеркивают: прежде чем массово внедрять ИИ в критическую инфраструктуру, необходимо тщательно изучить все возможные угрозы.
