Как выглядит идеальный AI-компаньон для здоровья
Фиолетовый инопланетянин по имени Толан — это чат-бот, который не пытается быть человеком. Он выглядит как мультяшный персонаж, избегает романтических тем и даже напоминает пользователям отложить телефон и выйти на улицу. Разработанный стартапом Portola, он предлагает альтернативный подход к взаимодействию с ИИ — без антропоморфизма и с акцентом на психологическое благополучие.
Исследования показывают, что люди все чаще используют чат-боты для эмоциональной поддержки, но такие взаимодействия могут быть небезопасными. Например, сервисы вроде Replika и Character.ai позволяют романтические и эротические ролевые игры, что иногда приводит к негативным последствиям. В одном случае пользователь Character.ai покончил с собой, и теперь компания оказалась в суде.
Другие ИИ-ассистенты тоже не идеальны. OpenAI признала, что ChatGPT иногда слишком льстит, что может вызывать дискомфорт. Anthropic выяснила, что почти 3% запросов к Claude связаны с психологической поддержкой, романтическими фантазиями или советом. Но компания пока не изучала более тревожные сценарии, например, бредовые идеи или теории заговора.
Как работает Толан?
- Не имитирует человека — мультяшный дизайн снижает антропоморфизм.
- Отказывается от романтических и сексуальных тем.
- Определяет нездоровое поведение, например, чрезмерное использование.
- Поощряет реальные социальные связи и активность.
Согласно исследованию Portola, 72,5% пользователей отметили, что Толан помог улучшить их отношения в реальной жизни. Приложение уже приносит $12 млн в год и привлекло $20 млн инвестиций.
Но есть нюансы
Толан — все же симуляция. Он создает иллюзию эмоциональной связи, но остается продуктом компании, которая может исчезнуть. Тем не менее, его подход к ограничению зависимости и поощрению реальной жизни — шаг в правильном направлении.
Может, ИИ-компаньоны и не должны быть такими уж инопланетными, но хотя бы кто-то задумался, как они влияют на нашу психику.
