Больше заботы там, где это действительно важно.
Безопасность
Мы знаем, где заканчиваются возможности ИИ
Humanteq — это психологическая поддержка, но есть ситуации, которые нельзя оставлять внутри разговора с AI-психологом. В таких случаях работает отдельный протокол безопасности.
Как это работаетКак работает протокол безопасности
Несколько последовательных шагов помогают снизить риск ошибок и вовремя предложить подходящую помощь.
-
01.
Система замечает возможный риск
Анализирует весь контекст разговора, а не только отдельные фразы.
-
02.
Один прямой вопрос
AI-психолог уточняет ситуацию, чтобы избежать ложных срабатываний.
-
03.
Отдельная проверка ответа
Определяется, подтвердился ли риск и какой именно сценарий нужен.
-
04.
Выход к помощи человека
При подтверждённом остром риске обычный диалог прекращается, и вы получаете следующий безопасный шаг.
Когда включается дополнительная проверка
Система обращает особое внимание на высказывания и состояния, которые могут указывать на серьёзный риск для человека или его окружения.
Суицидальные мысли
Высказывания о мыслях о самоубийстве, намерениях или планах причинить вред себе.
Риск причинения вреда себе
Выраженные намерения или планы навредить себе.
Выраженные признаки психоза или мании
Нереалистичные убеждения, галлюцинации, резкое изменение поведения.
Риск причинения вреда другим
Высказывания или намерения навредить другому человеку.
Сигнал риска — это ещё не диагноз. Мы уточняем, чтобы действовать правильно.
Сначала уточняем. Не пугаем заранее.
Подозрение недостаточно, чтобы сразу переводить разговор в кризисный режим. AI-психолог задаёт один прямой вопрос. Это помогает отличить реальный риск от метафоры, иронии, разговора о другом человеке или гипотетической ситуации.
Что AI-психолог не делает в кризисной ситуации
При подтверждённом остром риске AI-психолог не продолжает обычный диалог, а использует заранее определённый сценарий безопасности.
- Не продолжает терапевтический диалог
- Не предлагает практики вместо обращения за помощью
- Не задаёт дополнительные терапевтические вопросы
- Не спорит с кризисным сообщением
- Не делает вид, что возможностей ИИ достаточно
В кризисной ситуации нужен человек.
Когда нужен человек, ИИ должен уступить ему место
При подтверждённом суицидальном или психотическом риске работа бота временно ограничивается. Возобновление диалога возможно после обращения в поддержку, разговора с психологом Humanteq и решения психолога.
Ограничения системы
Ни одна автоматическая система не может гарантировать распознавание любого риска. AI-система может ошибаться или не распознать опасную ситуацию. Кризисный протокол — это дополнительная мера безопасности, а не замена экстренной, медицинской или психиатрической помощи.
Мы стремимся делать сервис максимально безопасным и постоянно его улучшаем.