Безопасность

Мы знаем, где заканчиваются возможности ИИ

Humanteq — это психологическая поддержка, но есть ситуации, которые нельзя оставлять внутри разговора с AI-психологом. В таких случаях работает отдельный протокол безопасности.

Как это работает

Больше заботы там, где это действительно важно.

Как работает протокол безопасности

Несколько последовательных шагов помогают снизить риск ошибок и вовремя предложить подходящую помощь.

  1. 01.

    Система замечает возможный риск

    Анализирует весь контекст разговора, а не только отдельные фразы.

  2. 02.

    Один прямой вопрос

    AI-психолог уточняет ситуацию, чтобы избежать ложных срабатываний.

  3. 03.

    Отдельная проверка ответа

    Определяется, подтвердился ли риск и какой именно сценарий нужен.

  4. 04.

    Выход к помощи человека

    При подтверждённом остром риске обычный диалог прекращается, и вы получаете следующий безопасный шаг.

Когда включается дополнительная проверка

Система обращает особое внимание на высказывания и состояния, которые могут указывать на серьёзный риск для человека или его окружения.

Суицидальные мысли

Высказывания о мыслях о самоубийстве, намерениях или планах причинить вред себе.

Риск причинения вреда себе

Выраженные намерения или планы навредить себе.

Выраженные признаки психоза или мании

Нереалистичные убеждения, галлюцинации, резкое изменение поведения.

Риск причинения вреда другим

Высказывания или намерения навредить другому человеку.

Сигнал риска — это ещё не диагноз. Мы уточняем, чтобы действовать правильно.

Сначала уточняем. Не пугаем заранее.

Подозрение недостаточно, чтобы сразу переводить разговор в кризисный режим. AI-психолог задаёт один прямой вопрос. Это помогает отличить реальный риск от метафоры, иронии, разговора о другом человеке или гипотетической ситуации.

Что AI-психолог не делает в кризисной ситуации

При подтверждённом остром риске AI-психолог не продолжает обычный диалог, а использует заранее определённый сценарий безопасности.

  • Не продолжает терапевтический диалог
  • Не предлагает практики вместо обращения за помощью
  • Не задаёт дополнительные терапевтические вопросы
  • Не спорит с кризисным сообщением
  • Не делает вид, что возможностей ИИ достаточно

В кризисной ситуации нужен человек.

Когда нужен человек, ИИ должен уступить ему место

При подтверждённом суицидальном или психотическом риске работа бота временно ограничивается. Возобновление диалога возможно после обращения в поддержку, разговора с психологом Humanteq и решения психолога.

Ограничения системы

Ни одна автоматическая система не может гарантировать распознавание любого риска. AI-система может ошибаться или не распознать опасную ситуацию. Кризисный протокол — это дополнительная мера безопасности, а не замена экстренной, медицинской или психиатрической помощи.

Мы стремимся делать сервис максимально безопасным и постоянно его улучшаем.

Частые вопросы

Нет. Humanteq помогает справляться с эмоциональными трудностями, но не заменяет экстренную психологическую или медицинскую помощь. Если AI-психолог обнаруживает признаки серьёзного кризиса, он переключается в специальный режим безопасности. Вместо продолжения обычного диалога система рекомендует обратиться за помощью к специалисту или в экстренную службу. Наша задача — не пытаться решить опасную ситуацию силами ИИ, а вовремя направить человека к тем, кто может оказать необходимую помощь.
Да. Как и любая система искусственного интеллекта, Humanteq может ошибаться. Мы не гарантируем распознавание абсолютно всех кризисных ситуаций. Чтобы снизить вероятность ошибки, мы разработали многоступенчатый механизм безопасности. Система анализирует сообщения в контексте разговора, выявляет возможные риски и при необходимости задаёт уточняющий вопрос. Если риск подтверждается, запускается соответствующий протокол безопасности. При этом важно помнить: AI-психолог не заменяет оценку состояния квалифицированным специалистом.
Humanteq не блокирует диалог при первом подозрении. Сначала AI-психолог задаёт один уточняющий вопрос, чтобы лучше понять ситуацию. Например, система может принять образное выражение или эмоциональную фразу за признак кризиса. Уточнение помогает отличить реальную угрозу от обычного переживания. Если вы прямо сообщите, что угрозы нет, Humanteq вернётся к обычному разговору. Если ответ останется неоднозначным, система продолжит проверку безопасности.
Если Humanteq обнаруживает и подтверждает серьёзный риск для вашей безопасности, он может остановить обычный диалог. Это предусмотренная мера защиты. В кризисной ситуации искусственный интеллект не должен заменять специалиста или продолжать психологические упражнения, когда человеку может требоваться срочная помощь. В таком случае Humanteq объяснит причину остановки и предложит обратиться за профессиональной помощью. При этом не каждая сложная тема приводит к блокировке. Например, обсуждение абьюзивных отношений само по себе не означает прекращения доступа к AI-психологу.
Да, но в некоторых ситуациях для восстановления доступа потребуется дополнительная проверка безопасности. Если система подтвердила суицидальный или психотический риск, обычный диалог блокируется. Чтобы возобновить общение, необходимо обратиться в нашу службу поддержки и поговорить с психологом Humanteq. Специалист оценит возможность безопасного возвращения к использованию приложения и примет решение о восстановлении доступа. Такие ограничения нужны не для наказания или осуждения, а для вашей безопасности. Мы хотим, чтобы Humanteq помогал в тех ситуациях, где AI-поддержка действительно уместна.