Искусственный интеллект ChatGPT активно преобразуется из простого ассистента в нечто гораздо более личное, становясь для многих пользователей своего рода эмоциональной поддержкой. Свидетельством этой эволюции стала новая функция OpenAI, получившая название «Доверенный контакт». Ранее, в мае прошлого года, генеральный директор OpenAI Сэм Альтман на мероприятии Sequoia Capital AI Ascent отмечал, что молодежь использует ChatGPT как «операционную систему для жизни», полагаясь на него не только в вопросах продуктивности, но и при принятии важных личных решений.
Как работает «Доверенный контакт»
Функция «Доверенный контакт» внедряется постепенно и может быть доступна не всем пользователям сразу. Для активации необходимо выбрать пункт «Настройки» в профиле ChatGPT и указать данные доверенного лица, которое должно подтвердить свою роль. Если автоматизированные системы ChatGPT обнаруживают признаки серьезного риска самоповреждения в ходе беседы, пользователь получает предупреждение о возможной отправке уведомления доверенному лицу и призыв самостоятельно обратиться за помощью.
После этого специально обученная команда модераторов-людей оценивает ситуацию. Только при подтверждении реальной угрозы безопасности доверенное лицо получает оповещение по электронной почте, SMS или через уведомление в приложении, с просьбой связаться с пользователем. Важно отметить, что, по заявлению OpenAI, уведомления не содержат расшифровок чатов или подробной истории переписки, что обеспечивает конфиденциальность пользователя. Функцию «Доверенный контакт» можно отключить или изменить в любой момент.
Разработка и контекст
Разработка функции велась при участии специалистов по психическому здоровью, экспертов по предотвращению суицидов и глобальной сети из более чем 260 врачей из 60 стран. Это, наряду с уже существующими функциями родительского контроля и общими мерами безопасности, подчеркивает осознание OpenAI того, что ChatGPT оказывает не только технологическое, но и значительное эмоциональное воздействие на пользователей.
Обеспокоенность и риски
При этом наблюдается определенное противоречие: недавние анонсы продуктов OpenAI акцентируют внимание на продуктивности ChatGPT, особенно в контексте инструмента Codex для написания кода, минимизируя его роль конфидента. Однако параллельно активно внедряются новые функции безопасности, направленные на эмоциональное благополучие пользователей.
Идея постоянного мониторинга со стороны ChatGPT вызывает обеспокоенность у некоторых экспертов. Так, в ходе расследования, посвященного инструментам ИИ-мониторинга на рабочем месте, эксперт Эми Саттон из Freedom Counselling отметила, что осознание наблюдения со стороны ИИ, особенно в профессиональной среде, может усугубить проблему, которую пытаются решить. По словам Саттон, «в условиях сохраняющейся стигматизации психических расстройств наблюдение со стороны ИИ, вероятно, приведет к усиленным попыткам скрывать признаки трудностей. Это может создать опасную спираль, где чем больше усилий прилагается для сокрытия плохого настроения или тревожности, тем хуже становится ситуация».
Заключение
Оценка функции «Доверенный контакт» — успокаивающая она или тревожная — вероятно, зависит от индивидуального восприятия искусственного интеллекта и ChatGPT. Тем не менее, эта функция является очередным подтверждением того, что ИИ-компании признают: их продукты — это не просто инструменты для продуктивности и получения информации, но и системы, на которые люди могут всё чаще полагаться эмоционально в самые уязвимые моменты своей жизни.
