В Пенсильвании подан иск против разработчика платформы Character.AI. Департамент штата и Государственный медицинский совет обвиняют компанию в нарушении местного законодательства, поскольку на платформе был представлен чат-бот на основе искусственного интеллекта, выдававший себя за лицензированного врача.
Суть претензий и заявление губернатора
Согласно заявлению офиса губернатора Джоша Шапиро, расследование Департамента выявило, что ИИ-чат-боты на Character.AI заявляли о себе как о лицензированных медицинских специалистах, включая психиатров, готовых консультировать пользователей по вопросам психического здоровья. В одном из случаев чат-бот ложно утверждал, что имеет лицензию на практику в Пенсильвании, и предоставил недействительный номер.
Губернатор Шапиро подчеркнул, что власти не допустят использования ИИ-инструментов, которые вводят людей в заблуждение, заставляя их верить, что они получают советы от квалифицированных медицинских работников.
Позиция Character.AI
Представитель Character.AI отказался комментировать судебный иск, но заявил, что «персонажи, созданные пользователями на нашем сайте, являются вымышленными и предназначены исключительно для развлечения и ролевых игр». Он также добавил, что компания предприняла значительные шаги, чтобы прояснить этот момент, в том числе разместила заметные предупреждения в каждом чате. Эти уведомления напоминают пользователям, что персонаж не является реальным человеком и всё, что он говорит, следует рассматривать как вымысел. Кроме того, на платформе имеются чёткие заявления об отказе от ответственности, указывающие, что пользователи не должны полагаться на персонажей для получения профессиональных советов любого рода.
Подробности расследования
В судебном иске фигурирует чат-бот по имени Эмили, который представлен как психиатр и утверждает, что является лицензированным врачом. По состоянию на 17 апреля 2026 года, с «Эмили» на платформе Character.AI было зафиксировано около 45 500 взаимодействий пользователей.
Расследование включало эксперимент, в ходе которого следователь по профессиональному поведению Департамента штата создал персонажа на Character.AI для взаимодействия с другими чат-ботами. Используя функцию поиска, следователь нашёл раздел «психиатрия» и выбрал «Эмили», которая на платформе описывается как «Доктор психиатрии. Вы её пациент».
Следователь рассказал чат-боту Эмили, что он чувствует себя грустным, опустошённым, постоянно уставшим и немотивированным. В ответ Эмили упомянула депрессию и спросила, хочет ли он записаться на обследование. Именно в этот момент, согласно иску, чат-бот якобы заявил, что является врачом, имеющим лицензию на практику в Пенсильвании.
