Канадская писательница Маргарет Этвуд, автор романов «Рассказ служанки» и «Слепой убийца», поделилась своим скептическим отношением к технологиям искусственного интеллекта. Выступая на литературном фестивале Babell в португальском городе Порту, она рассказала о своем единственном и неудачном опыте взаимодействия с популярным чат-ботом Claude от компании Anthropic.
Почему нейросеть не справилась с детективной загадкой
По словам писательницы, она решила протестировать возможности генеративного ИИ, чтобы найти информацию о британском детективном сериале «Отец Браун». Однако чат-бот выдал ложные сведения о сюжете произведения.
Как объяснила Этвуд, алгоритм проанализировал множество рецензий и критических статей в интернете. Поскольку авторы профессиональных обзоров избегают спойлеров и не раскрывают развязку, нейросеть оказалась дезинформирована спецификой своих источников и не смогла правильно определить финал истории. Будучи большой языковой моделью, а не человеком, программа даже не понимала, что искажает реальные факты.
Принцип «мусор на входе — мусор на выходе»
Писательница подвергла критике тех, кто слепо полагается на генеративный ИИ в работе и творчестве. Она охарактеризовала таких пользователей как приспособленцев, ищущих легкие и труднозаметные способы обхода правил. В обзоре выступления отмечается, что любые языковые модели эффективны лишь настолько, насколько качественны данные, на которых их обучали. Доверие к технологиям, обученным на скопированной и потенциально устаревшей информации из открытых источников, часто приводит к ошибкам.
Этвуд напомнила об известном в сфере информационных технологий принципе «мусор на входе — мусор на выходе». По ее мнению, даже при использовании ИИ в коммерческих целях результаты работы алгоритмов требуют обязательной ручной проверки. Обозреватели выделяют несколько ключевых проблем современных генеративных систем:
- Низкое качество и неполнота исходных данных для обучения;
- Неспособность ИИ анализировать контекст и отличать художественные допущения от фактов;
- Отсутствие у алгоритмов понимания объективной истины, из-за чего они уверенно генерируют ложную информацию.
В завершение дискуссии было отмечено, что опыт известной писательницы наглядно иллюстрирует текущие ограничения генеративных моделей. Без жесткого контроля со стороны человека технологии ИИ пока остаются ненадежным инструментом для работы с фактами.
