Ряд организаций, сокративших персонал в надежде на полную автоматизацию бизнес-процессов с помощью искусственного интеллекта (ИИ), начали пересматривать свои решения. Практика показала, что исключение человеческого фактора из критически важных функций создает серьезные риски для бизнеса, а опыт первопроходцев в сфере HR и расчета заработной платы стал важным уроком для всего рынка.
Почему 99% точности недостаточно для бизнеса
Сферы управления персоналом и начисления выплат стали идеальным испытательным полигоном для ИИ из-за огромного объема данных. Однако именно здесь цена ошибки наиболее высока. В отраслевых обзорах отмечается, что даже 1% погрешности, который в большинстве других сценариев считается допустимым, неприемлем для кадровых служб. Ошибки нейросетей могут привести к юридическим спорам, финансовым расхождениям и нарушениям конфиденциальности.
Особую сложность представляет работа с защищенными данными. Например, в США деятельность компаний строго регулируется законом HIPAA, определяющим правила обращения с медицинской информацией. Несоблюдение этих норм грозит огромными штрафами. Для корректной работы ИИ требуются специалисты, которые не только разбираются в технологиях, но и понимают специфику конкретной платформы и правовые нюансы управления данными.
Человеческий контроль как залог надежности
Согласно исследованиям Массачусетского технологического института (MIT), только 5% пилотных проектов по внедрению ИИ в корпоративном секторе приносят реальную отдачу. Успеха добиваются компании, которые используют системы, адаптированные под их специфику, и сохраняют обязательный надзор со стороны экспертов-людей. Нейросети пока не способны учитывать контекст и тонкие нюансы бизнеса, которые очевидны опытному сотруднику.
Популярные языковые модели, такие как ChatGPT, могут быть полезны для общих исследований или планирования, но они склонны к «галлюцинациям» — выдаче ложных фактов за достоверные. Поскольку чат-боты не интегрированы глубоко во внутренние системы компании, они не знают особенностей конфигураций и бизнес-процессов. В критических ситуациях доверие алгоритму без проверки человеком может привести к катастрофическим последствиям.
Рекомендации по внедрению ИИ-решений
Для минимизации рисков при запуске систем на базе искусственного интеллекта эксперты рекомендуют придерживаться следующих правил:
- Внедрять ИИ только для тех задач, результаты которых могут быть проверены квалифицированными сотрудниками.
- Использовать инструменты ИИ, интегрированные непосредственно в профессиональные программные платформы, а не внешние надстройки.
- Определить наиболее трудозатратные процессы и точечно применять ИИ для их упрощения, будь то анализ больших массивов данных или автоматизация рутины.
- Сохранять строгий контроль за безопасностью и целостностью данных.
В конечном итоге ответственность за действия компании несут руководители, а не машины. Ответственность — это исключительно человеческая черта. ИИ должен не заменять профессионалов, а расширять их возможности, работая в связке с экспертами, способными принимать взвешенные решения.
