По мере роста мощности больших языковых моделей (LLM) проблема «галлюцинаций» — выдачи нейросетью уверенных, но ложных ответов — остается одной из самых трудноразрешимых задач. Ошибки возникают даже в самых продвинутых алгоритмах, и индустрия до сих пор ищет оптимальные способы их фильтрации. Стартап Probably привлек 9 миллионов долларов посевных инвестиций от фонда Andreessen Horowitz для разработки инструментов, гарантирующих высокую точность ИИ-ответов.
Новый подход к архитектуре ИИ
По словам основателя компании Питера Элиаса, разработчики ставят перед собой цель достичь точности в 99,99%. Такой показатель является стандартом для традиционных программных систем с жесткой логикой, но крайне сложно достижим в сфере генеративного искусственного интеллекта. В основе решения Probably лежит переосмысление базовых принципов инженерного проектирования систем на базе ИИ.
Первым продуктом компании стал аналитический инструмент, предназначенный для получения быстрых ответов из сложных массивов данных. Каждое решение системы сопровождается цитатами из первоисточников и полной историей формирования вывода для проверки достоверности.
«Цифровой экзоскелет» для обработки данных
Чтобы исключить появление фактических ошибок, была создана специальная надстройка, которую в компании называют «экзоскелетом для анализа данных». Процесс фильтрации включает несколько этапов:
- Первичные ответы нейросети сверяются с детерминированным валидатором — проверочным алгоритмом, работающим по строгим правилам.
- Любые результаты, которые не соответствуют исходному набору данных, отсеиваются и отправляются на доработку.
- Модель обучается учитывать требования валидатора, что позволяет выдавать точный результат с минимальной задержкой.
В обзоре технологии отмечается: чем качественнее спроектирована система ограничений и контекст задачи, тем менее мощная нейросеть требуется для ее выполнения. Если максимально снизить неопределенность вводных данных, модели не нужно тратить огромные ресурсы на поиск верного пути.
Снижение затрат и локальные вычисления
Такой подход позволяет инструменту Probably работать на значительно более компактных ИИ-моделях. По данным разработчиков, текущая версия продукта использует алгоритмы, которые по мощности уступают флагманским решениям лидеров рынка. Это дает важное преимущество: систему можно запускать на локальном оборудовании, например на настольном компьютере, а не в облачных дата-центрах. Это радикально сокращает расходы на токены — единицы учета вычислительных мощностей нейросети.
Технология может быть масштабирована на любые сферы, чувствительные к точности информации, такие как бухгалтерский учет или медицина. В компании считают, что крупные ИИ-лаборатории не заинтересованы в создании подобных решений. Их бизнес-модель часто ориентирована на максимизацию прибыли от количества запросов, которые пользователь вынужден тратить в том числе на исправление неверных ответов модели.
