Компания Anthropic опубликовала первый отчёт по Project Glasswing – своей инициативе в сфере кибербезопасности, запущенной в апреле. Проект нацелен на предотвращение кибератак с использованием искусственного интеллекта (ИИ) при помощи другого ИИ. В основе инициативы лежит ещё не выпущенная модель Claude Mythos Preview, которую компания Anthropic называет ключевым инструментом: всего через месяц после старта Project Glasswing она помогла партнёрам выявить более десяти тысяч уязвимостей. Более того, как сообщается, большинство участников программы обнаружили сотни критических или высокоприоритетных уязвимостей в своём программном обеспечении благодаря этой модели.
Впечатляющие результаты Project Glasswing
По заявлениям Anthropic, темпы обнаружения ошибок у партнёров выросли более чем в десять раз. Например, Cloudflare выявила 2000 ошибок, 400 из которых относятся к высокой или критической степени опасности. Ранее Mozilla сообщала об обнаружении и устранении 271 уязвимости в браузере Firefox, что в десять раз превышает количество найденных проблем в предыдущей версии продукта с использованием другой модели Claude.
Недавнее заявление Microsoft о том, что объёмы выпуска обновлений безопасности «продолжат расти в течение некоторого времени», по всей видимости, объясняется ошибками, найденными при помощи Mythos Preview. Anthropic также применила Mythos Preview для сканирования тысячи проектов с открытым исходным кодом за последние несколько месяцев, обнаружив 6202 критических и высокоприоритетных уязвимости из 23 019 выявленных. Хотя эта информация не вошла в официальный отчёт компании, одна из фирм по кибербезопасности недавно заявила, что ей удалось найти способ взлома macOS — операционной системы, известной своей высокой степенью защиты — благодаря возможностям Mythos по поиску уязвимостей.
Причины ограниченного доступа к Mythos
В отчёте компания объяснила, что модель Mythos Preview пока не выпущена в публичный доступ, поскольку ни одна организация, включая саму Anthropic, не разработала достаточно надёжных мер безопасности, чтобы предотвратить неправомерное использование таких мощных моделей. В будущем планируется выпуск моделей «класса Mythos», как только будут доступны адекватные защитные механизмы. Пока же Anthropic намерена расширять доступность Project Glasswing, сотрудничая с такими партнёрами, как правительство США и другие государственные структуры. Этот шаг может свидетельствовать о стремлении компании улучшить свои отношения с американским правительством. В настоящее время Anthropic уже сотрудничает с рядом крупных компаний, включая Amazon Web Services, Apple, CrowdStrike, Google*, JPMorganChase, NVIDIA и Palo Alto Networks, помимо упомянутых ранее.
Финансовые перспективы Anthropic
По сообщениям, Anthropic готовится впервые стать прибыльной компанией с момента своего основания в 2021 году. Согласно недавнему отчёту The Wall Street Journal, компания движется к выручке в 10,9 миллиарда долларов США и операционной прибыли в 559 миллионов долларов США за квартал, заканчивающийся в июне. Однако Anthropic не ожидает сохранения прибыльности в последующих кварталах, поскольку планирует значительные инвестиции в вычислительные ресурсы и другие операционные расходы.
* — деятельность компании запрещена на территории РФ
