Компания Apple опубликовала материалы и записи выступлений, состоявшихся в рамках прошедшего в 2026 году семинара, посвященного разработке машинного обучения и искусственного интеллекта с защитой личных данных. Двухдневное мероприятие объединило специалистов корпорации и представителей научного сообщества для обсуждения ключевых аспектов безопасности современных алгоритмов.
Основные темы обсуждения
В ходе семинара эксперты уделили внимание актуальным вызовам в сфере защиты информации при обучении моделей. Основными направлениями стали развитие фундаментальных нейросетей, вопросы статистической безопасности, а также анализ угроз и методов их предотвращения. Участники рассмотрели практические способы внедрения теоретических наработок в реальные продукты, учитывая особенности федеративного обучения, при котором данные обрабатываются на устройствах без передачи на сторонние серверы.
Ключевые презентации
Особое внимание в материалах блога компании уделено четырем тематическим выступлениям:
- Применение криптографии в дифференциальной приватности (метод обеспечения конфиденциальности статистических данных) и наоборот, представленное научным сотрудником Apple Куналом Талваром.
- Методы матричной факторизации и работы с запросами в режиме реального времени от представителя Университета Торонто Александара Николова.
- Вопросы взаимодействия с пользователями при сборе данных для ответственного развития технологий, представленные Элиссой Редмайлс из Джорджтаунского университета.
- Исследование механизмов предотвращения запоминания конфиденциальной информации фундаментальными моделями, подготовленное Франциской Бениш из центра CISPA.
Научные публикации
Помимо видеозаписей, компания выделила 24 научные работы, представленные на семинаре. Среди них три статьи, подготовленные сотрудниками Apple, которые затрагивают интеграцию машинного обучения с гомоморфным шифрованием — методом обработки зашифрованных данных без их предварительной дешифрации — а также вопросы оценки утечек информации и поиска баланса между точностью моделей и защитой данных.
Полный перечень докладов и тексты исследований доступны для ознакомления в официальном блоге компании, посвященном машинному обучению.
