Разработанный специалистами Google DeepMind и Project Zero искусственный интеллект Big Sleep обнаружил 20 уязвимостей в популярных проектах с открытым исходным кодом FFmpeg и ImageMagick. Все найденные ошибки были идентифицированы и воспроизведены автономно без Человеческого вмешательства, однако, как отмечают в Google, окончательную проверку проводит эксперт для исключения ложных срабатываний.
В целях безопасности детали уязвимостей, такие как идентификаторы CVE и технические подробности, пока не разглашаются — сначала разработчики должны устранить найденные проблемы согласно 90-дневной политике компании. Уязвимости классифицируются по степени критичности: высокая, средняя и низкая.
Google подчеркнул, что Big Sleep — это важный этап в развитии безопасности приложений, поскольку ИИ способен находить и сообщать о проблемах эффективнее традиционных методов. Подробный технический брифинг по результатам работы инструмента будет представлен на конференциях Black Hat USA и DEF CON 33, где также поделятся анонимизированными данными об обучении Big Sleep в рамках инициативы Secure AI Framework.
Такой подход, по мнению специалистов, способствует более быстрому и тщательному выявлению уязвимостей, а также предоставляет сообществу новые инструменты для защиты программного обеспечения от киберугроз.