Расскажу об автоматизации процесса разбора срабатываний по секретам с помощью LLM, а также о том, как подобрать для модели «тот самый и неповторимый» промпт, используя бенчмарки и пайплайны оценки.

OpenAPI-схемы важны для анализа безопасности — с их помощью можно представлять практически любые http-запросы. Они несут в себе информацию о функционале сервиса, позволяя LLM делать более правдоподобные гипотезы о наличии уязвимостей (OWASP API Top 10, BOLA, CSRF/SSRF). Однако схемы часто неполны или ложны, поэтому, как вариант, можно собирать их самостоятельно на основе кода. В докладе расскажу о своём опыте построения агентов, покажу архитектуру и инструменты, поделюсь полученными результатами.

Использование ИИ для работы с данными уже не фантастика, а реальность. Мы автоматизировали самую трудоемкую часть процесса — первичную разметку конфиденциальности, что позволило минимизировать пропуск целей и перенести человеческие ресурсы на валидацию и анализ исключений. В докладе расскажу о проблеме ручной классификации, про наше решение разработанное на методиках RPPA и, конечно,  то, как это выглядит на практике: архитектура, примеры разметки разными моделями и процесс валидации. Поделюсь этим простым, но очень эффективным кейсом.

Внедрение AI/ML в продукты стало массовым трендом: сегодня большинство компаний используют ML во многих своих продуктах, однако вопросы их безопасности часто остаются за пределами фокуса внимания, что приводит к неконтролируемому росту поверхностей атаки и делает безопасность неуправляемым хаосом. Мы в VK решили эту проблему, создав единую ML-платформу с комплексной защитой. В докладе расскажу, почему важно внедрять безопасность на всех этапах: от проверки моделей и контроля данных до защиты инфраструктуры. Поделюсь реальными кейсами и покажу, как мы реализуем защищённый ML-контур для всего бизнеса.