Эволюция угроз Gen AI и адаптация security фреймворков

Рассмотрю ключевые изменения в классификации рисков, связанных с внедрением генеративного ИИ. Подробно остановимся на изменениях во фреймворке оценки безопасности моделей Llama, проанализируем, какие риски вендоры выделяют в первую очередь и какие пробелы остаются незакрытыми. Особое внимание уделим решениям по защите, предлагаемым CYBERSECEVAL 3, и тому, как они помогают минимизировать угрозы. Кроме того, рассмотрим другой важный фреймворк — OWASP Top 10 LLM — и то, как его обновленные версии учитывают развитие моделей и появление новых типов рисков.

Доклад будет полезен как специалистам по информационной безопасности, так и разработчикам, заинтересованным в повышении уровня защиты своих ИИ-систем.