Введение в безопасность ИИ

Большие языковые модели — недетерминированные системы, расширяющие поверхность атаки. Классические WAF и антивирусы не работают на уровне логики LLM: контроль смещается от исходного кода к данным, промптам и весам моделей. Разбирается жизненный цикл AI-систем от сбора данных до продакшена и специфические векторы — prompt injection, кража моделей, отравление данных. Предлагается 5-контурный фреймворк (Governance, Данные, Модели, Продакшен, Команды) и пошаговый план: от инвентаризации теневых AI-юзкейсов до встраивания guardrails и логирования в пайплайн CI/CD.

• Разобрать векторы атак на LLM через OWASP Top 10: prompt injection, кража моделей, отравление данных
• Применить 5-контурный фреймворк: Governance, Данные, Модели, Продакшен, Команды
• Внедрить базовые guardrails, логирование запросов и инвентаризацию теневого ИИ

Май 2026