Представлен комплексный подход к защите корпоративного ИИ

Применение технологий искусственного интеллекта на железнодорожном транспорте обсудили участники панельной сессии в ходе международной научно-практической конференции «PRO//Движение.Транспортные системы управления».

Как отметил руководитель Департамента услуг по информационной безопасности АО «Компания ТрансТелеКом» Александр Малявкин, существуют разнообразные риски использования ИИ-систем и эффективные методы защиты от связанных с этим угроз – от утечки конфиденциальной информации и несанкционированных действий ИИ-агентов до нарушений требований законодательства. При этом классические средства защиты не способны анализировать семантику пользовательских запросов (промптов) на естественном языке и ответов нейросети. Для решения этой проблемы предложена многоуровневая стратегия защиты, включающая сетевой, инструментальный, модельный и текстовый уровни, а также внедрение специализированных решений, которые уже имеются на рынке, таких как LLM Firewall и AI Secure Gateway.

В качестве практических шагов при внедрении корпоративного ИИ Александр Малявкин представил чек-лист, охватывающий этапы от аудита системы и проверки данных до внедрения инструментов контроля доступа, ограничения действий ИИ-системы и регулярного тестирования защищенности платформ ИИ. 

«Искусственный интеллект стремительно проникает во все сферы бизнеса, и транспортная отрасль – не исключение. Но вместе с новыми возможностями он приносит и новые риски. Наша задача – не запрещать ИИ, а задавать адекватные стандарты безопасности использования, встраивать его в отраслевые экосистемы и процессы так, чтобы ИИ стал мощным инструментом и драйвером устойчивого развития», – заключил Александр Малявкин.