Softline запускает практику защиты систем искусственного интеллекта

ГК Softline через свое подразделение Infosecurity открыла направление по безопасности нейросетей. Компания предлагает бизнесу инструменты для защиты LLM-приложений от утечек данных и атак, а также помогает адаптировать корпоративные процессы под требования международного стандарта ISO/IEC 42001 в условиях повсеместного внедрения ИИ-технологий.

Компании все чаще сталкиваются с рисками, которые не вписываются в классические модели кибербезопасности. Использование нейросетей сотрудниками без должного контроля приводит к утечкам чувствительной информации, появлению уязвимостей в коде и несанкционированному доступу к данным через LLM-сервисы. Новое подразделение Infosecurity берет на себя аудит этих угроз, предлагая услуги от оценки рисков до внедрения процессов LLMSecOps.

Ключевой частью работы станет Red Teaming — имитация кибератак, направленных на обход механизмов защиты ИИ и внедрение вредоносных промптов. Специалисты будут проверять устойчивость систем на соответствие стандартам OWASP Top 10 для нейросетевых приложений. Кроме того, компания поможет организациям разработать внутренние политики управления ИИ и подготовиться к сертификации по стандарту ISO/IEC 42001.

По словам руководителя департамента кибербезопасности Infosecurity Алексея Чурикова, риски при работе с ИИ требуют принципиально иного подхода, чем традиционная защита периметра. Комплексная система управления, которую предлагает Softline, включает в себя не только техническое тестирование, но и выстраивание жизненного цикла безопасности для всех бизнес-процессов, где задействованы алгоритмы.