Red Hat запускає Asago – відкритий проект для впровадження політики управління ШІ
Зустрічайте Asago – відкритий проект від Red Hat, що обіцяє об’єднати політику управління штучним інтелектом у готовий до впровадження код. Проект позиціонується як автоматизований, контрольований процес, який з’єднує розрізнені кроки, інструменти та вимоги інженерних та регуляторних команд. На фоні нових регуляцій, таких як EU AI Act, Red Hat пропонує вибір для організацій: або забуксувати інновації ШІ через ручну перевірку, або дозволити некерованим агентам діяти без контролю виконання політики.
Asago є спільним проектом Red Hat та NVIDIA в рамках Open Secure AI Alliance. Проект випущено під ліцензією Apache License 2.0 і знаходиться на стадії формування. Репозиторій вже відкрито на GitHub для розробників, науковців та ранніх користувачів з бізнесу для оцінки та долучення до управління.
Етапи робочого процесу Asago
Red Hat описує чотири основні етапи робочого процесу. На першому етапі – картування ризиків: платформа аналізує завантажену політику управління та порівнює її з встановленими стандартами, такими як NIST AI RMF, OWASP LLM Top 10 та EU AI Act, використовуючи IBM’s AI Risk Atlas. Політика автоматично перетворюється на профіль ризиків, що зменшує внесок ручних перевірок з боку команди комплаєнсу.
Після цього Asago переходить до оцінки ризиків. Проект генерує симуляції, адаптовані до специфічного сценарію, шукаючи шкідливі поведінки, відзначені під час картування ризиків, замість перевірки за стандартним контрольним списком. Далі йде етап пом’якшення ризиків: система пропонує заходи безпеки, базуючись на результатах тестування, та створює детальний опис, який витримає скрупульозну перевірку.
Asago автоматизує рекомендовані контролі до конфігурацій, готових до розгортання у гібридному хмарному середовищі та на Kubernetes, за даними Red Hat, усуваючи ручне кодування інфраструктури між рекомендаціями мір безпеки та їх впровадженням. Мета Red Hat – зменшити терміни впровадження з кількох місяців до кількох днів.
Кожен етап спрямований на створення цілісного аудиторського сліду. Кожне положення політики пов’язане з певним тестом, а кожен тест – з активним контрольним елементом під час роботи. Таким чином, експерт з контролю може простежити будь-який активний контроль від реального застосування до положення політики, яке його обґрунтувало.
Red Hat розглядає безпеку ШІ не як одноразове завдання сертифікації, а як постійну комерційну утиліту. Стюарт Баттерсбі, архітектор з безпеки ШІ та оцінки моделей у Red Hat, підкреслює: “Проект asago – це дійсно спільна, відкрита ініціатива, яка об’єднує зацікавлені сторони з індустрії технологій, академічних кіл та уряду.”
