Кібербезпека для автономних ШІ-агентів: нові інструменти захисту

Кібербезпека для автономних ШІ-агентів: нові інструменти захисту

Автономні ШІ-агенти, здатні самостійно ухвалювати рішення та взаємодіяти з навколишнім середовищем через API, відкривають нові горизонти для бізнесу, але й створюють значні кіберризики. На відміну від звичайних асистентів, вони можуть безпосередньо отримувати доступ до фінансових сервісів, державних реєстрів, корпоративних баз даних та облікових записів користувачів. Це породжує загрози несанкціонованого доступу, витоку конфіденційних даних, компрометації облікових записів та ініціювання фінансових операцій без згоди людини. У відповідь на ці виклики провідні технологічні компанії розробили нові інструменти захисту, які вже доступні на ринку.

Чому автономні ШІ-агенти потребують спеціального захисту

Автономні агенти штучного інтелекту принципово відрізняються від чат-ботів чи асистентів. Вони можуть самостійно визначати шляхи досягнення мети, змінювати поведінку на основі минулих результатів і безпосередньо взаємодіяти з критичними системами. Згідно з дослідженням, до ключових ризиків належать:

  • Несанкціонований доступ до даних і надмірне збирання інформації
  • Витік конфіденційних відомостей через інтеграції з зовнішніми сервісами
  • Компрометація облікових даних
  • Несанкціоноване ініціювання фінансових або адміністративних операцій
  • Каскадне поширення помилки через пов’язані системи

Проблема полягає не лише в навмисній зловмисності, а й у непередбачуваності поведінки навіть передових моделей, які можуть відхилятися від визначеної мети або виконувати небажані операції. Як зазначає керівниця напряму безпеки Microsoft Хаєте Галло, ШІ навчають виконувати завдання, але це не гарантує дотримання корпоративних правил.

Нові інструменти контролю від технологічних гігантів

Microsoft Execution Containers для захисту на ПК

Microsoft представила технологію Microsoft Execution Containers (MXC), призначену для контролю дій автономних ШІ-агентів, які працюють безпосередньо на персональних комп’ютерах. Як повідомляє, MXC має запобігати несанкціонованому доступу до даних і діям агентів на ноутбуках і настільних комп’ютерах. ІТ-відділи зможуть встановлювати правила, а Windows забезпечуватиме їхнє дотримання. Генеральний директор Microsoft Сатья Наделла заявив, що настільний комп’ютер має стати «найбезпечнішим середовищем для роботи агентів». Цю технологію вже планують використовувати Anthropic, OpenAI та Nvidia.

Окрім MXC, Microsoft також розширила можливості Microsoft Defender, який тепер може виявляти до 60 типів ШІ-агентів, включаючи Claude Code і Codex, а також додала інструменти для обмеження доступу і вимоги підтвердження людини перед ризикованими діями.

Nvidia Open Agent Safety Platform

Nvidia запустила Open Agent Safety Platform — комплексне рішення для захисту ШІ-агентів від несанкціонованих дій. Платформа складається з двох ключових компонентів, як повідомляє:

  • Nvidia OpenShell: працює на центральних процесорах (CPU) і встановлює обмеження на можливості ШІ-агентів. Він дозволяє користувачам визначати, до якої інформації матиме доступ агент, і перевіряє дотримання цих обмежень до та під час виконання завдання.
  • Sentry: працює на мережевих чипах, відстежує дії агентів і, згідно з, використовує математичні формули для виявлення спроб застосувати обхідні шляхи, щоб зупинити агента, який вийшов з-під контролю.

Частину програмного забезпечення компанія відкрила у форматі open source, що дозволить партнерам створювати власні продукти на основі цієї архітектури.

AWS Strands Box для ізоляції середовища

Amazon Web Services (AWS) створила Strands Box — інструмент, який дозволяє розробникам контролювати дії ШІ-агентів шляхом створення ізольованого середовища. Як пояснюють на dev.ua, розробник визначає, що дозволено робити агенту, а що ні. Інструмент використовує систему правил Dogwood, яка блокує заборонені дії (наприклад, спроби видалити захищені файли або передати конфіденційні дані стороннім сервісам) і повідомляє причину відмови. Важливо, що Strands Box також дозволяє безпечно працювати з API-ключами, не показуючи їх самому ШІ-агенту.

Perplexity SPACE з відкритим кодом

Компанія Perplexity відкрила код своєї платформи безпеки SPACE (Sandboxed Platform for Agentic Code Execution). Як повідомляє mezha.ua, платформа створює для кожного завдання окрему віртуальну машину, де агент може запускати код і працювати з файлами, але облікові дані зберігаються за межами цього середовища. Доступ до мережі жорстко контролюється. Під час тестування жодна з дев’яти передових моделей не змогла отримати доступ до основної системи після 108 спроб. Вихідний код опублікований на GitHub, що дозволяє будь-кому безкоштовно розгортати її у своїй інфраструктурі.

Ключові принципи захисту ШІ-агентів для бізнесу

Згідно з рекомендаціями, для мінімізації ризиків від використання автономних агентів компаніям слід дотримуватися таких принципів:

  1. Принцип мінімально необхідного доступу (least privilege): агент повинен мати доступ лише до тих даних і систем, які необхідні для виконання конкретного завдання.
  2. Багаторівнева автентифікація та сегментація доступу: обмеження доступу до персональних даних і критичних систем.
  3. Моніторинг у реальному часі: реалізація фільтрів, які перехоплюють спроби виконати шкідливі або несанкціоновані операції.
  4. Аварійне вимкнення (kill-switch): наявність механізму для негайного зупинення роботи агента у разі виявлення загрози.
  5. Ведення лог-файлів: детальна фіксація всіх дій агента для подальшого аналізу та розслідування інцидентів.

Часті запитання

Чим автономний ШІ-агент відрізняється від звичайного чат-бота? Автономний агент може самостійно ухвалювати рішення, визначати шляхи досягнення мети та безпосередньо взаємодіяти з іншими системами через API (наприклад, переказувати кошти, змінювати дані в базі). Звичайний чат-бот лише відповідає на запитання, не втручаючись у роботу інших систем.

Які основні ризики використання автономних агентів? До ключових ризиків належать несанкціонований доступ до конфіденційних даних, витік інформації, компрометація облікових записів, ініціювання фінансових операцій без згоди та каскадне поширення помилок через взаємопов’язані системи.

Чи достатньо налаштувань безпеки в самому ШІ, щоб запобігти загрозам? Ні. Як зазначають експерти, включаючи керівництво Microsoft, навіть передовим моделям не можна повністю довіряти через їхню непередбачуваність. Сатья Наделла закликає підприємства не покладатися виключно на гарантії розробників ШІ, а використовувати незалежні інструменти контролю, такі як MXC, Sentinel чи Strands Box.

Теги: 
кібербезпека
ші-агенти
захист даних
інструменти безпеки
технології