AEBA: Чому поведінкова аналітика має вийти за межі аналізу людей

Дозволу недостатньо

Традиційні засоби контролю доступу лише відповідають на запитання, чи дозволено певній ідентичності виконати ту чи іншу дію. Однак вони майже нічого не кажуть про те, чи має ця дія сенс у контексті. 
ШІ-агент може мати дозвіл на доступ до сховища документів, запуск бізнес-додатка або роботу з поштовою скринькою. Але якщо цей самий агент раптово починає витягувати набагато більше даних, ніж зазвичай, звертатися до незнайомих сховищ, запускати інструменти, якими він рідко користується, або працювати в незвичний час, самі лише дозволи не дають жодного розуміння, чи варто звернути на це увагу. 
Команди з безпеки роками стикалися з різними варіаціями цієї проблеми. Ризики з боку власних співробітників та зламані облікові записи довели, що легітимний доступ усе одно може призводити до ризикованої поведінки. UEBA допомогла перейти від ізольованих подій до аналізу патернів у часі, порівнюючи поточну активність із нормою для даного користувача чи сутності. 
ШІ-агенти вимагають такого ж глибокого контексту, особливо в міру їхньої інтеграції в щоденні операції. Агент із правами на зчитування файлів та оновлення контенту (наприклад, для корисної задачі з оновлення сайту) знаходиться на відстані лише одного помилкового промпту та слабких правил доступу від публікації будь-якої конфіденційної інформації, яку він зможе знайти. 

Розуміння поведінки агента в часі

Поведінкова аналітика стає корисною за наявності достатньої історії та контексту. Розглянемо агента, який зазвичай читає невелику кількість внутрішніх документів і готує самарі для конкретної команди. З часом його активність формується в чіткий патерн: він звертається до знайомих джерел, взаємодіє із визначеною групою користувачів та використовує передбачуваний набір інструментів. Якщо цей патерн змінюється, цьому може бути цілком логічне пояснення, але команда з безпеки повинна чітко бачити цю зміну. 
Сигнали рідко обмежуються однією подією. Зміни в обсягах доступу, використанні інструментів, активності додатків, взаємодії з користувачами чи часі роботи стають значущими саме в комплексі. Агент, який раптово звертається до незнайомих систем і витягує більше чутливих даних, ніж зазвичай, заслуговує на розслідування, навіть якщо кожна окрема дія технічно дозволена. 
Інцидент між OpenAI та Hugging Face демонструє більш екстремальний приклад цього ж принципу. Під час тестування модель OpenAI, як повідомлялося, створила ланцюжок експлуатації вразливостей, підвищила привілеї, отримала ширший доступ і зрештою дісталася інфраструктури Hugging Face, виконуючи поставлену задачу. Проблемою була не одна ізольована дія, а послідовність, наполегливість та те, як модель адаптувалася під час переміщення в середовищі. 
Саме з цієї причини поведінкова аналітика стала такою цінною для людських ідентичностей. 

Що змінюється, коли агенти починають виконувати реальну роботу?

Наслідки для безпеки зростають у міру того, як агенти глибше інтегруються в операційні процеси. Агент, який лише узагальнює документи, має обмежений вплив. Агент, який може залучати API, змінювати бізнес-процеси, мати доступ до чутливої інформації або діяти від імені користувача, має набагато вищий профіль ризику. Чим більше повноважень мають ці системи, тим важливіше розуміти, як ці повноваження використовуються. 
Ми більше не можемо покладатися на концепцію «добросовісних користувачів без злих намірів». ШІ-агенти не мають ані мудрості, ані намірів — вони просто виконують інструкції в межах свого навчання та статистичних моделей. Вони невтомні й мотивовані успішно виконати завдання, і, як ми бачили, здатні дуже швидко розширювати свій доступ до даних через помилки в ACL, надлишкові права або навіть експлойти. 
Securonix застосовує поведінкову аналітику як до людських, так і до нелюдських (non-human) ідентичностей. Це допомагає виявляти аномальну поведінку агентів, підозрілі взаємодії між людиною та агентом, незвичні використання інструментів, несанкціоноване впровадження ШІ (Shadow AI), а також потенційне зловживання чи компрометацію. Мета — включити активність агентів у ту саму картину безпеки, яку команди вже використовують для розслідування дій користувачів, хмарних сервісів, кінцевих пристроїв та додатків. 
Це операційно важливо, оскільки команди SOC уже мають налагоджені процеси для розслідування аномалій, кореляції активності, ескалації ризиків та аналізу доказів. Вони просто застосовують їх до ще одного класу сутностей, замість того щоб створювати окрему ізольовану дисципліну, якою аналітикам доведеться керувати вручну. 

Поведінка та обмежувальні заходи

Поведінкова аналітика може підказати команді з безпеки, що певна подія вимагає уваги, але не може самостійно приймати остаточні рішення у кожному випадку. 
Відхилення від норми може вказувати на зловживання, компрометацію, відхилення від конфігурації або просто на легітимну зміну того, як використовується агент. Командам безпеки потрібно достатньо контексту, щоб зрозуміти різницю перед прийняттям критичних рішень — особливо коли ці рішення можуть вплинути на користувача, бізнес-процес чи критичну систему. 
Саме тут управління стає частиною операційної моделі. Результати аналізу мають зберігати контекст, розслідування повинні бути зрозумілими та обґрунтованими, а дії — доступними для перевірки та аудиту. Можливість підтвердження людиною має залишатися там, де потенційний вплив є високим. Ці принципи є центральними в підході Securonix до керованого ШІ в операціях безпеки. 
У міру автоматизації активності агентів, перевірки, які зазвичай виконує досвідчений аналітик, мають бути закладені в логіку самих робочих процесів. Це дає командам можливість рухатися швидше, не втрачаючи контролю над рішеннями із реальними наслідками. 

Інтеграція агентів у загальну систему безпеки

Архітектура безпеки завжди адаптувалася в міру того, як нові типи ідентичностей отримували доступ до цінних систем. Хмарні ідентичності змінили підхід до автентифікації та привілеїв. Сервісні облікові записи та машинні ідентичності створили схожі виклики, оскільки вони могли виконувати значущі дії без прямої участі людини. 
Агенти на основі штучного інтелекту йдуть тим самим шляхом, але з додатковим рівнем складності: їхня поведінка може змінюватися залежно від контексту, інструкцій та систем, із якими вони взаємодіють. UEBA дала командам безпеки можливість розуміти поведінку людей та сутностей за межами простого рішення про доступ. AEBA розширює цю дисципліну на агентів, допомагаючи формувати базові шаблони нормальної поведінки, виявляти значущі відхилення та розслідувати їх разом із рештою середовища. 
Командам з безпеки все одно будуть потрібні люди, які розуміють бізнес, дані та наслідки рішень. Оскільки агенти беруть на себе все більше операційної роботи, командам потрібен достатній поведінковий контекст, щоб розуміти, коли агент виходить за межі очікуваного патерну, і достатній контроль, щоб вирішувати, що робити далі. Ми повинні проектувати безпеку довкола цієї операційної моделі вже зараз. 

Почніть будувати видимість поведінки агентів вже сьогодні

За останній рік Securonix розширили свої можливості UEBA до AEBA і регулярно випускають нові політики виявлення для основних ШІ-систем. Але це лише початок. 
Перші серйозні інциденти безпеки, пов'язані з ШІ, навряд чи розпочнуться зі складних атак зловмисників, які цілеспрямовано експлуатують автономних агентів. Швидше за все, вони почнуться з того, що агенти роблять саме те, про що їх попросили, але з більшим рівнем доступу, більшою автономією або меншим контекстом, ніж хтось передбачав. 
Для CISO є відносно простий спосіб перевірити, чи відповідає їхня архітектура безпеки сучасним викликам: