Китайська модель GLM-5.2 показує, як ШІ з відкритим кодом змінює ландшафт кіберзагроз

Штучний інтелект розвивається з неймовірною швидкістю. Кожні кілька місяців з’являється нова передова модель із потужнішим логічним мисленням, кращими навичками програмування та вищим рівнем автономності. 
Останньою моделлю, яка опинилася в центрі уваги, стала GLM-5.2 — нейромережа з відкритим кодом, випущена китайською компанією Z.ai. Дослідники в галузі безпеки вже порівнюють GLM-5.2 із провідними комерційними моделями від OpenAI та Anthropic. Водночас вони наголошують: її можна запускати локально, модифікувати під власні потреби, а витрати на її експлуатацію є значно нижчими. Саме ці характеристики знову розпалили дискусії про те, як передовий ШІ може бути використаний кіберзлочинцями. 
Передові можливості ШІ стають дешевшими, доступнішими і все менш контрольованими. 
Для організацій це означає одне: потрібно готуватися до майбутнього, де складність кібератак більше не обмежена технічними навичками зловмисника. Відтепер потужні ШІ-системи можуть автоматизувати безліч завдань, які раніше вимагали залучення досвідчених хакерів. 

ШІ з відкритим кодом — це моделі, чиї вагові коефіцієнти викладені у відкритий доступ. Це дозволяє розробникам та організаціям завантажувати, запускати та налаштовувати їх на власній інфраструктурі. 
На відміну від комерційних ШІ-сервісів, які працюють через хмару провайдера, моделі з відкритим кодом часто можна розгорнути локально, не покладаючись на компанії-розробника щодо їхнього хостингу чи управління. Це надає організаціям більшу гнучкість, конфіденційність та контроль над тим, як ШІ використовується в їхніх середовищах. 
Для бізнесу це величезна перевага: Конфіденційні дані залишаються всередині периметра компанії, моделі можна точно налаштувати (fine-tune) під конкретні робочі завдання, і організація не мусить платити сторонньому провайдеру за кожен запит до ШІ. 
Проте ці ж самі переваги створюють нові виклики для спеціалістів із кібербезпеки. 
Оскільки ці моделі можна вільно завантажити та змінити, зловмисники можуть переписати або взагалі видалити вбудовані механізми безпеки. Вони отримують змогу використовувати ШІ без жодного контролю ззовні та автоматизувати завдання, які раніше вимагали серйозної технічної експертизи. 
Проблема полягає не в тому, що ШІ з відкритим кодом є менш безпечним за своєю природою, ніж комерційний. Річ у тім, що з поширенням таких потужних і доступних моделей, організаціям слід готуватися до стрімкого зростання кількості кібератак, підсилених штучним інтелектом. 
Саме тому в епоху ШІ контроль за тим, які програми запускаються, які привілеї вони мають і до яких систем мають доступ, залишається таким же критично важливим, як і завжди.

Моделі ШІ з відкритим кодом кардинально змінюють правила розповсюдження технологій. 
Якщо комерційні ШІ-платформи працюють у хмарах, які контролюються вендорами, то відкритовагові моделі можна розгорнути на приватній інфраструктурі. Організації отримують гнучкість, але її ж отримують і зловмисники. 
Дослідники зазначають, що моделі на кшталт GLM-5.2 можна кастомізувати, адаптувати під конкретні завдання, а в деяких випадках — модифікувати для зняття вбудованих обмежень безпеки. Фахівці з кібербезпеки вже помітили на підпільних форумах в даркнеті обговорення того, як обійти захисні бар'єри цієї моделі для її використання в зловмисних кіберопераціях. 
Це не означає, що модель створювалася для кіберзлочинців. Це означає, що бар'єри, які раніше обмежували доступ до передових технологій ШІ, стрімко руйнуються. 

Комерційні постачальники ШІ контролюють використання своїх сервісів. Вони можуть відстежувати зловживання, покращувати механізми захисту, блокувати облікові записи зловмисників і постійно оновлювати безпекові фільтри під час появи нових загроз.

Моделі з відкритим кодом працюють інакше.

Після локального розгортання практично неможливо відстежити, як саме використовується модель. Користувачі можуть запускати її повністю у своєму закритому середовищі. Для легітимного бізнесу це гарантія приватності, але для кіберзлочинців — це можливість експериментувати без жодних обмежень і ризику бути заблокованими. Як наслідок, атаки з використанням ШІ найближчими роками стануть масовим явищем. 

Попри гучні заголовки в пресі, ШІ навряд чи замінить кваліфікованих хакерів найближчим часом. Натомість він працює як підсилювач можливостей. Замість того щоб писати кожен скрипт вручну або самотужки шукати кожну вразливість, зловмисники можуть перекласти на ШІ рутинні завдання: ● Пошук потенційних вразливостей. ● Генерація фішингового контенту. ● Написання або модифікація шкідливого ПЗ (malware). ● Автоматизація розвідки (reconnaissance) в мережі. ● Допомога у створенні ланцюжків експлуатації (exploit chaining). ● Генерація скриптів для PowerShell або командного рядка. Планування прихованого переміщення (lateral movement) всередині зламаної інфраструктури. 
Більшість із цих дій хакери виконують і сьогодні. ШІ просто колосально скорочує час і зменшує обсяг знань, необхідних для їх виконання. 
У міру вдосконалення цих моделей зловмисники зможуть проводити масштабніші кампанії, використовуючи менше ресурсів, ніж будь-коли раніше.

Поширена помилка щодо ШІ-атак полягає в думці, ніби сама нейромережа створює злам системи. Але ШІ все одно залежить від тих самих умов, які завжди були необхідні зловмисникам.

Програми мають отримати дозвіл на виконання, в системі мають бути привілеї, якими можна зловживати, архітектура має базуватися на сліпій довірі, а користувачі — мати надлишкові права доступу.

Незалежно від того, ким написані команди — людиною чи ШІ-моделлю, атака все одно спирається на можливість виконати код і просунутися далі вглиб системи. Саме тому концепція Нульової довіри (Zero Trust) залишається одним із найефективніших методів протидії атакам нового покоління. 

Здається, що нові прориви в галузі ШІ домінують у новинах кожні кілька місяців. Технологія продовжуватиме розвиватися, ставатиме швидшою, дешевшою та потужнішою. Проте фундаментальні основи кібербезпеки не змінилися.

Організації не повинні будувати свою стратегію безпеки на основі тієї моделі штучного інтелекту, яка цього місяця потрапила в заголовки новин. Натомість слід зосередитися на обмеженні можливостей зловмисника після проникнення в їхнє середовище.

Багаторівневий підхід Zero Trust, побудований на контролі та видимості, залишається одним із найефективніших способів стримування сучасних кіберзагроз, що базуються на ШІ. Коли зловмисники позбавлені можливості запускати код, підвищувати привілеї чи переміщатися мережею, навіть найрозумніший ШІ виявляється безсилим.