Коли говорять про штучний інтелект і російсько-українську війну, найчастіше уявляють автономний дрон, який сам знаходить ціль. Але свіжий звіт Anthropic про зловживання ШІ показує значно ширшу картину.
ШІ вже використовується для кібершпигунства, крадіжки військових технологій, аналізу листування, створення шкідливого програмного забезпечення, інформаційних операцій і розробки автономних систем озброєння.
І Україна в цьому звіті — не периферійний приклад. Вона опиняється в центрі кількох найбільш показових кейсів.
Головна зміна полягає навіть не в тому, що ШІ дозволяє робити щось принципово нове. Значна частина описаних атак використовує давно відомі методи: фішинг, викрадені паролі, заражені пристрої, вразливі сервери, фальшиві сайти.
Змінилася економіка війни.
Те, для чого раніше потрібні були команда спеціалістів, багато ручної роботи і значний час, дедалі частіше може виконувати одна людина, яка керує кількома ШІ-агентами.
Агент — це програма на основі ШІ, якій можна поставити не окреме запитання, а задачу. Наприклад: знайти вразливі сервери організації, перевірити способи проникнення, написати необхідний код і повідомити оператору про результат.
Саме ця зміна може виявитися важливішою за появу будь-якої окремої «ШІ-зброї».
Один оператор замість команди
У звіті Anthropic описана масштабна шпигунська операція GTG-20006. Компанія обережно зазначає, що її характеристики відповідають публічним описам групи Midnight Blizzard, яку пов’язують із російськими державними структурами. Сам Anthropic не стверджує, що остаточно встановив державну приналежність оператора.
Цілі, однак, говорять самі за себе.
Серед них — українські державні установи, військові структури, дипломатичні представництва, оборонні компанії, виробники компонентів для дронів та організації в Європі.
Особливість цієї операції — масштаб автоматизації.
ШІ використовувався для розвідки цілей, написання програм, підготовки фішингових кампаній, створення інфраструктури для атак, викрадення даних і підтримання доступу до вже зламаних систем.
Навіть адаптація шкідливого програмного забезпечення частково була автоматизована. Якщо захисне програмне забезпечення виявляло шкідливий код, ШІ допомагав змінювати та перебудовувати його, доки той переставав виявлятися.
Це важлива зміна для кіберзахисту.
Раніше створення нової версії шкідливої програми вимагало часу програміста. Тепер цикл «захист знайшов загрозу → атакувальник змінив код → захист має знову її знайти» може значно прискоритися.
У деяких описаних у звіті операціях весь цикл від початку атаки до викрадення інформації займав лише кілька годин.
Ціллю стає не лише армія
Особливо показовою для України є увага до виробників дронів.
Зловмисники отримали доступ до поштових скриньок щонайменше двох виробників компонентів для безпілотників. В іншому випадку був викрадений повний SDK системи машинного зору для дронів.
SDK — це набір програмних інструментів і документації, необхідних розробникам для роботи з певною технологією.
Після викрадення ШІ використовувався для аналізу архітектури системи, компонентів обладнання, постачальників та характеристик ще не анонсованого продукту.
Тобто мова вже не просто про класичне «вкрасти документи».
Можна вкрасти великий масив технічної інформації, а потім доручити ШІ його прочитати, структурувати, пояснити принцип роботи системи та знайти її слабкі місця.
Це суттєво підвищує цінність викрадених даних.
І одночасно змінює поняття військової цілі.
Підрядник, який виготовляє камери для БПЛА, програміст, який пише систему навігації, компанія з виробництва електроніки або хмарний сервіс, яким користується оборонна компанія, стають частиною тієї самої поверхні атаки, що й військова інформаційна система.
Навіть готель може стати частиною розвідувальної операції
Один із найбільш показових епізодів звіту взагалі не схожий на традиційний військовий сюжет.
Зловмисники атакували компанії, які забезпечували Wi-Fi у готелях.
Отримавши адміністративний доступ, вони могли змінювати налаштування DNS — системи, яка фактично говорить пристрою, куди в інтернеті потрібно звертатися.
Так можна було перенаправляти гостей на підроблені сторінки або збирати інформацію про їхні пристрої.
За даними Anthropic, ці можливості використовувалися для пошуку людей, пов’язаних з Україною, включно з державними посадовцями та представниками виробників дронів.
Не обов’язково ламати добре захищений ноутбук чиновника в державній установі. Іноді простіше атакувати інфраструктуру готелю, в якому він зупинився під час відрядження.
Це хороший приклад того, що називають «ланцюгом постачання» в кібербезпеці: атакують не обов’язково головну ціль, а слабшого партнера або сервіс, через який до неї можна дістатися.
Наступний крок — від викрадених даних до зброї
Ще один російський кейс у звіті виглядає вже зовсім інакше.
Anthropic описує групу, яка працювала над системою автономних FPV-дронів. Компанія вважає її невеликою спеціалізованою командою або групою фрилансерів у Росії, а не підтвердженою державною структурою. Самі розробники заявляли про зв’язки з російськими державними програмами, але Anthropic не зміг це незалежно підтвердити.
За допомогою Claude вони створювали програмне забезпечення для рою дронів, системи координації між апаратами, комп’ютерний зір, навігацію та логіку автономного ухвалення рішень.
Комп’ютерний зір — це технологія, яка дозволяє машині розпізнавати об’єкти на зображеннях або відео.
Особливо важлива одна деталь. Для навчання такої системи використовували відео бойових дій з України, знайдені у відкритому доступі.
Таким чином виникає новий зв’язок між інформаційною та фізичною війною: відео з поля бою → дані для навчання → модель комп’ютерного зору → система наведення зброї.
Матеріал, який сьогодні публікується як демонстрація роботи підрозділу, завтра потенційно може стати навчальним матеріалом для алгоритму противника.
Це змінює і саме поняття OPSEC — operational security, або операційної безпеки.
Раніше перед публікацією відео ми передусім запитували: «Що з нього може зрозуміти людина?»
Тепер треба ставити ще одне питання: «Чого на тисячах таких відео може навчитися машина?»
Пропаганда теж стає дешевшою
Інша частина звіту присвячена інформаційним операціям.
Тут революція менш видовищна, але потенційно не менш важлива.
ШІ дозволяє перетворити невелику редакційну або пропагандистську команду на фабрику контенту.
Anthropic описує випадки, коли Claude використовували у виробничих процесах російських державних або фінансованих державою медіа, серед яких Sputnik, RIA Novosti та RT.
ШІ допомагав переробляти матеріали, перекладати їх, адаптувати під різні аудиторії, створювати заголовки, тексти для Telegram, телевізійні титри та сценарії.
Але особливо цікава не швидкість написання текстів.
Цікава можливість створювати ілюзію багатьох незалежних джерел.
Уявімо одну тезу.
Її публікує одне джерело. Потім ШІ переписує її іншими словами для другого медіа. Ще раз адаптує для Telegram. Перекладає іншою мовою для закордонної аудиторії. З неї роблять телевізійний сюжет.
У результаті читач бачить:
«Про це пишуть уже п’ять різних джерел».
Насправді першоджерело може бути одне.
Це можна назвати хибним циклом підтвердження: одна й та сама інформація багаторазово перепаковується і повертається до аудиторії так, ніби її незалежно підтвердили різні джерела.
ШІ робить такий процес значно дешевшим.
Але є проблема, яку ШІ поки що не вирішив
Звіт Anthropic містить одне застереження.
Багато досліджених інформаційних операцій отримували дуже мало реальної уваги.
ШІ може написати тисячу постів. Може перекласти їх десятьма мовами. Може створити десятки вигаданих персонажів і стилів.
Але він не може автоматично змусити людей їм довіряти.
Найбільше охоплення мали операції, які вже володіли каналами поширення: телеканалами, радіо, великими медіа або сформованою аудиторією.
Тому одна з головних закономірностей:
ШІ здешевлює виробництво інформації. Але він не здешевлює довіру так само легко.
І саме тому важливо дивитися не тільки на зміст повідомлення, але й на його походження: хто першим опублікував твердження, які джерела його повторюють і чи справді вони незалежні одне від одного.
Що насправді змінює ШІ
Якщо скласти разом описані Anthropic випадки, виникає досить цілісна картина.
ШІ може допомогти знайти людину або організацію у відкритих джерелах. Потім знайти її цифрову інфраструктуру. Підготувати атаку. Написати шкідливий код. Проаналізувати викрадену пошту. Знайти в ній потрібних людей і технології. Розібрати викрадену технічну документацію.
Паралельно інші системи можуть аналізувати відео з фронту, навчати комп’ютерний зір для дронів або допомагати розробляти автономну зброю.
А ще інші — перекладати й масштабувати інформаційні кампанії.
Саме тут доречно говорити про гібридну війну.
Гібридна війна — це використання одночасно військових і невійськових інструментів: бойових дій, кібератак, розвідки, економічного тиску, інформаційних операцій тощо.
Anthropic не стверджує, що всі описані російські операції керувалися з одного центру або були частинами єдиного плану. Це важливе обмеження звіту.
Але технологічна тенденція помітна.
ШІ стає універсальним прискорювачем для дуже різних інструментів війни.
Не обов’язково створювати принципово новий спосіб атаки. Достатньо зробити старий у десять разів дешевшим, швидшим і масштабнішим.
І саме це, можливо, є головним висновком звіту.
Майбутня війна з ШІ — це не обов’язково війна роботів.
Це війна, в якій розвідка працює швидше, кібератаки потребують менше людей, викрадені дані аналізуються майже миттєво, пропаганда локалізується для десятків аудиторій, а відео сьогоднішнього бою може стати навчальними даними для зброї завтрашнього дня.
І частина цього майбутнього, судячи зі звіту Anthropic, уже настала.
Залишити коментар