Куди рухаються системи штучного інтелекту й чи можна їх зупинити
Чого очікувати, враховуючи, що РФ і Штати хочуть відмовитися від підтвердження людиною цілей, які визначає ШІ?
Загальна ситуація зі штучним інтелектом в оборонних технологіях така, що всі розуміють: повна автономія буде великим геймчейнджером для полю бою. Фактично це буде повна зміна того, як відбуватиметься війна. Очевидно, що багато країн дивляться в цьому напрямку. У першу чергу Україна і Росія, як дві воюючі країни, що мають відповідний потенціал і можливості, щоб розвивати такого типу технології. Також стежать за ситуацією Сполучені Штати, європейські країни тощо.
Ситуація така, що спинити розвиток цієї технології вже неможливо, тому що вона дає занадто великі переваги тим, хто її отримає. Уже кілька років у світі триває дискусія, якою повинна бути роль людини в ухваленні рішень у застосуванні автономних систем. У цивілізованому світі превалює думка, що людина повинна приймати фінальне рішення про ураження. Ми теж дотримуємося її. Але проблема в тому, що Росію такі загальні угоди мало цікавлять. Тому вони однаково розвиватимуть технологічні рішення, що в перспективі будуть повністю автономними.
Тому рішення, яке лобіюють Сполучені Штати і Росія — це радше фіксація того, куди світ так чи інакше прийде.
Ми вважаємо, що автономність буде Мангеттенським проєктом ХХІ століття. Вона може стати важливим фактором стримування, як свого часу ядерна зброя: країни, які володітимуть передовими технологіями автономності, будуть убезпечені, поки мають цю перевагу. Бо якщо твоя технологія випереджає ворога, він, скоріш за все, не захоче нападати.
Зупинити розвиток автономності вже неможливо. Уявіть, що США розробили ядерну зброю, а потім вирішили її більше не робити, тоді як Радянський Союз продовжив. Ми жили б у зовсім іншому світі.
Приблизно те саме відбувається зі штучним інтелектом — це джин, випущений з пляшки. У США зараз велика дискусія, розвивати його чи ні, давати доступ чи ні. Але Китай відстає від США в цій сфері на місяці, не на роки. Якщо США зупиняться, Китай за невеликий проміжок часу зможе їх наздогнати й випередити.
З автономністю та сама ситуація. Росія точно не зупинить розвиток цих технологій. Інші недружні до нас країни теж.
Читайте також«Питання не в тому, як досягти 100% автономності». Як працює ШІ-центр при Міноборони і які засоби вже є дієвими
Можуть не прислухатися до політик обмеження і контролю ШІ Китай, Росія, які ще країни? Чи поступово не прислухатиметься ніхто?
КНДР точно не буде дотримуватись. Що вони роблять зараз, я не знаю, але потенціал розвитку такого типу технологій у них точно є. Можливо, також Іран — теж країна з достатньо сильним інженерним потенціалом. Є багато країн у світі, які могли б потенційно дозволити собі це. Усі вони володіють достатньо прогресивними технологіями балістики, інших типів зброї.
Чого очікувати від російських дронів із системами штучного інтелекту
Що загалом у Росії із застосуванням ШІ в озброєнні, яке вони використовують у війні з Україною?
Поки що говорити, що це масове застосування, напевно, важко. Але я не володію повною картинкою.
Росія активно тестує різного типу автономні системи в різного типу засобах. Ми кожні два-три тижні дізнаємось про якийсь новий засіб, коли його або вдається приземлити, або він не вибухнув і можна розібрати його на запчастини. Тож противник рухається в цьому напрямку доволі активно. Напевно, коли в них з’являться достатньо стабільні рішення, почнуть їх дуже швидко масштабувати, у цьому Росія дійсно сильна.
Які функції з’явилися в їхніх нових засобах або в модернізованих з появою ШІ?
Наприклад, кілька тижнів тому була «Молнія», яка уразила людину на заправці. На цій «Молнії» була карта Nvidia Jetson (мінікомп'ютер Nvidia Jetson Orin, у який були завантажені зображення місцевості й код, який вказував, які типи цілей дрон навчений розпізнавати й атакувати. — Авт.). Як стверджують фахівці, це був автономний дрон, який фактично сам ухвалював рішення про ураження.
Автономність — це широке поняття. Вона включає різні підсистеми. Коли ми говоримо про автономний дрон, це має бути автономна навігація, тобто можливість дрона потрапити в певну точку, де цей засіб буде здійснювати атаку, автономне виявлення об’єкта, ідентифікацію, відстеження рухомої цілі, прийняття рішення про атаку, здійснення атаки. Це все елементи автономності.
Будуть засоби, в яких є автономна навігація; у якихось тестуватимуть детекцію, в якихось — автономне донаведення. Ці елементи автономності будуть постійно вдосконалювати, з’являтись у дронах. У якийсь момент усі вони будуть готові — і це вже можна буде назвати повністю автономним дроном.
Як може змінюватися поведінка засобів ураження та які безпекові поради для цивільних в Україні?
Людям треба дотримуватися базової безпеки: якщо лунає тривога — перебувати в укриттях. З погляду поведінки цивільних автономний дрон не відрізняється ніяк від дрона, яким керують. Рівень небезпеки нічим не відрізняється для об’єкта, на який він летить — цивільна людина, чи військовий, чи якийсь транспорт, чи об’єкт інфраструктури.
Які зміни, можливо, потрібні в облаштуванні інфраструктури в тилу, у характері бойових дій на фронті з появою таких засобів?
Це питання розробки систем протидії, потрібні відповідні перехоплювачі. І Україна, і Росія розробляють різного типу засоби, що будуть протидіяти цілям.
Один з основних викликів — це питання РЕБ. Його головна задача — перервати сигнал між засобом, який летить (або їде, якщо це НРК), і оператором, який ним керує. Якщо навігація дрона й інші елементи виконання місії будуть автономні, йому в принципі не потрібен зв’язок з оператором. У цей момент РЕБ як елемент протидії втрачає сенс. Якщо всі рішення щодо ураження й загалом поведінки засобу приймає комп'ютер, зв’язок ніякої ролі не грає. Це єдине, що зміниться. Відповідно, треба розробляти нові засоби перехоплення.
Наскільки можливо, так би мовити, хакнути ШІ-донаведення, заплутати дрон, якщо зробити поряд з важливим об’єктом інші, візуально на нього схожі, або періодично змінювати його вигляд?
Це цілком нормальний підхід, який можна застосовувати. Але якщо у вас стоїть десять машин, одна реальна, дев’ять муляжів, то автономний це дрон чи ним керує оператор, це не впливає на те, в який спосіб буде завдане ураження.
З погляду розпізнавання об’єктів хороші системи автономної детекції працюють значно краще, ніж людина.
Муляжі в якихось ситуаціях точно корисні, але це не панацея від автономності. Адже модель досить швидко можна донавчити. Крім того, противник проводить розвідку, заздалегідь вивчаючи зону ураження.
Тобто коли росіяни влучали десь по цивільних — це не недопиляна система, це більше вони не зважали, чи це військові, чи цивільні?
Так, їм просто байдуже. Якщо влучає по цивільному — це просто натреновано, щоб влучати в рухомий об’єкт, будь-який.
Розвиток в Україні й на Заході
Які останні тенденції в українських розробках?
В Україні активно розвивається цей напрямок. За нещодавньою інформацією Brave1, застосування дронів з автономністю в Україні зросло за пів року в десять разів. Багато засобів і систем тестують. Підрозділи бачать, як воно працює, його ефективність, і починають замовляти більше.
Є певний бар’єр у використанні нових технологій — не лише у війську, загалом у людей. Існує термін early adopters — ті, хто полюбляють спробувати щось нове. Їм подобається або не подобається, вони починають іншим розповідати, інші починають потроху пробувати. Тому існує певний лаг між появою технології і тим, як її широко й активно застосовують.
Я сказав би, що швидкість впровадження цієї технології зараз дуже висока.
Ваші минулорічні прогнози, що вдасться вийти на повну автономність дронів до кінця 2026 року, досі чинні?
Як я казав, в автономності є низка складових. І паралельно всі вони розвиваються достатньо активно. Чи буде повна автономність у кінці цього року — я, на жаль, коментувати не можу. Але швидкість розвитку висока — як з українського боку, так і російського.
Західні компанії вважають наші за конкурентів чи це лише співпраця? Чи є навіть якісь перешкоди, боротьба за ринки тощо?
Думаю, загальна тенденція така, що більшість західних компаній не до кінця усвідомлюють і сприймають ці технології, тому що це повністю ламає їхній бізнес, який будували десятки років. Особливо коли ми говоримо про великі компанії, де вибудована система закупівель, є road map розвитку продуктів.
Спершу дрони здійснили революцію в мілтеку, коли виявилося, що дешевим засобом за 400 чи 1 000 доларів можна знищити танк, який коштує мільйони доларів. Чи, наприклад, використання middle або deep strike, які не обов’язково повинні бути дорогими. Усвідомлення того, що за цим майбутнє, вже є. Але часовий проміжок між тим, щоб бачити, що відбувається на полі бою, і щоб у цей напрямок активно включатись, склав, напевно, років два. Що для компаній на Заході, в принципі, невеликий термін. Але з погляду того, наскільки це все швидко розвивається в Україні і який середній рівень розвитку в провідних країнах Заходу, вони суттєво відстають від нас. Я думаю, це відставання тільки збільшуватиметься.
З автономністю ситуація десь схожа: починають щось потрошку розробляти. Маючи і гроші, і потужну інженерну школу, провідні компанії точно спостерігають за тим, що відбувається в нас. Але я не казав би, що вони стають великими конкурентами для українців.
Є низка сильних компаній, як-от Еріка Шмідта — їхні засоби активно присутні в нас на полі бою. Але загалом майже немає виробників, що досягли хороших успіхів і, головне, мають досвід бойового застосування. Мова про тисячі чи десятки тисяч застосувань, а не коли один-два рази привезли засіб, щоб потестувати.
Читайте також«Сам дрон — це лише патрон». Вечір з екіпажами, що навчаються працювати з Merops — загадковими перехоплювачами Еріка Шмідта
Вони не сприймають нас як конкурентів чи як партнерів, вони радше зовнішні спостерігачі, які намагаються зрозуміти, куди в цьому напрямку краще рухатися.
У перспективі західні компанії шукатимуть можливості взаємодіяти з провідними українськими в окремих сегментах автономності. Подекуди це вже відбувається.