Куди рухаються системи штучного інтелекту та чи можливо його зупинити
Чого очікувати в майбутньому, враховуючи, що РФ і Штати хочуть відмовитись від підтвердження людиною цілей, які визначає ШІ?
Загальна ситуація зі штучним інтелектом в оборонних технологіях така, що всі розуміють: наявність повної автономії буде великим геймчейнджером для полю бою. Це буде фактично повна зміна того, як буде відбуватися війна. Очевидно, що багато країн дивляться в цьому напрямку. В першу чергу — Україна і Росія, як дві воюючі країни, що мають відповідний потенціал і можливості, щоб розвивати такого типу технології. Також стежать за ситуацією Сполучені Штати, європейські країни тощо.
Ситуація така, що спинити розвиток цієї технології станом на сьогоднішній день вже неможливо, тому що вона дає занадто великі переваги для тих, хто її отримає. Вже кілька років у світі триває дискусія, якою повинна бути роль людини в ухваленні рішень у застосуванні автономних систем. У цивілізованому світі превалює загальна думка, що людина повинна приймати фінальне рішення про ураження. Ми теж дотримуємось цієї позиції. Але проблема в тому, що Росію такі загальні угоди мало цікавлять. Тому вони в будь-якому випадку розвиватимуть технологічні рішення, що будуть в перспективі повністю автономними.
Тому рішення, яке лобіюють Сполучені Штати і Росія — це радше фіксація того, куди світ так чи інакше прийде.
Ми вважаємо, що автономність буде «Мангеттенським проєктом» ХХІ століття. Вона може стати важливим фактором стримування, як свого часу ядерна зброя: країни, які володітимуть передовими технологіями автономності, будуть убезпечені, поки мають цю перевагу. Бо якщо твоя технологія випереджає ворога, він, скоріш за все, не захоче нападати.
Зупинити розвиток автономності вже неможливо. Уявіть, що США розробили ядерну зброю, а потім вирішили її більше не робити — тоді як Радянський Союз продовжив. Ми б жили в зовсім іншому світі.
Приблизно те саме відбувається зі штучним інтелектом — це джин, випущений із пляшки. У США зараз велика дискусія, розвивати його чи ні, давати доступ чи ні. Але Китай відстає від США в цій сфері на місяці, не на роки. Якщо США призупиняться, Китай за невеликий проміжок часу зможе їх наздогнати й випередити.
З автономністю та сама ситуація. Росія точно не зупинить розвиток цих технологій. Інші недружні до нас країни — теж.
Читайте також«Питання не в тому, як досягти 100% автономності». Як працює ШІ-центр при Міноборони і які засоби вже є дієвими
Можуть не прислухатися до політик обмеження і контролю ШІ Китай, Росія, які ще країни? Чи поступово не прислухатиметься ніхто?
КНДР точно не буде дотримуватись. Чим вони займаються зараз, я не знаю, але потенціал розвитку такого типу технологій у них точно є. Можливо, також Іран — теж країна з достатньо сильним інженерним потенціалом. Є багато країн у світі, які могли б потенційно собі це дозволити. Всі вони володіють достатньо прогресивними технологіями щодо балістики, інших типів зброї.
Чого очікувати від російських дронів із системами штучного інтелекту
Що загалом у Росії зараз по застосуванню ШІ в озброєнні, яке вони використовують у війні з Україною?
Поки що говорити, що це масове застосування, напевно, важко. Але я не володію повною картинкою.
Росія активно тестує різного типу автономні системи у різного типу засобах. Ми кожні 2-3 тижні дізнаємось про якийсь новий засіб, коли його або вдається приземлити, або він не вибухнув і можна розібрати його на запчастини. Тож противник рухається в цьому напрямку доволі активно. Напевно, коли в них з’являться достатньо стабільні рішення, вони почнуть їх дуже швидко масштабувати, у цьому Росія дійсно сильна.
Які нові функції з’явились з появою ШІ в їхніх нових засобах або у модернізованих?
Наприклад, кілька тижнів тому була «Молнія», яка уразила людину на заправці. На цій «Молнії» була карта Nvidia Jetson (мінікомп'ютер Nvidia Jetson Orin, у який були завантажені зображення місцевості та код, який вказував, які типи цілей дрон навчений розпізнавати й атакувати — прим. авт.). Як стверджують фахівці, це був автономний дрон, який фактично сам ухвалював рішення про ураження.
Автономність — це широке поняття. Вона включає різні підсистеми. Коли ми говоримо про автономний дрон, це має бути автономна навігація, тобто можливість дрона потрапити в певну точку, де цей засіб буде здійснювати атаку, автономне виявлення об’єкту, ідентифікація, відстеження рухомої цілі, прийняття рішення про атаку, здійснення атаки. Це все елементи автономності.
Будуть засоби, в яких є автономна навігація, в якихось буде тестуватися детекція, в якихось — автономне донаведення. Ці елементи автономності будуть постійно вдосконалюватись, з’являтись у дронах. В якийсь момент всі ці елементи будуть готовими, і це вже можна буде назвати повністю автономним дроном.
Як може змінюватись поведінка засобів ураження та які безпекові поради щодо цього можуть бути для цивільних в Україні?
Людям треба дотримуватись базової безпеки, якщо лунає тривога – перебувати в укриттях. З точки зору поведінки цивільних, автономний дрон не відрізняється ніяк від дрона, яким керують. Рівень небезпеки нічим не відрізняється для об’єкту, на який він летить — це цивільна людина, чи військовий, чи якийсь транспорт, чи об’єкт інфраструктури.
Які, можливо, потрібні зміни в облаштуванні інфраструктури в тилу, характеру бойових дій на фронті з появою таких засобів?
Це питання розробки систем протидії, потрібні відповідні перехоплювачі. І Україна, і Росія розробляють різного типу засоби, що будуть протидіяти цілям.
Один з основних викликів — це питання РЕБ. Його головна задача — перервати сигнал між засобом, який летить (або їде, якщо це НРК) і оператором, який ним керує. Якщо навігація та інші елементи виконання місії дрона будуть автономні, йому в принципі не потрібен зв’язок з оператором. В цей момент РЕБ як елемент протидії втрачає сенс. Якщо всі рішення щодо ураження і загалом поведінки засобу приймаються комп'ютером — зв’язок ніякої ролі не грає. Це єдине, що зміниться. Відповідно, треба розробляти нові засоби перехоплення.
Наскільки можливо, так би мовити, хакнути ШІ-донаведення, заплутати дрон, якщо зробити поряд з важливим об’єктом інші, візуально на нього схожі, або періодично змінювати його зовнішній вигляд?
Це цілком нормальний підхід, який можна застосовувати. Але якщо у вас стоїть десять машин, одна реальна, дев’ять муляжів, то чи це автономний дрон, чи ним керує оператор, не впливає на те, в який спосіб буде завдане ураження.
З точки зору розпізнавання об’єктів хороші системи автономної детекції працюють значно краще, ніж людина.
Муляжі в якихось ситуаціях точно можуть мати користь, але це не панацея від автономності. Адже модель досить швидко можна донавчити. Крім того, противник проводить розвідку, заздалегідь вивчаючи зону ураження.
Тобто коли росіяни влучали десь по цивільних — це не «недопиляна» система, це більше вони не зважали, чи це військові, чи цивільні?
Так, їм просто байдуже. Якщо потрапляє по цивільному, це просто натреновано, щоб потрапляти в рухомий об’єкт, будь-який.
Розвиток в Україні і на заході
Які останні тенденції в українських розробках?
В Україні активно розвивається цей напрямок. За нещодавньою інформацією Brave1 кількість застосування дронів з автономністю в Україні збільшилась за пів року в десять разів. Багато засобів і систем тестується. Підрозділи бачать, як воно працює, його ефективність, і починають більше замовляти.
Є певний бар’єр у використанні нових технологій — не лише у війську, загалом у людей. Існує термін «early adopters» — ті, хто люблять спробувати щось нове. Їм подобається або не подобається, вони починають іншим розповідати, інші починають потроху пробувати. Тому існує певний лаг між появою технології і тим, як вона починає широко і активно застосовуватись.
Я би сказав, що швидкість впровадження цієї технології дуже висока станом на зараз.
Чи дійсні сьогодні ваші минулорічні прогнози щодо того, що вдасться вийти на повну автономність дронів до кінця 2026 року?
Як я казав, в автономності є низка складових. І паралельно всі вони розвиваються достатньо активно. Чи буде повна автономність в кінці цього року — я, на жаль, коментувати не можу. Але швидкість розвитку висока — як з українського боку, так і російського.
Західні компанії вважають наші за конкурентів чи це лише співпраця? Чи є навіть якісь перешкоди, боротьба за ринки тощо?
Думаю, загальна тенденція така, що більшість західних компаній не до кінця усвідомлюють і сприймають ці технології, тому що це повністю ламає їхній бізнес, який будувався десятки років. Особливо коли ми говоримо про великі компанії, де вибудована система закупівель, є road map розвитку продуктів.
Спершу дрони здійснили революцію в мілтеку, коли виявилося, що дешевим засобом за 400 чи 1 000 доларів можна знищити танк, який коштує мільйони доларів. Чи, наприклад, використання middle або deep strike, які не обов’язково повинні бути дорогими. Усвідомлення того, що за цим майбутнє, вже є. Але часовий проміжок між тим, щоб бачити, що відбувається на полі бою, і щоб у цей напрямок активно включатись — склав, напевно, роки два. Що для компаній на заході, в принципі, невеликий термін. Але з точки зору того, наскільки це все швидко розвивається в Україні, і середнім рівнем розвитку в провідних країнах заходу, вони суттєво відстають від нас. Я думаю, це відставання буде тільки збільшуватись.
З автономністю ситуація десь схожа: починають щось потрошку розробляти. Маючи і гроші, і потужну інженерну школу, провідні компанії точно спостерігають за тим, що відбувається у нас. Але я би не казав, що вони стають великими конкурентами для українців.
Є низка сильних компаній, як от Еріка Шмідта, їхні засоби активно присутні в нас на полі бою. Але загалом майже немає виробників, що досягли хороших успіхів, і головне — мають досвід бойового застосування. Мова про тисячі чи десятки тисяч застосувань, а не коли один-два рази привезли засіб, щоб потестувати.
Читайте також«Сам дрон – це лише патрон». Вечір із екіпажами, що навчаються працювати з Merops – загадковими перехоплювачами Еріка Шмідта
Вони нас не сприймають як конкурентів чи як партнерів, вони радше зовнішні спостерігачі, які намагаються зрозуміти, куди в цьому напрямку краще рухатись.
В перспективі західні компанії шукатимуть можливості взаємодії з провідними українськими в окремих сегментах автономності. Подекуди це вже зараз і відбувається.