"Порівнюють з ядерною зброєю". Як Україна створює бойовий ШІ та що він уже вміє

Штучний інтелект (ШІ) вже стає геймченджером російсько-української війни. Обидві сторони насамперед впроваджують його у своїх бойових безпілотних системах, які стають дедалі більш автономними.

Українська армія тут дещо випередила супротивника. Її middle-strike дрони з ШІ вже стали суттєвою проблемою для росіян і призвели до "логістичного локдауну" в Криму.

За словами міністра оборони Михайла Федорова, наступний крок - впровадити штучний інтелект в крилаті ракети та зенітні турелі. Це може статися вже цього року.

"У сучасній війні ми маємо перемагати Росію в кожному технологічному циклі. Штучний інтелект — один із ключових напрямів цієї конкуренції", - заявляє посадовець.

Щоб прискорити розвиток ШІ, міноборони в березні створило спеціальний центр під назвою "A1". Його очолив молодий фахівець зі сфери ІТ Данило Цьвок, разом з ним працює декілька десятків українських інженерів і програмістів.

Їхнє завдання - створити цифрову модель поля бою в Україні та нові ШІ-інструменти, які б дозволили перемогти у цій війні.

BBC News Україна поговорила з керівником центру про те, як саме штучний інтелект вже бере участь у цій війні та що буде в найближчому майбутньому.

За словами Цьвока, вже в цьому році слід очікувати на появу "рою дронів", а через декілька років почнеться битва воєнних операційних систем.

"Цифровий двійник поля бою"

ВВС: Чим займається центр штучного інтелекту при міноборони? Фактично він працює лише три місяці, але, можливо, є вже якісь практичні напрацювання або визначені вектори роботи?

Д.Ц. Насправді, три місяці у сфері ШІ – це великий проміжок часу, тому що дуже швидко міняються технології, це дуже динамічна сфера.

Ключова ціль центру – це створення реальної переваги на полі бою за допомогою впровадження рішень на базі технології штучного інтелекту.

Разом з тим ми розуміємо, що зараз є чітка ціль, яку декларує міністр Михайло Федоров, про те, що нам треба зупинити ворога в повітрі, на землі та в економіці, і ось ключовий фокус якраз на розробці та впровадженні тих рішень, які націлені на досягнення цього.

Разом з тим центр ШІ – це реально наш R&D (Research and Development – "дослідження та розробка"), по суті підрозділ, де працює велика кількість інженерів, які безпосередньо приймають участь у розробці конкретних рішень.

За цей період часу ми визначили конкретні пріоритетні напрямки, в межах яких уже здійснюється повноцінно процес розробки. Ключовим напрямком є робота з даними, аналіз і розуміння даних, і відповідна побудова таких систем, які би дозволяли прискорювати ці процеси та робити їх якіснішими.

Якщо говорити про конкретику, то давайте ми досягнемо відповідних продуктових результатів, які будуть використані на полі бою, і тоді ми з радістю підсвітимо, що це за продукти. Наразі ці продукти знаходяться в активній фазі розробки.

ВВС: Ми можемо хоча б в загальних рисах зрозуміти, про які продукти йде мова?

Д.Ц. Давайте поділимо це на два великих блоки, які стосуються використання і впровадження штучного інтелекту.

Перше, це агрегація, розуміння, аналітика великої кількості даних і прийняття рішення на основі цих даних. Штучний інтелект є інструментом тієї технології, яка дозволяє розуміти дані швидко.

Сьогодні Україна є таким місцем у світі, де з причин війни агрегується величезна кількість даних, які по суті описують поле бою на різних управлінських рівнях, починаючи від стратегічного до оперативного і тактичного.

Ми вже маємо цілісну картину, так званий "цифровий двійник поля бою". Це величезна кількість даних, яка його описує. Перед нами стоїть завдання, як швидко розуміти ці дані, як здійснювати аналітику, як отримувати певні інсайти з тих даних і як швидко на основі цих даних приймати рішення. Це перша частина.

Друга частина – як організувати той механізм, який по суті буде швидко розуміти та надавати цю інформацію.

Отут власне і приходить на допомогу штучний інтелект як технологія, яка швидко дозволяє вам отримати відповідь на ваше конкретне питання, працюючи з великою кількістю різних типів даних одночасно. Зараз потрібна велика кількість, наприклад, фахівців, які працюють з даними, які потребують занурення в ту чи іншу інформацію, а штучний інтелект це може робити миттєво, аналізуючи великі вибірки даних і видаючи конкретну відповідь.

По суті ви спілкуєтесь з полем бою, як з людиною, тобто ви можете задавати дуже конкретні питання і штучний інтелект вам може давати дуже конкретні відповіді.

Штучний інтелект навіть може здійснювати рекомендації певних рішень, певних сценаріїв і таким чином пришвидшувати оцей цикл прийняття рішень.

Це одна велика частина, один великий фокус.

Другий фокус полягає в тому, що на сьогоднішній день існує велика кількість засобів, які використовуються на лінії бойового зіткнення. Починаючи від засобів, які здійснюють детекцію і закінчуючи засобами, які приймають участь у безпосередньому ураженні ворога.

Це так званий "Kill-Chain" (послідовність дій від виявлення до ураження противника) якщо говорити професійною мовою, який дає зрозумілий цикл від детекції та ідентифікації ворога до його знищення.

У цьому приймають участь певні засоби – "залізо" або hardware.

В першу чергу ми говоримо про те, яким чином зараз зберегти життя нашого військового і яким чином по суті організувати захист лінії фронту так, щоб він був автоматизований. Штучний інтелект стає частиною цієї автоматизованої лінії фронту, де на всіх етапах "Kill-Chain" потрібно приймати те чи інше рішення. Або автоматично детектити і розуміти, що саме вдалося виявити, або ж допомагати вразити ворога в різних складних умовах, коли противник протидіє, включає засоби електронної боротьби й так далі.

Це ось два великі блоки, які формують поняття АІ-driven army. І наше завдання паралельно впроваджувати ШІ, що в першому, що в другому аспекті, для того, щоб отримати максимальний ефект.

Російські "зебри"

ВВС: Наскільки я розумію, збір цієї інформації і особливо її верифікація - це також ключовий момент, тобто це те, на чому буде навчатися цей штучний інтелект. А саме етап прийняття ним рішень – це, в моєму розумінні high level, кінцева мета, щоб прибирати людину з її помилками, з її суб'єктивізмом з цього процесу. На якому етапі зараз Україна – на етапі збору і верифікації даних, формування цього цифрового поля бою, чи ми вже перейшли на етап, коли можемо сказати, що наш ШІ вже може приймати певні рішення?

Д.Ц. Давайте скажемо так, що, по-перше, це паралельні процеси.

Треба розуміти, що для застосування технології штучного інтелекту, як ви згадали, потрібна велика кількість даних. Ці дані потрібно збирати безперервно, бо саме безперервність збору даних дозволяє нам отримувати актуальну інформацію, дозволяє нам розуміти, як зараз діє ворог, дозволяє розуміти реально ситуацію на полі бою.

Звичайно всі ці дані верифікуються. Є різна якість даних, є розуміння того, які з них можуть прийматися для використання і навчання надалі систем на базі штучного інтелекту. Є дані, які відсіюються. Але це паралельний процес – навчання систем ШІ, збір і оновлення загального обсягу даних, який по суті оновлює загальну картину поля бою.

Чим більше якісних даних ми збираємо, тим вища якість моделей штучного інтелекту. Тобто мова йде про досягнення певної якості моделей ШІ, які будуть і які є придатними для використання в реальному середовищі.

І тут насправді дуже цікавий факт, тому що, ви ж розумієте, ситуація на полі так само постійно змінюється, ворог так само придумає певні - назвемо це - "креативні ситуації".

Маленький приклад: системи комп'ютерного зору дозволяють ідентифікувати ворога, до прикладу, з дрона, також ідентифікують ворожу техніку, і так ми збираємо матеріали.

Але ворог, розуміючи, що йде ідентифікація ворожої техніки і її розпізнавання, вирішує застосувати дуже креативні методи. Наприклад, вони розмальовують свою техніку в графіці зебри та мають інші подібні креативні підходи.

Однак наше завдання не міняється, нам треба знищувати ворога. Це означає, що, окей, ми навіть в такому варіанті збираємо ці дані й наша система вже здатна розпізнавати навіть в такому камуфляжі їхню техніку.

Тобто мова йде про те, що цей процес має бути безперервним, і якщо з'являються нові якісь виклики на полі бою, вони мають інтерпретуватися через ці дані моделям ШІ. Насправді процес навчання штучного інтелекту дуже подібний до процесу навчання людини, тобто ти показуєш певний кейс і штучний інтелект, розуміючи кейс, розуміючи якийсь паттерн, уже знає в майбутньому, як його розпізнавати і як з ним діяти.

ВВС: Добре, що ви зачепили цей конкретний приклад із "зебровим камуфляжем". Ви можете пояснити на практиці, як цей камуфляж має обманути штучний інтелект, яка логіка цього?

Д.Ц. Тут напевно треба зробити референс до розуміння того, як навчається взагалі система штучного інтелекту на базі комп'ютерного зору. Ви робите підбірку певного обсягу матеріалу. Тобто реального візуального матеріалу, який показує, як виглядає той чи інший тип техніки під різними кутами, в різних умовах при різних часових проміжках дня, при різних сезонах. І ви показуєте усю цю комбінацію даних у різних умовах ландшафту системі ШІ, а вона починає розуміти, як ідентифікувати той чи інший засіб, до прикладу, танк.

Ворог, будемо відверті, теж працює над подібними системами та розуміє, як можна тому протидіяти.

Він дає новий формат візуального зображення танку, який покритий якимось камуфляжем і система ШІ просто-таки може помилитися і не розпізнати його, тому що вона ніколи його не бачила.

І це до того моменту, поки ми не навчимо систему, що саме в такій репрезентації і в такому вигляді існує цей засіб, власне цей танк, який потрібно уразити.

BBC: Тобто це може бути нескінченний процес? Навчили, що танк може бути, умовно кажучи, розмальований під "зебру", а росіяни зробили інший камуфляж, і знову штучний інтелект має отримати цю нову інформацію?

Д.Ц. Є багато факторів, які впливають на те, яким чином розпізнається той чи інший об'єкт, це стосується і форми, і контуру зображення і певного патерна, як він переміщається.

На практиці це насправді не так легко зробити. Можна спробувати один, два, три варіанти, але в загальному дуже тяжко знаходити якісь супероригінальні ідеї, які б система не розуміла.

Система штучного інтелекту краще розпізнає зображення, ніж людина, і це загальновідомий факт. Це зумовлено тим, що ШІ може помітити такі деталі, які, наприклад, на перший погляд, людині буде тяжко помітити, або людина може пропустити їх в умовах великого навантаження. Завжди є фактор людської помилки. Наприклад, техніка захована у якійсь певній лісосмузі і її важко побачити, але штучний інтелект її ідентифікує, бо він побачить буквально певний патерн зображення, який для нього буде сигналом того, що є величезний фактор ризику.

Є велика кількість яскравих прикладів, які показують, як саме штучний інтелект в умовах реальної передачі відео підсвічує той чи інший засіб ворога, який попередньо не був зрозумілий.

ВВС: Якщо вже ми заглибились у цю тему, то давно не секрет, що зараз Україна почала активно використовувати свої безпілотники, які мають елемент штучного інтелекту, так званий машинний зір. Називаються конкретні моделі – Hornet i Darts – які мають достатньо просунутий ШІ. Однак, спілкуючись з військовими, які використовують цю техніку, вони кажуть про її певні недоліки. Система може визначити та захопити ціль, умовно кажучи, машину військову, але їй все ще важко, наприклад, атакувати її, якщо вона летить під певним кутом до цілі. Тобто ШІ не спрацьовує у всіх 100% ситуацій. Це тимчасово чи штучний інтелект все ж має обмеження? Наприклад, він повинен мати ідеальну картинку, умовно кажучи, військової машини в кадрі, щоб її атакувати з найбільшою ефективністю?

Д.Ц. Продовжуючи мою попередню тезу щодо того, як штучний інтелект може виявляти техніку навіть в складних місцях, де людина візуально, на перший погляд, може впустити цей момент, я твердо переконаний, що це лише питання часу і питання кількості даних, які будуть використані для навчання тої чи іншої моделі. Тому що з однієї сторони збільшується кількість даних, а з іншої сторони весь час зростає якість моделей, які існують на ринку і які виступають базою для навчання на тих даних, які ми накопичуємо.

Тому це питання тимчасове, я б тут швидше звернув увагу на те, яким саме чином приймаються, наприклад, певні рішення. У тих дронах, про які ви згадували, використовується так званий так званий підхід last mile-delivery (донаведення дрону на ціль на завершальному етапі польоту перед ураженням), де є присутня людина в циклі.

Тобто в кожному разі система ідентифікує певну ціль, а людина підтверджує ураження цієї цілі.

Тому перше, що я хотів би сказати, що це питання тимчасове.

Хоча я вам скажу: сьогодні якість моделей дозволяє ефективно працювати реально на полі бою. Ця технологія last mile-delivery в дронах широко застосовується у боротьбі з ворогом, знищенні ворожих засобів. Але навіть при досягненні результату близького до 100 % при ідентифікації цілі все одно залишиться питання того, яким чином здійснювати управління ризиками.

Тобто система підсвічує, але все-таки рішення кінцеве має залишатися за людиною.

Чи буде повна автономність

ВВС: Тобто ми маємо людину залишити все одно в цьому процесі. Така ваша думка?

Д.Ц. Залежить від ситуації і від типу ризику. От тут, напевно, і криється ключова відповідь.

Досягнення автономності в найвищій якості відбудеться найближчим часом, ми говоримо, в розрізі найближчих декількох років.

Хоч ми вже зараз бачимо надзвичайно великий темп прискорення застосування автономних засобів на полі бою, і саме цей темп показує, що ще буквально декілька років і це вже буде протистояння автономних систем між учасниками бойових дій. Тому питання в тому, в яких моментах ми можемо дозволити цим системам діяти зі стовідсотковою автономністю, а у яких моментах все-таки має бути присутня людина.

Моє переконання, що це історія про те, яким чином здійснювати управління ризиками у конкретних ситуаціях.

ВВС: Яка ваша думка, чи має бути повна автономність, умовно кажучи, у midstrike дрону чи наземного роботизованого комплексу, чи все-таки людина має завжди підтверджувати обрану ціль?

Д.Ц. Розгляньмо дві ситуації.

Перша, коли, умовно кажучи, у вас є турель, на вас наступає ворог і ви знаєте, що зі сторони наступу не присутні ваші підрозділи, ви знаєте точно, що там немає цивільного населення і ви точно знаєте, що вам потрібно стримувати ворога. От в такій ситуації на мою думку, може бути автономність стовідсоткова. Тобто турель автоматично відпрацьовує на ураження, тому що немає фактора ризику, коли у вас здійснюється певна операція. Ми ж розуміємо, що системи все-таки можуть помилятися.

Друга ситуація – це історія про наявність людини в циклі, яка безпосередньо бачить рекомендації системи, бачить сценарії взаємодії, але вона приймає кінцеве рішення чи щодо ураження цілі, чи щодо того чи іншого сценарію.

Оце дві дуже різні ситуації, і, відповідаючи на ваше питання, знову ж таки підкреслю, що все залежить від ситуації. Треба розуміти, в яких ситуаціях ми можемо дозволити 100% або близьку до 100% автономність.

Вона буде існувати, ми вже йдемо дуже стрімко до того процесу. Питання в тому, як ми тією автономністю будемо управляти. Для того, аби мінімізувати ризики в першу чергу для нас.

ВВС: Чи може штучний інтелект помилятися і наскільки це є великою проблемою для людства?

Д.Ц. Чи може людина помилятися?

ВВС: Людина може, звичайно.

Д.Ц. Штучний інтелект теж може.

ВВС: Але ж ми вважаємо, що він краще за людину.

Д.Ц. О, це цікава теза з вашої сторони. Я думаю, що найкраща комбінація – це взаємодія людини та штучного інтелекту.

Навчання штучного інтелекту дуже подібне насправді до навчання людини. Тобто, по суті є певний матеріал, який машина може засвоїти, і вона може діяти відповідно до розуміння того матеріалу, опираючись на нього. Або опираючись на певний досвід. Він може бути різний, бо досвід здобувається в реальних ситуаціях.

Тому в ситуаціях і в кейсах, коли щось є новим для ШІ, звичайно він буде опиратися на свій досвід, який в нього існує. Але, так, є схильність до помилки, це цілком нормально. Власне, оці помилки є основним фактором, чому людина має бути залучена в процес.

Які дані Україна передає Заходу

ВВС: Ок, повернемось трошки назад до цієї бази даних, до, як ви сказали, цифрового поля бою. Лунає думка, і в принципі вона цілком обґрунтована, що це ледь не найбільший і найякісніший ресурс, який має Україна зараз. І який не має жодна інша держава у світі. Але, коли хтось має щось цінне, то інші хочуть отримати доступ до цього. Отож, чи мають іноземні партнери повний доступ до цих даних з поля бою, якими володіє Україна? Чи вони долучені до аналізу, до навчання ШІ на цих даних?

Д.Ц. По-перше, це дійсно факт, що в епоху розвитку штучного інтелекту і технологій саме наявність даних є, я б сказав, однією з найвагоміших конкурентних переваг, особливо в оборонній сфері.

Власником цих даних є Україна, вони належать державі, тому я тут зразу хочу сказати, що коли ми говоримо про можливість партнерів використати дані для навчання своїх систем, то в першу чергу ми говоримо про лише певні набори даних, які ми вважаємо доцільними показати. Ми не говоримо про те, що передаємо повністю всі дані. Вони як конкурентна перевага мають залишатися за Україною. Але ми готові ділитися досвідом, і ми готові працювати в форматі win-win.

Коли мова йде про наших партнерів, ми розуміємо, що вони теж мають чудовий досвід в технологіях ШІ, але вони не можуть адаптовувати ці технології штучного інтелекту саме до використання на полі бою. Тому є окремі набори даних з загального обсягу інформації, до яких ми можемо надавати доступ.

Доступ надається через середовища, які створені власне на стороні України. Є чудові ініціативи як Avengers і Brave1 Data Room, коли країни-партнери можуть отримати доступ до певних наборів даних, для того, аби навчити системи їхнього комп'ютерного зору.

Знову ж таки ми не передаємо їм "сирі дані", ми даємо доступ до нашого контрольованого середовища. Зі своєї сторони ми отримуємо можливість використовувати ті натреновані моделі ШІ, які створюються нашими партнерами у цілях і інтересах України, при тому всьому, що знову ж таки наголошую, що всі дані залишаються в Україні і власником даних є Україна.

ВВС: Як це виглядає на практиці? Наприклад, до Києва приїжджав нещодавно керівник відомої американської мілтек-компанії Palantir Алекс Карп. Ми йому дали зображення цифрове, наприклад, нового російського танку, а він нам що дає?

Д.Ц. Давайте трішки поясню: якщо ми говоримо про Palantir, то ми говоримо взагалі про ціле комплексне рішення, яке дозволяє опрацьовувати великі масиви даних на існуючих моделях штучного інтелекту.

Це означає, що ми використовуємо ці системи ШІ, але це не означає, що ми віддаємо всі свої дані для навчання цих моделей штучного інтелекту, які працюють як ядро в цій системі. Тобто це два різних поняття, і треба їх розділяти. Чи використовуємо і співпрацюємо ми з цією компанією? Так, вона надає підтримку Україні. Чи передаємо ми дані? Ні, ми не передаємо дані.

Але тут важливо розуміти, що є, наприклад, спільна ініціатива на базі Brave1 DataRoom у співпраці з Palantir, де створене певне середовище, у яке виробники можуть зайти та брати певні набори даних і навчати моделі ШІ.

ВВС: Оцей "невеликий обсяг даних", до яких Україна дає доступ для навчання ШІ, це загалом що? Це зображення російської техніки?

Д.Ц. Певні набори відеоматеріалів, відеоданих, на яких зображені ті чи інші засоби. І саме ці дані є корисними для того, щоб, наприклад, виробники мали можливість навчати моделі, які потім використовуються на полі бою.

Якщо провести аналогію, то це як створити певну пісочницю, у якій є певний будівельний матеріал, а навколо є величезна пустеля. Але до пісочниці в даному випадку надається доступ виробникам, і вони можуть взаємодіяти з нею для того, щоби навчати свої моделі.

ВВС: Цікаво, а з паном Еріком Шмідтом (колишній СЕО Google, нині голова американської компанії з виробництва БПЛА, зокрема Hornet) як відбувається взаємодія? Бо він теж виявляє неабиякий інтерес до українських даних, до української армії, до штучного інтелекту.

Д.Ц. Я скажу так, що ми максимально відкриті до всіх партнерів і в нас є велика кількість тих, які проявляють інтерес в частині підтримки України і в частині створення можливостей для того, щоби перемогти ворога. У тому числі це стосується Еріка Шмідта, про якого ви щойно згадали.

Як ШІ планує бойові операції

ВВС: На мою думку, однією з основних або з ключових функцій ШІ є прогностична. Якщо ми маємо великий масив даних і маємо штучний інтелект, який може їх аналізувати і робити певні висновки, то ми можемо скласти прогноз розвитку тієї чи іншої ситуації. Чи може ШІ на основі українських даних спрогнозувати подальший хід бойових дій, військових операцій окремих або загалом хід війни?

Д.Ц. Цікаве запитання, і в ньому багато ключових аспектів насправді.

Ми говоримо про те, що в найближчому майбутньому – три чи п'ять років – мова йтиме про війну операційних систем. Тобто не просто про якесь епізодичне використання того чи іншого зображення чи ситуативного прийняття того чи іншого рішення, мова йде про те, як побудувати такого типу систему, яка б дозволяла аналізувати цілісно поле бою на всіх управлінських рівнях, дозволяла б швидко приймати рішення.

Це і про найшвидший спосіб планувати місію, підбирати засоби ураження і контролювати їх, якщо мова йде про автономні засоби ураження на полі бою. Це по суті такий великий один цілісний організм, операційна система. Це швидше про програмне забезпечення, ніж просто про "залізо". Тобто парадигма і концепт конкурентної переваги на полі бою якраз зміщується в сторону наявності такої операційної системи, яка цілісно буде розуміти всю ситуацію і дуже швидко допомагати приймати рішення.

Тут мова йде про те, а як же пришвидшити цей процес.

Це означає, що машина має тобі надавати і моделювати певні типи сценаріїв, які будуть враховувати величезну кількість факторів, починаючи від даних, які стосуються розвідки, розуміння засобів, які є у твоєму розпорядженні, і до розуміння наслідків ураження тієї чи іншої цілі, вибору, правильності цілі.

Машина може, опираючись на інформацію, пропонувати певні варіанти. Це ми говоримо якраз власне про прогностичні підходи. І це ширше поняття, ніж просто ідентифікація якогось можливого майбутнього ризику в роботі з конкретним напрямком.

Мова йде про ширший підхід, який буде дозволяти мультидоменно розуміти поточну ситуацію і прогнозувати майбутнє. До цього власне все йде. І це також буде давати розуміння обґрунтування і прозорість пропонованого того чи іншого рішення.

ВВС: Україна над цим працює, ваш центр над цим працює - над цією операційною системою?

Д.Ц. Тут поставимо три крапки…Але, звичайно, це один з пріоритетних напрямків.

ВВС: Ви сказали про термін 3-5 років для цього, вірно?

Д.Ц. Чи використовується штучний інтелект зараз при прийнятті того чи іншого рішення? Так, використовується. В тому чи іншому домені, в тих чи інших операціях є окремі засоби ШІ, які дозволяють швидко і краще аналізувати інформацію, краще планувати ту чи іншу місію.

Тобто я б сказав, що ШІ вже активно використовується.

Термін 3-5 років стосується використання цілісних операційних систем, і це про протистояння цих операційних систем на полі бою в глобальному контексті. Найпотужніші держави світу зараз також розуміють, що велика перевага оборонного комплексу буде залежати від наявності таких операційних систем, які будуть дозволяти вам захищати вашу країну.

ВВС: Наскільки я пам'ятаю, не так давно йшла мова про розробку в Україні так званого ШІ-помічника для стратегічного командування, для офіцерів. Це саме той помічник, який дозволятиме аналізувати сплановані операції і визначити, які з них мають більше шансів на успіх, а які – ні?

Д.Ц. Дивіться, в деталі поки що не будемо вдаватися щодо продуктових рішень, але в загальному, так, мова про наявність механізму, який ми можемо називати по-різному: помічник, асистент, copilot.

Суть лишається одна, це побудова рішення, яке буде персонально на різних управлінських рівнях - чи то міністр, чи то командир підрозділу, який безпосередньо здійснює ту чи іншу операцію - давати можливість використовувати певний ШІ- інструмент, який дозволятиме тобі швидко аналізувати дані, швидко приймати рішення, в тому числі здійснювати можливість прогнозування певних варіацій тих рішень.

Рій дронів

ВВС: Коли почався цей сплеск і розвиток бойового ШІ, було достатньо популярним питання створення так званого рою дронів, які б самі між собою комунікували. Але наскільки я розумію, досі ніхто так і не зробив такої ефективної і працюючої моделі. Чому?

Д.Ц. Давайте почнемо з того, що це не найлегше завдання.

Але ми чітко знаємо гравців на нашому українському ринку, які глобально демонструють, що вже є конкретні результати у перших спробах щодо ефективності роботи рою дронів.

ВВС: Це саме українські виробники, вірно?

Д.Ц. Так, українські компанії мають вже певні результати в пілотуванні таких рішень і використанні роїв дронів.

ВВС: Це в тестових чи бойових умовах?

Д.Ц. Наразі в пілотних умовах. Не буду надавати деталі, але і в окремих тестових операціях.

Мова йде про те, що такі прецеденти уже є. Питання в тому, коли ця технологія визріє для того, щоб її повноцінно впроваджувати на полі бою.

Насправді про рої дронів говорять усі і особливо, коли говорять про автономність, про те, яким чином автономність має виглядати в майбутньому. Усі стараються розв'язати це питання.

Переконаний, що Україна буде однією з перших країн, яка розв'яже це питання, знову ж таки через наявність певного бойового досвіду і можливості пілотування таких рішень в реальних умовах.

Але наразі ми лише йдемо до використання роїв дронів саме в ряді операцій. Ми ж говоримо про автономні рої дронів, де штучний інтелект керує декількома засобами, які націлені на виконання певного завдання, і штучний інтелект пропонує автономні сценарії їхньої взаємодії, наприклад, для знищення, захоплення певної цілі тощо.

Це знову ж таки питання часу і зрілості технології, але в найближчому майбутньому ми зможемо вже побачити реальні приклади та кейси в бойових умовах.

ВВС: А "найближче майбутнє" - це які часові рамки? Це можливо до кінця поточного року, наприклад?

Д.Ц. Я переконаний, що до кінця цього року це мало би відбутися.

ВВС: За задумом це має бути достатньо ефективна зброя.

Д.Ц. Більше того це зброя, яка, по-перше, дозволяє дуже швидко приймати рішення на полі бою.

Друге, що важливо, кількість людей, які необхідні для оперування таким роєм дронів суттєво зменшується внаслідок тих причин, що по суті лише одна або декілька осіб можуть як керувати одразу цілим роєм з великою кількістю девайсів, так і приймати рішення щодо виконання того чи іншого сценарію на полі бою.

Тому це теж величезна конкурентна перевага.

Чи небезпечний ШІ

ВВС: Ми говорили про помічність, про ефективність штучного інтелекту, але цікава ваша думка, наскільки легко його обманути?

Д.Ц. Я відповім риторичним питанням: наскільки легко обманути людину, в якої велика кількість досвіду і в якої великий багаж знань?

ВВС: Вочевидь не дуже легко.

Д.Ц. Та сама історія зі штучним інтелектом.

Тут питання інакше: наскільки ШІ схильний помилятися в тих чи інших складних рішеннях. А одним з факторів, через які він може помилятися, є саме те, як його обманути, як створити такі обставини, такі умови, в яких би він не міг прийняти рішення.

Це все буде робити складніше і складніше, але в цьому і є весь сенс створення реально контрольованих систем штучного інтелекту, які будуть точно взаємодіяти і які будуть безпечними для тих, хто їх контролює.

ВВС: Але загалом ви вважаєте штучний інтелект небезпечним в теорії чи це завжди буде щось контрольоване людиною? Чи може він вийти з-під контролю, просто кажучи?

Д.Ц. Це ми говоримо вже про якісь кінематографічні сюжети.

Я переконаний в тому, що ця технологія має бути контрольована. Як і будь-яка інша технологія.

Чи має ця технологія ризики? Так, має. Чи порівнюють цю технологію з ядерною зброєю? Порівнюють.

Чи наука атома може приносити, наприклад, користь людині і нести певну небезпеку, якщо недбало з нею поводитись? Ми знаємо приклади, що це так.

Я би сприймав ШІ як супер проривну технологію, яку потрібно опановувати, працювати з нею, контролювати, але водночас потрібно розуміти ризик, який вона може нести та питання в тому, що ми повинні знати і вміти його контролювати.