Американські ВПС нещодавно витратили?

Американські ВПС інвестували до 8,700 мільйонів доларів у дослідження робототехніки та автономних систем, автономні можливості вже перестали бути концептуальним підтвердженням і перейшли у справжній стратегічний рівень.

Але коли автономні системи починають брати участь у військових рішеннях та їх виконанні, швидше та розумніше вже недостатньо. Без підтвердженої обчислювальної здатності автономних систем сама по собі є національним ризиком.

Якщо неможливо підтвердити, чи була модель замінена, чи не було змінено логіку, чи рішення виконуються згідно з встановленими правилами, то навіть найсучасніший робот — це просто чорна скринька, яку неможливо аудитувати. Логи та заяви виробників не можуть нести відповідальність військового рівня, одна помилка, яка не піддається переслідуванню, може мати незворотні наслідки.

Саме тому системи оборони, що мають автономні можливості, повинні ставити в центр уваги верифікацію. Не післяподії аналіз, а попередні обмеження; не вірити системі беззастережно, а мати можливість довести, що вона дійсно працює згідно з правилами!

У військових сценаріях, якщо автономність не захищена криптографічним підтвердженням як межою, її неможливо масштабувати та створити довгострокову безпекову перевагу. Дійсно надійна оборонна автономна система повинна базуватися на підтвердженій обчислювальній здатності, а не на припущеннях довіри.

Коли автономні системи стають базовою здатністю, важливо не лише довести, що вони зробили правильно, а й зробити їх роботу підтвердженою!