З розвитком технологій автономні системи — від самокерованих автомобілів до роботів-доставників і «розумної» інфраструктури — стають все поширенішими. Їхня ефективність залежить від взаємодії та обміну інформацією між багатьма пристроями. Але як машині вирішити, які дані справді достовірні, перш ніж діяти?
Дослідники з Harvard John A. Paulson School of Engineering and Applied Sciences запропонували концепцію cy-trust — модель, яка дозволяє роботам і автомобілям оцінювати довіру до інформації й підвищує безпеку мереж автономних агентів, повідомляє NNews із посиланням на IEEE.
Суть підходу — кількісна оцінка надійності. Кожен агент присвоює джерелу даних числове значення від 0 до 1, яке показує, наскільки йому можна довіряти. На основі цієї оцінки система визначає, наскільки впливові ці дані для прийняття рішень. Традиційні методи кібербезпеки контролюють доступ до систем, але не враховують реальні рішення в реальному часі в динамічних мережах із кількома автономними агентами.
Як пояснює один із авторів дослідження Гіл, «автономні системи стають всюдисущими. Питання в тому, як їх захистити й забезпечити стійкість у реальному світі».
Проблема критична: один зламаний автомобіль або робот може дезінформувати всю мережу, що призведе до небезпечних ситуацій. Наприклад, підроблені дані про затори можуть направити інші машини небезпечним маршрутом, а помилкова інформація робота-рятувальника — залишити зони без нагляду.
Щоб уникнути таких ризиків, системи повинні перевіряти дані власними сенсорами — камерами, радарами, GPS та лідарами — і порівнювати їх із зовнішніми повідомленнями. Додатково алгоритми обробки сигналів допомагають визначити, чи повідомлення надійшло від реального джерела, а не від зловмисника, що маскується під кілька агентів.
У контрольних експериментах з групами роботів і симульованими атаками cy-trust дозволив агентам присвоювати нижчі оцінки підозрілим даним і ігнорувати їх. Система продовжувала працювати стабільно навіть за наявності ворожої поведінки.
Гіл порівнює це з психологічною довірою людини: «Це спосіб приймати ризик там, де повної інформації немає, але рішення потрібно ухвалювати».
Впровадження cy-trust має значення для майбутнього технологій: безпека флотів таксі, автоматизованих вантажівок і «розумних міст» залежить від надійної координації машин. Окрім технічних рішень, важливі також політики та регуляції, що формують довіру суспільства.
Новий підхід дозволяє автономним системам динамічно оцінювати та керувати довірою, роблячи їх безпечнішими й ефективнішими у реальному світі.
Чому це важливо:
Cy-trust допомагає уникати аварій і збоїв у мережах автономних машин, що особливо актуально для міст і транспортних систем майбутнього.