Генеральний секретар Організації Об’єднаних Націй (ООН) Антоніу Гутерріш застеріг світ від того, щоб штучний інтелект (ШІ) відігравав роль у прийнятті рішення про запуск ядерної зброї.
Виступаючи на засіданні Асоціації з контролю над озброєннями (ACA), Гутерріш попередив, що “людство стоїть на лезі ножа”, а ризик застосування ядерної зброї знаходиться на “висоті, небаченій з часів холодної війни”.
“Держави беруть участь у якісній гонці озброєнь, – сказав Гутерріш у своєму зверненні. “Такі технології, як штучний інтелект, примножують небезпеку, знову з’явився ядерний шантаж, дехто необачно погрожує ядерною катастрофою, в той час як режим, покликаний запобігти використанню, випробуванню та розповсюдженню ядерної зброї, слабшає. Дорогі друзі, ми потребуємо роззброєння зараз”.
Генеральний секретар закликав країни до роззброєння, а ті, що вже володіють ядерною зброєю, – до лідерства в цьому питанні.
“Я також закликаю Сполучені Штати і Російську Федерацію повернутися за стіл переговорів, повністю виконати новий договір СНО і домовитися про його наступника”, – продовжив він. “Доки ця зброя не буде ліквідована, всі країни повинні погодитися, що будь-яке рішення про застосування ядерної зброї приймається людьми, а не машинами чи алгоритмами”.
Хоча остання частина може звучати як далека загроза, автоматизація відігравала певну роль у Холодній війні.
Система “мертвої руки”, що забезпечувала ядерне знищення у випадку знищення командування Радянського Союзу ядерним вибухом, відстежувала сейсмічну активність, рівень радіації та атмосферний тиск на предмет ознак запуску ядерної зброї на території наддержави. Якщо система виявляла такий удар, вона перевіряла, чи були відкриті лінії зв’язку між вищими радянськими посадовцями.
Якщо так, то через 15 хвилин вона вимикалася, оскільки це означало б, що люди, які могли вирішити, чи завдавати удару, ще живі. Якщо лінії не працювали, повноваження на запуск ядерної зброї передавалися б операторам нижчого рівня системи “мертвої руки” в захищеному бункері, віддаючи долю світу в руки офіцера нижчого рівня і комп’ютерної системи.
Ця система так і не була активована, про що ви можете судити з того, що ви живі. Однак 26 вересня 1983 року з’явилася система виявлення ракет, яка виявила п’ять ядерних ракет, що прямували до Радянського Союзу. Радянський військовий офіцер Станіслав Петров, скептично поставившись до виявлення, відмовився повідомити радянське командування про нанесення удару у відповідь. Виявлення виявилося результатом відбиття сонячних відблисків від висотних хмар, що за супутниковими даними виглядало як потенційний удар.
Можливо, нам слід остерігатися автоматизації – за допомогою алгоритмів або штучного інтелекту – рішень, які можуть знищити людство. Якби це залежало від них, людство вже могло б бути знищене через хмари.
