Новий продукт Microsoft зі ШІ схожий на антиутопічний кошмар

Це були важливі дні для Microsoft. На щорічній конференції Build, що проходила з 21 по 23 травня в Сіетлі, було зроблено безліч оголошень про майбутні технології, багато з яких стосувалися інтеграції штучного інтелекту в майбутні пристрої. Але є одна заява, яка вже встигла стати суперечливою – і навіть може спричинити юридичні проблеми для компанії.

Функція “Відкликання” зі штучним інтелектом, яку Microsoft рекламує як “досліджувану хронологію минулого вашого комп’ютера”, з моменту її появи викликала здивування як у експертів, так і у звичайних користувачів – і це зрозуміло, адже вся її фішка полягає в тому, щоб буквально кожні кілька секунд робити скріншоти активного екрану і зберігати їх локально. Потім програма зможе шукати за цими скріншотами, а також за всіма минулими діями користувача – файлами, фотографіями, електронними листами, історією відвідувань тощо.

Це, як сказав Бі-Бі-Сі радник з питань штучного інтелекту і конфіденційності доктор Кріс Шрішак, потенційний “кошмар для приватності”.

“Сам факт того, що під час використання пристрою будуть робитися скріншоти, може мати страхітливий ефект на людей”, – сказав Шрішак. “Люди можуть уникати відвідування певних веб-сайтів і доступу до документів, особливо конфіденційних, коли Microsoft робить скріншоти кожні кілька секунд”.

Тим часом у Microsoft наголошують, що існують певні запобіжники: конфіденційність була “вбудована […] у дизайн Recall з самого початку”, і користувачі можуть обмежити час створення скріншотів, заявляють у компанії.

“Знімки Recall зберігаються […] на локальному жорсткому диску і захищені за допомогою шифрування даних на вашому пристрої”, – заявляє компанія. “Знімки екрана Recall пов’язані лише з певним профілем користувача, і Recall не ділиться ними з іншими користувачами, не робить їх доступними для перегляду Microsoft і не використовує їх для таргетування реклами […] Знімки екрана Recall недоступні для інших користувачів і не доступні для інших додатків або служб”.

Звучить заспокійливо – але експерти з безпеки не переконані. Сама Microsoft зазначає, що конфіденційна інформація, така як паролі та номери фінансових рахунків, не буде прихована на скріншотах; тому комп’ютер, на якому налаштування конфіденційності Recall налаштовані неправильно, або який став мішенню для шкідливого програмного забезпечення, або просто вийшов з ладу, може становити загрозу безпеці в масовому масштабі.

“Для злочинців це одномоментна атака”, – сказав TechRadar Мухаммад Яхья Патель, провідний інженер з безпеки Check Point.

“[Це] як схопити і піти, але з Recall вони матимуть все в одному місці [вашій базі даних знімків екрану], – сказав Патель. “Уявіть собі золоту жилу інформації, яка буде зберігатися на комп’ютері, і що з нею можуть зробити зловмисники”.

Насправді, настільки тривожними є питання навколо Нагадаємо, що Microsoft вже потрапляла в юридичні неприємності – принаймні, у Великобританії, де Офіс комісара з питань інформації (ICO), національний орган захисту даних, який підпорядковується безпосередньо парламенту, оголосив, що “робить запити в Microsoft, щоб зрозуміти, які гарантії існують для захисту конфіденційності користувачів”.

“Ми очікуємо, що організації будуть прозорими з користувачами щодо того, як використовуються їхні дані, і оброблятимуть персональні дані лише в тій мірі, в якій це необхідно для досягнення конкретної мети”, – йдеться в заяві, опублікованій у середу. “Промисловість повинна враховувати питання захисту даних з самого початку, а також ретельно оцінювати і зменшувати ризики для прав і свобод людей перед виведенням продукції на ринок”.