Використання голосів, згенерованих ШІ у автономних дзвінках тепер є незаконним у США

Переживаєте, що голоси, згенеровані штучним інтелектом, можуть бути використані для обману вас або ваших близьких по телефону? Федеральна комісія зі зв’язку США (FCC) 8 лютого ухвалила рішення, яке набуває чинності негайно, про те, що дзвінки роботів, які використовують голоси ШІ, підпадають під обмеження щодо “штучного або попередньо записаного голосу” відповідно до Закону про захист прав споживачів телефонних послуг (TCPA), який також обмежує дзвінки телемаркетингу та автоматичні системи телефонного набору.

“Це здається чимось з далекого майбутнього, але це вже тут. Інструменти клонування голосу та створення зображень на основі штучного інтелекту стали більш доступними і з більшою ймовірністю можуть бути використані для шахрайства”, – заявила голова FCC Джессіка Розенворсель (Jessica Rosenworcel).

Абоненти, які використовують голоси ШІ, повинні спочатку отримати згоду, перш ніж здійснювати неекстрені дзвінки, а те, що реальна людина вибирає згенеровані ШІ повідомлення для відтворення, “не скасовує чіткої законодавчої заборони на ініціювання дзвінка за допомогою попередньо записаного або штучного голосу”, – йдеться в декларативному рішенні. Як зазначає CNET, про такі дзвінки можна повідомити за допомогою форми на сайті FCC.

Ці дзвінки повинні містити ідентифікаційні дані та інформацію про особу, яка здійснює дзвінок. Якщо дзвінок підпадає під ознаки телемаркетингу або реклами, він також повинен пропонувати можливість відмовитися від нього.

“Ця технологія може збити нас з пантелику, коли ми слухаємо, переглядаємо і клікаємо, тому що вона може змусити нас думати, що всі види фальшивих матеріалів є законними, – продовжує Розенворсель. “Ми вже бачимо, як це відбувається з Томом Хенксом, який рекламує стоматологічні послуги в Інтернеті, з огидним відео за участю Тейлор Свіфт, а також із дзвінками від кандидатів на політичні посади, які покликані заплутати нас щодо того, де і коли голосувати”.

“У нас також є історії про бабусь і дідусів, які повірили, що це дійсно їхній онук телефонує і просить грошей, а потім дізналися, що це був поганий актор, який наживається на їхній готовності переслати гроші родині”.

“У січні потенційні виборці в Нью-Гемпширі отримали дзвінок, нібито від президента Байдена, який закликав їх залишитися вдома і “зберегти свій голос”, пропустивши праймеріз штату. Голос у дзвінку звучав як голос президента, але, звісно, це був не він. Це були дзвінки з клонуванням голосу”, – додав комісар Джеффрі Старкс. “Використання генеративного ШІ створило нову загрозу для схем придушення виборців і передвиборчої кампанії завдяки підвищеній вірогідності фальшивих дзвінків від роботів”.

Цей крок слідує за повідомленням про розслідування, розпочате в листопаді 2023 року, яке мало на меті краще зрозуміти вплив ШІ на захист споживачів від “небажаних і незаконних телефонних дзвінків і текстових повідомлень відповідно до закону TCPA”. Як виявилося, використання ШІ не призначене для зловмисників: Розенворсель пояснив, що ШІ може допомогти з розпізнаванням шаблонів для розпізнавання роботизованих дзвінків.

“Відповідальне та етичне впровадження технологій ШІ має вирішальне значення для досягнення балансу, гарантуючи, що переваги ШІ використовуються для захисту споживачів від шкоди, а не для посилення ризиків, з якими вони стикаються у все більш цифровому ландшафті”, – пояснила комісар Анна М. Гомес (Anna M. Gomez).

“Тепер, завдяки цьому декларативному рішенню, ми отримаємо ще один інструмент для боротьби з шахрайством, пов’язаним з клонуванням голосу, і приберемо це сміття з ринку”, – підсумував Розенворсель.