Інструменти розмовного штучного інтелекту (ШІ) можуть незабаром “таємно впливати” на рішення користувачів у новій комерційній сфері, названій “економікою намірів”, – попереджають дослідники Кембриджського університету в статті, опублікованій у понеділок.
Дослідження стверджує, що потенційно “прибутковий, але тривожний” ринок, який виникає для “цифрових сигналів наміру”, може в найближчому майбутньому впливати на все – від купівлі квитків у кіно до голосування за політичних кандидатів.
Наша зростаюча знайомість із чат-ботами, цифровими репетиторами та іншими так званими “антропоморфними” ШІ-агентами сприяє появі цього нового ряду “технологій переконання”, додається у статті.
Це призведе до того, що ШІ поєднуватиме знання про наші онлайн-звички із дедалі більшими можливостями розуміти користувачів, передбачати їхні бажання та формувати “нові рівні довіри та розуміння”, зазначають два автори статті.
Без належного контролю це може дозволити здійснювати “соціальну маніпуляцію в промислових масштабах”, стверджують дослідники з Центру майбутнього інтелекту Левергульма (LCFI) Кембриджського університету в статті, опублікованій у Harvard Data Science Review.
Характеристика економіки намірів
Дослідники описують, як ця нова сфера – “економіка намірів” – буде профілювати увагу користувачів та їхні комунікативні стилі, пов’язуючи їх із моделями поведінки та виборами, які вони здійснюють.
“Інструменти ШІ вже розробляються для виявлення, передбачення та, зрештою, маніпулювання людськими планами й намірами”, – зазначив співавтор дослідження Якуб Чаудхарі.
Нові технології ШІ спиратимуться на великі мовні моделі (LLMs) для таргетування користувачів, враховуючи їхній стиль спілкування, політичні погляди, вік, стать, історію онлайн-активності й навіть переваги щодо похвали.
Співавтор Джонні Пенн застерігає: “Якщо не регулювати, економіка намірів перетворить ваші мотивації на нову валюту”.