Джеффрі Хінтон, один з так званих “хрещених батьків” штучного інтелекту, в середу закликав уряди втрутитися і переконатися, що машини не візьмуть контроль над суспільством.
Хінтон потрапив у заголовки газет у травні, коли оголосив, що звільняється після десяти років роботи в Google, щоб вільніше говорити про небезпеки штучного інтелекту, невдовзі після того, як світ побачила програма ChatGPT, яка захопила уяву всього світу.
Високоповажний вчений у галузі штучного інтелекту, який працює в Університеті Торонто, виступав перед переповненою аудиторією на технологічній конференції Collision в канадському місті.
Конференція зібрала понад 30 000 засновників стартапів, інвесторів та працівників технологічного сектору, більшість з яких хотіли дізнатися, як осідлати хвилю ШІ, а не почути урок про його небезпеку чи заклик до втручання уряду.
“Перш ніж ШІ стане розумнішим за нас, я вважаю, що людей, які його розробляють, слід заохотити докласти чимало зусиль, щоб зрозуміти, як він може спробувати відібрати контроль”, – сказав Хінтон.
“Зараз 99 дуже розумних людей намагаються зробити ШІ кращим, а одна дуже розумна людина намагається з’ясувати, як не дати йому захопити владу, і, можливо, ви хочете бути більш збалансованими”, – сказав він.
Хінтон попередив, що до ризиків, пов’язаних зі штучним інтелектом, слід ставитися серйозно.
“Я думаю, що важливо, щоб люди розуміли, що це не наукова фантастика, це не просто нагнітання страху, – наполягав він. “Це реальний ризик, про який ми повинні думати, і ми повинні заздалегідь з’ясувати, як з ним боротися”.
Хінтон також висловив занепокоєння тим, що ШІ поглибить нерівність, оскільки величезний приріст продуктивності від його впровадження піде на користь багатіїв, а не робітників.
“Багатство не піде до людей, які виконують роботу, воно піде на те, щоб зробити багатих багатшими, а не бідних, а це дуже погане суспільство”, – додав він.
Він також вказав на небезпеку “фейкових новин”, створених ботами в стилі ChatGPT, і висловив сподівання, що контент, створений штучним інтелектом, можна буде маркувати так само, як центральні банки ставлять водяні знаки на готівкові гроші.
“Дуже важливо спробувати, наприклад, позначити все, що є фейком, як фейк. Чи зможемо ми зробити це технічно, я не знаю”, – сказав він.