AI Overviews від Google повертають дивні і навіть небезпечні результати
Google запустив огляди зі штучним інтелектом. І справи йдуть не надто добре. Минулого тижня функція була запущена в США, а до кінця 2024 року вона пошириться по всьому світу, але поки що результати свідчать про те, що це безлад. Користувачі в соціальних мережах поспішили вказати на кумедні відповіді, аж поки кілька людей не почали помічати, що серед них є й кілька тривожних.
AI Overviews – це експериментальний інструмент. Коли ви вводите запит, пошукові системи надають результат, згенерований штучним інтелектом. Однак алгоритми машинного навчання не є свідомими. Вони навчені розпізнавати слова і фрази в певних контекстах, тому, коли їх про щось запитують, вони створюють відповідь, яка, як очікується, відповідає запиту. Навіть якщо ШІ доводиться щось вигадувати. Наприклад, створювати фальшиві юридичні справи для адвоката.
AI Огляди Google отримують відповіді з реальних сайтів, але ШІ недостатньо розумний, щоб відрізнити серйозні відповіді від сатиричних чи гумористичних. Тож “новинні” сайти на кшталт The Onion чи соціальні мережі на кшталт Reddit дають комедійну поживу для нетямущого ШІ.
На питання “Скільки камінців я повинен з’їдати щодня?” Оверс впевнено заявляє, що, за даними геологів з Берклі, потрібно з’їдати щонайменше один невеликий камінчик на день. Це з книги “Цибуля”. На питання про те, як зробити так, щоб сир краще прилипав до піци, Овервьюз пропонує їстівний клей. Так, клей використовується в рекламі, щоб сир виглядав більш в’язким, але насправді це твердження походить з допису 11-річної давнини від redditor fucksmith. Будь ласка, не довіряйте fucksmith в цьому питанні.
У розмові з BBC News представник Google заявив, що ці інциденти були поодинокими. “Приклади, які ми бачили, як правило, є дуже рідкісними запитами і не є репрезентативними для більшості людей”, – йдеться в заяві.
Але все набагато менш смішно, ніж може здатися з цих прикладів. Система сприяє поширенню дезінформації. Вона стверджує, що Барак Обама був першим мусульманським президентом США. На жаль, це неправда – Обама є християнином-протестантом. Пошук в Google перераховує “переваги для здоров’я” куріння, а також те, як може бути корисним біг з ножицями. І як ми можемо не оцінити пропозицію пити власну сечу?
З огляду на такі шалені результати, знову з’явився інтерес до питання про те, в чому сенс штучного інтелекту. Google стверджує, що він “може позбавити вас від рутинної роботи з пошуку” – але якщо вам потрібно переконатися, що отримана інформація є точною, ви ризикуєте нав’язати дезінформацію людям, які не знають або не мають часу на перевірку джерел. Крім того, штучний інтелект залишає значний вуглецевий слід. Нещодавно повідомлялося, що компанія Microsoft, яка також робить ставку на ШІ, не змогла виконати свої обіцянки бути вуглецево-негативною через ШІ.
editor's note: that is not a yummy button mushroom
— Kana (@kanaraspberry.bsky.social) Apr 20, 2024 at 21:22
[image or embed]
У пораді про те, як почистити пральну машину, рекомендується використовувати хлорний відбілювач та оцет. У розгорнутій відповіді зазначено, що їх потрібно використовувати один за одним, але при цьому кричуще сказано про те, що їх не можна використовувати разом. При їх змішуванні утворюється газ хлор, який є отруйним.
Якщо говорити про отруйність, то штучний інтелект Google Gemini не набагато краще справляється з цим завданням. Нещодавно він переплутав гриб-руйнівник (Amanita bisporigera) з білим грибом-гудзиком. Це один з найнебезпечніших грибів у світі, який може руйнувати тканини печінки та нирок.
“Доктор Гугл” прийняв нову і небезпечну форму. Але і в цих порадах є частка гумору, все ще завдяки сатиричним сайтам. AI Огляди розкажуть вам, що їсти дупу корисно для здоров’я, роблячи вас ще менш сприйнятливими до застуди та грипу.
