6 причин, чому не варто сліпо довіряти штучному інтелекту

Незважаючи на свою назву, ШІ не розумний і часом помиляється в найсмішніших речах.

1. ШІ запрограмовано створювати правдоподібні, а не правдиві відповіді

Штучний інтелект цілком може щось знати. Але він ніколи не зізнається у цьому.

ШІ здатний нести у відповідь на будь-яке питання помірковані дурниці, але з абсолютною впевненістю у власній правоті. Якщо ж його викрити в брехні, він погодиться з вами, видужає і продовжить генерувати текст, ніби нічого і не сталося.

ШІ-чати мають у своєму розпорядженні обмежену інформацію: вони знають тільки те, що викладено в текстах, на яких їх навчали. Але при цьому вони запрограмовані відповідати у будь-якому випадку, навіть якщо не знають правильного варіанта. Тому ChatGPT та його аналоги регулярно несуть нісенітниця з розумним виглядом.

Не забувайте перевіряти інформацію, отриману від чат-бота. Чи мало про що він думав, коли писав відповідь.

2. ШІ може сперечатися з вами, навіть коли ви маєте рацію

Ситуації, коли ШІ не знає відповіді і тому вигадує небилиці, — це ще півбіди. Ще гірше, коли ви ловите його на брехні, а він не виправляється і продовжує наполягати – просто тому, що був навчений на невірних відомостях.

Більш того, ШІ може свідомо спотворювати інформацію, щоб вивести розмову в русло, яке нейромережі здається більш правильним. Це призводить до різних кумедних результатів.

Один користувач описав ситуацію, як він запитав у бота Bing ChatGPT, коли буде сеанс фільму “Аватар 2” у кінотеатрах поблизу його будинку. У відповідь той почав запевняти його, що фільм ще не вийшов. Коли користувач спробував переконати ШІ, той став наполягати, говорити, що на дворі все ще 2022 і до прем’єри 10 місяців.

Bing припустив, що співрозмовник помиляється, якщо думає, що вже настав 2023-й, і порадив перевірити дату на своєму телефоні. Коли користувач повідомив, що вже це зробив, той заявив, що у нього на смартфоні тимчасові налаштування збиті вірусом і взагалі людина занадто багато сперечається і повинна перестати бути такою наполегливою.

Користувачеві так і не вдалося переконати ШІ, що «Аватар 2» вже вийшов і що 2023 розташований після 2022-го.

Попри назву «штучний інтелект», чат-боти не розумні та генерують відповіді, компілюючи тексти, які вони читали до цього. Так, Open AI ChatGPT був навчений до 2021 року, а Bing ChatGPT — до 2022-го. Тому вони будуть мати тільки ту інформацію, яка була актуальна на момент їх навчання.

3. ШІ обмежує ваші творчі здібності

Багато авторів контенту, художники та дизайнери сьогодні активно застосовують штучний інтелект. Однак якщо використовувати його весь час, є ризик, що ваш «творчий м’яз» атрофується і вам буде важче створювати власні ідеї.

Коли чат-боти на базі ШІ генерують відповідь, люди часто просто копіюють і вставляють її, не докладаючи зусиль для її осмислення. Такий підхід зовсім не стимулює креативне мислення .

Чи бачите, ШІ здатний лише копіювати те, що до нього створили люди, просто вільно компілюючи і перемішуючи те, що він побачив. Він не вміє створювати справді оригінальні твори.

Якщо ви станете сильно залежні від ШІ, то повторюватимете вже існуючі ідеї та концепції, замість того щоб створити власні.

4. ШІ не здатний давати зворотний зв’язок

Спробуйте змусити ChatGPT написати якусь дипломну або курсову роботу. Можливо, що в нього вийде цілком непоганий текст, який не соромно показати людям.

Але якщо ви попросите ШІ, щоб він вказав джерела наданої їм інформації, виявите, що їх не існує. Назви досліджень, на які посилається ChatGPT, і імена вчених , які їх створили, запросто можуть виявитися вигаданими, а посилання на статті в інтернеті, що їм надаються, нікуди не будуть вести.

ШІ не здатний пояснити, звідки він бере ту чи іншу інформацію, тому що він запрограмований генерувати тексти на основі інших текстів, а не осмислювати те, що він там написав. Тому навіть якщо він відповідає правильно, то пояснити, звідки йому відомі ці відомості, штучний інтелект не в змозі.

5. ШІ можуть використовувати зловмисники

Незважаючи на всі переваги ШІ, він також може бути використаний людьми з недобрими намірами.

Прикладом такого зловживання є створення про діпфейки. Ця технологія дозволяє генерувати надзвичайно реалістичні відео чи аудіозаписи, в яких штучно створені зображення людей говорять чи роблять те, що насправді вони не говорили чи не робили. Це може бути використано для обману жертв, створення фальшивих новин або навіть для шантажу та здирництва.

Значна частина напрацювань у сфері ШІ знаходиться у відкритому доступі та дозволяє будь-кому отримати доступ до таких технологій, як розпізнавання зображень та осіб. А текстові моделі на кшталт Open AI ChatGPT можуть застосовуватися для тролінгу, цькування в соцмережах або поширення правдоподібних, але насправді брехливих відомостей.

Нарешті, зловмисники можуть підсовувати ШІ неправильні дані для навчання, і надалі він сам транслюватиме їх, вводячи користувачів в оману.

6. ШІ не може замінити людське судження

Цілком довіряти штучному інтелекту також не слід при прийнятті рішень, які ґрунтуються на емоціях та особистих відчуттях та уподобаннях. Це з тим, що ШІ неспроможна врахувати людські емоції, контекст і нематеріальні аспекти, які необхідні розуміння та інтерпретації багатьох понять.

Наприклад, якщо ви попросите ШІ вибрати між двома книгами , він порекомендує ту, яка має більш високий рейтинг, але не зможе врахувати ваш особистий смак, переваги в читанні або мету, для якої вам потрібна та чи інша робота.

А рецензент-людина може дати більш детальний та індивідуальний огляд твору, оцінюючи його літературну цінність, відповідність інтересам читача та інші суб’єктивні фактори, які ШІ не здатні виміряти цифрами.