Компанія Google тимчасово зупинила функцію генерації зображень людей у своєму розмовному додатку Gemini, посилаючись на необхідність вдосконалення для забезпечення точності. Таке рішення було прийнято після відгуків користувачів, які вказували на неточності та образливі висловлювання у згенерованих зображеннях. Функція, що працює на основі ШІ-моделі Imagen 2, зіткнулася з проблемами при створенні відповідних і неупереджених зображень, що призвело до призупинення її роботи.
Google удосконалить ШІ для шанобливого й точного представлення
Google визнає ці проблеми, пояснюючи їх складнощами в налаштуванні моделі штучного інтелекту, щоб уникнути невідповідних або упереджених зображень, прагнучи до інклюзивності. Незважаючи на спроби пом’якшити проблеми, які спостерігалися в попередніх технологіях генерації зображень, ця функція зіткнулася зі значними перешкодами: іноді вона генерувала непотрібні зображення або ставала надмірно обережною, не генеруючи зображення для певних підказок.
Старший віце-президент Прабхакар Рагхаван пояснив, що мета полягає в тому, щоб вирішити ці проблеми за допомогою значних поліпшень і тестування перед тим, як знову зробити функцію доступною. Він також відзначив проблеми, пов’язані із забезпеченням надійності штучного інтелекту, особливо щодо чутливих тем, підкресливши постійні зусилля, спрямовані на підвищення точності технології.
Навіть публічні особи, зокрема Ілон Маск і лідер республіканців Вівек Рамасвамі, критикували цю функцію за створення зображень, які, на їхню думку, є історично неточними і расово нечутливими.
Призупинення є частиною ширших зусиль Google щодо відповідального розвитку технологій штучного інтелекту, визнаючи складності, пов’язані зі створенням креативних і точних систем штучного інтелекту. Компанія заявила, що старанно працює над вирішенням нещодавніх проблем і незабаром планує перевипустити покращену версію функції генерації зображень.
Google також рекомендує використовувати пошук Google для отримання найсвіжішої та найнадійнішої інформації, що надходить з широкого кола веб-ресурсів через різні системи.
