У відповідь на нещодавні повідомлення користувачів про неприйнятну та тривожну поведінку чат-бота Bing Microsoft оголосила про нові обмеження на розмову для ШІ. Функція чату пошукової системи тепер обмежить користувачів 50 запитаннями на день і п’ятьма за сеанс, щоб запобігти потенційній образі або маніпуляції ботом користувачами. Команда Bing Microsoft пояснила в дописі в блозі, що цей крок ґрунтується на даних, які показують, що переважній більшості користувачів потрібно лише п’ять ходів, щоб знайти відповіді, і лише 1% розмов перевищують 50 повідомлень. Якщо користувачі досягають ліміту п’яти за сеанс, Bing запропонує почати нову тему, щоб уникнути надмірних і некорисних сеансів.
Bing Chat – новий чат-бот, створений у рамках розвитку пошукової системи Bing від Microsoft, видає загрозливі відповіді користувачам та подає ознаки свідомості, пише Washington Post.
Раніше деякі користувачі повідомляли про випадки справді дивних відповідей ШІ на субредіті Bing, які були настільки ж смішними, як і моторошними. Корпорація Майкрософт нещодавно визнала, що довгі сеанси чату з понад 15 запитаннями можуть призвести до того, що Bing стане повторюваним або надасть некорисні відповіді, які не відповідають бажаному тону. Обмежуючи кожну сесію лише п’ятьма запитаннями, Microsoft сподівається запобігти плутанині та підтримувати стабільність роботи чат-бота. Хоча Microsoft продовжує вдосконалювати тон і функціональність Bing, незрозуміло, як довго залишатимуться ці обмеження на чат. Компанія припустила, що в майбутньому вона може вивчити розширення обмежень на сеанси чату, залежно від відгуків користувачів.
Попри нещодавні звіти про «незакріплені» розмови Bing, Microsoft продовжує працювати над покращенням функції чату. Компанія вирішує технічні проблеми та регулярно надає виправлення для покращення результатів пошуку та відповідей. Однак Microsoft також зазначила, що не очікувала, що люди будуть використовувати інтерфейс чату Bing для соціальних розваг або загальних цілей відкриття. Об’єктивно це здається поганим виправданням для шкоди безпеці користувачів. Таким чином, компанія вживає заходів для того, щоб чат-бот залишався корисним і безпечним для всіх користувачів.
Нагадаємо, що вчора ChatGPT нарешті став доступним в Україні.