OpenAI має на меті з’єднати суперінтелект з людськими намірами

Суперінтелект, технологія, яка може революціонізувати людство, викликає страх і тривогу. OpenAI, провідна дослідницька організація, вважає, що поява суперінтелекту ближче, ніж ми можемо думати, можливо, протягом цього десятиліття. Усвідомлюючи величезну потужність і ризики, пов’язані з цією технологією , OpenAI запустив амбітну ініціативу, щоб узгодити суперінтелект з людськими намірами.

Очікується, що технічні проблеми будуть вирішені протягом наступних чотирьох років

Завдання полягає в тому, щоб системи штучного інтелекту , які набагато перевершують людський інтелект, залишалися узгодженими з нашими цінностями та цілями. Сучасні методи, як-от навчання з підкріпленням за допомогою зворотного зв’язку людини, не дають результатів у застосуванні до суперінтелекту. OpenAI визнає необхідність нових наукових і технічних проривів для вирішення цієї критичної проблеми.

Щоб вирішити цю проблему, OpenAI створює автоматизований дослідник вирівнювання з можливостями, які можна порівняти з людським рівнем розуміння. Використовуючи передові системи штучного інтелекту для оцінки та контролю за іншими системами штучного інтелекту, OpenAI прагне розробити масштабовані методи нагляду та узагальнення. Перевірка узгодженості систем штучного інтелекту включатиме автоматизацію виявлення проблемної поведінки та інтерпретацію внутрішньої роботи цих моделей.

Шлях до вирівнювання суперінтелекту не позбавлений труднощів. OpenAI планує провести стрес-тестування свого конвеєра вирівнювання, навмисно навчаючи неузгоджені моделі та гарантуючи, що їхні методи можуть виявляти та пом’якшувати такі розбіжності. Очікується, що пріоритети досліджень змінюватимуться, оскільки OpenAI отримає глибше розуміння проблеми, і співпраця з експертами з різних дисциплін буде мати вирішальне значення.

Віддана команда OpenAI, яка складається з провідних дослідників та інженерів машинного навчання, на чолі з Іллею Суцкевером і Яном Лейке, прагне вирішити основні технічні проблеми вирівнювання суперінтелекту протягом наступних чотирьох років. Хоча успіх не гарантований, їхній оптимізм випливає з багатообіцяючих попередніх експериментів, вимірного прогресу та залучення блискучих умів у цій галузі.

Зусилля OpenAI виходять за межі вирівнювання суперінтелекту. Вони продовжують покращувати безпеку поточних моделей ШІ та активно вирішують ширші суспільні проблеми, пов’язані з ШІ. OpenAI вітає внесок видатних дослідників та інженерів у цю важливу справу, визнаючи важливість досвіду машинного навчання у пошуку рішень.