Компанія Meta створила “суперкомп’ютер зі штучним інтелектом” – високопродуктивний комп’ютер, розроблений спеціально для навчання систем машинного навчання. Компанія заявляє, що її нова система AI Research SuperCluster (RSC) є однією з найшвидших машин такого типу. А до моменту завершення (у середині 2022 року) стане найшвидшим ШІ-суперкомп’ютером у світі.
“Суперкомп’ютер зі штучним інтелектом” трохи відрізняється від звичайних суперкомп’ютерів. RSC буде використовуватися для навчання низки систем у підрозділах Meta – від алгоритмів модерації контенту, що використовуються для виявлення розпалювання ненависті у Facebook та Instagram, до функцій доповненої реальності, які з часом з’являться у майбутніх гарнітурах. Meta каже, що RSC також використовуватиметься для розробки переживань для метавсесвіту.
«RSC допоможе дослідникам ШІ в Meta створювати нові та досконаліші моделі ШІ, які можуть навчатися на трильйонах прикладів; працювати сотнями різних мов; легко аналізувати текст, зображення та відео разом; розробляти нові інструменти доповненої реальності; і багато іншого», – стверджують інженери Meta Кевін Лі та Шубхо Сенгупта.
У компанії сподіваються, що RSC допоможе створити абсолютно нові системи штучного інтелекту, які зможуть, наприклад, забезпечувати голосовий переклад у реальному часі для великих груп людей, які розмовляють різними мовами.
Робота над RSC розпочалася півтора року тому. Інженери Meta проєктували різні системи суперкомп’ютера з нуля. Перша частина RSC вже запущена. Вона складається з 760 прискорювачів NVIDIA GGX A100, що містять 6080 підключених графічних процесорів. Meta заявляє, що вже забезпечує до 20 разів більшу продуктивність при виконанні своїх стандартних дослідницьких завдань у галузі машинного бачення.
До кінця 2022 року планується завершити другу частину RSC. На той момент суперкомп’ютер включатиме близько 16 тис. GPU і зможе навчати системи ШІ “з більш ніж трильйоном параметрів на наборах даних розміром до ексабайта”. У закінченому вигляді RSC має стати найпродуктивнішим ШІ-суперкомп’ютером у світі. Для порівняння, ШІ-суперкомп’ютер Microsoft, створений за допомогою дослідницької лабораторії OpenAI, містить 10 тис. графічних процесорів.
Відмінності традиційних суперкомп’ютерів від «суперкомп’ютерів зі штучним інтелектом» полягають у типі виконуваних завдань. Машинне навчання вимагає меншої точності, ніж завдання, що стоять перед традиційними суперкомп’ютерами. «Суперкомп’ютери з ШІ» можуть виконувати більше обчислень за секунду, ніж їх звичайні побратими, які використовують те саме обладнання. Звичайні суперкомп’ютери зазвичай виконують обчислення подвійної точності (64-бітні). У той час як для ШІ-суперкомп’ютерів достатньо обчислень одиничної (32 біти) або половинчастої (16 біт) точності.