Microsoft представила Phi-3 Mini, свою нову легку модель штучного інтелекту, першу з трьох анонсованих малих моделей в сімействі Phi-3.
Phi-3 Mini має лише 3,8 мільярда параметрів, що значно менше, ніж великі мовні моделі, такі як GPT-4. Однак, за заявою Microsoft, незважаючи на компактні розміри, новинка майже така ж потужна, як і GPT-3.5.
За словами Еріка Бойда, віце-президента Microsoft Azure AI Platform, Phi-3 Mini має схожі можливості з великими мовними моделями, “просто в меншому форм-факторі”.
У майбутньому компанія також планує випустити Phi-3 Small з 7 мільярдами параметрів і Phi-3 Medium з 14 мільярдами параметрів. Малі моделі мають кілька переваг – вони дешевші в експлуатації та краще працюють на персональних пристроях.
За словами Бойда, Phi-3 Mini навчався за своєрідною “навчальною програмою”, натхненною дитячими книжковими методами навчання з простими структурами речень, поступово переходячи до більш складних понять.
Хоча компактні моделі не можуть зрівнятися з більшими за обсягом знань, їх достатньо для багатьох популярних завдань, таких як конспектування текстів, допомога в програмуванні або створення чат-ботів.
Phi-3 Mini вже доступний у кольорах Azure, Hugging Face та Ollama. Більші версії з’являться пізніше.