Microsoft зробила Aion Instruct вбудованою мовною моделлю Edge. Новину оголосили 19 листопада. Сайти зможуть використовувати її для роботи з текстом прямо на пристрої. Наприклад, редактор у браузері може запропонувати коротший варіант абзацу, не надсилаючи цей абзац до зовнішньої моделі.
Для користувача найпомітніший момент — перший запуск. Edge завантажує модель, коли вона потрібна сайту, розширенню чи функції браузера. Для розробників теж є зміна. Тепер Prompt API можна випробовувати на сайті, яким уже користуються відвідувачі.
Що робить Aion Instruct у браузері
Aion Instruct замінює Phi-4-mini як вбудовану малу мовну модель Edge. У неї 2,3 мільярда параметрів, а Microsoft також опублікувала її ваги на Hugging Face. Тобто розробники можуть окремо завантажити файли самої моделі, якщо хочуть працювати з нею поза Edge.
У браузері доступ до моделі дає Prompt API. Це спосіб для сторінки чи розширення передати моделі текстове завдання й отримати відповідь. Наприклад, із нотатки про зустріч можна зробити короткий підсумок. Сайт сам додає таку дію до свого інтерфейсу й вирішує, що показати, поки модель готує результат.
Під час локальної обробки відповідь обчислює пристрій, з якого ви відкрили сторінку. Для таких викликів сайту не потрібно платити за запит до хмарної моделі. Швидкість залежатиме від пристрою, а якість варто оцінювати на текстах, з якими люди справді працюватимуть.
Хороший приклад для початку — скоротити абзац, який користувач написав сам. У результаті можна одразу зіставити чернетку з оригіналом і помітити, якщо зникла дата чи змінилося число. Та сама модель у браузері не перевіряє джерела тільки тому, що текст виглядає впевнено. Для складнішого завдання сайт може запропонувати окремий режим.
Коли Edge завантажує модель і скільки місця потрібно
Edge зберігає модель на пристрої й може використовувати її для різних сайтів. Перший запуск тому може бути довшим. Якщо потрібні файли вже є, іншій сторінці, що використовує ту саму модель, не доведеться завантажувати їх заново.

Microsoft зазначає такі вимоги до пристроїв, на яких можна випробувати Prompt API.
| Параметр | Що вказує Microsoft |
|---|---|
| Платформа | Windows 10 або 11, macOS 13.3 чи новіша. Для Linux потрібні x64, драйвери Vulkan і Edge 159 чи новіший. |
| Диск | Принаймні 20 ГБ вільного місця на томі з профілем Edge. |
| Графіка | Графічний процесор із 3 ГБ відеопам’яті або більше. |
| Мережа | Edge завантажує модель через з’єднання без обмеження трафіку. |
20 ГБ — це вимога до вільного місця, а не оголошений розмір завантаження Aion. Якщо місця залишиться менш як 5 ГБ, Edge може видалити модель, щоб звільнити диск для інших функцій браузера. Тож на майже заповненому диску навіть раніше доступна функція може знову попросити завантажити модель після звільнення місця.
Під час тестування Microsoft радить відкрити edge://on-device-internals і подивитися, до якого класу продуктивності Edge відносить пристрій. Це допомагає відрізнити проблему з комп’ютером від проблеми на сторінці. Наприклад, відсутність моделі на одному ноутбуці ще не означає, що власник сайту неправильно підключив API.
Де вимкнути локальні моделі Edge
В Edge відкрийте Налаштування → Copilot and AI і знайдіть перемикач On-device AI. Після вимкнення браузер видаляє завантажені файли локальних моделей і припиняє їх майбутні завантаження. Сайти чи розширення, які покладалися на таку обробку, можуть втратити частину функцій.
Перемикач можна ввімкнути знову. Edge завантажить потрібну модель, коли до неї звернеться підтримувана функція і пристрій відповідатиме вимогам. У тестових каналах Beta, Dev і Canary локальний ШІ за замовчуванням вимкнений. Microsoft пояснює це тим, що кожен канал міг би тримати свою копію моделі на диску.
Як сайти можуть випробувати Prompt API
Раніше Microsoft пропонувала тестувати Prompt API у попередніх збірках Edge. Тепер є origin trial. Власник сайту реєструє адресу й отримує токен, який під’єднує до сторінок. У підтримуваному Edge це дає відвідувачам можливість спробувати функцію на звичайному сайті. Тест діє обмежений час, а вимоги до пристрою залишаються.
Перед запуском функції сайт може перевірити стан моделі через LanguageModel.availability(). Модель може бути готовою, доступною для завантаження, уже завантажуватися або бути недоступною. Для людини це означає різні повідомлення. Якщо завантаження вже почалося, корисно показати прогрес. Якщо модель недоступна, текст має залишатися доступним для ручного редагування.
Сайт також може сам під’єднати хмарну обробку для пристроїв без підтримки локальної моделі. У такому разі змінюється місце обробки. Наприклад, для чернетки, яку можна передати на сервер лише за згодою користувача, доцільно явно запитати про це, коли локальний варіант недоступний.
Що саме може працювати без інтернету
Після першого завантаження Aion може обчислити відповідь без доступу до інтернету. Сама вебсторінка все одно має бути відкритою або вміти працювати офлайн. Якщо для входу в редактор потрібен сервер, локальна модель не зробить цей вхід доступним без мережі. І якщо текст ще треба отримати з хмарного сховища, для цього також знадобиться з’єднання.
Локальність описує спосіб виконання запиту до моделі. У сторінки лишаються інші мережеві запити, наприклад збереження документа. Для відвідувача корисно, коли сайт окремо пояснює, де створюється підсумок і куди записується готовий текст. Це різні дії навіть тоді, коли їх запускає одна кнопка.
Коли потрібен Decisions API
У тому самому анонсі Microsoft показала експериментальний Decisions API. Він приймає перелік варіантів і оцінює, які з них відповідають тексту. Для звернення «Хочу дізнатися, чи вже відправили моє замовлення» це можуть бути категорії «Доставка», «Повернення» й «Оплата».
Сайт отримує оцінки варіантів і значення впевненості моделі. Якщо відповідь неоднозначна, можна залишити людині вибір категорії. Для чернетки відповіді на звернення краще підійде Prompt API. Інструкції Microsoft для Decisions API описують тестування в Edge Canary. Обидва інтерфейси ще розвиваються, тому почати з однієї конкретної функції простіше, ніж прив’язати до них весь сайт.
Оцінка впевненості зручна для сортування звернень, але рішення про саму дію може потребувати підтвердження. Наприклад, модель може віднести фразу до категорії «Повернення». Сайт може відкрити відповідну форму й попросити людину підтвердити, чого саме вона хоче. Так одне коротке повідомлення допомагає знайти потрібний розділ.

Долучайтеся до розмови
Пишіть по суті й поважайте інших читачів. Перший коментар може з’явитися після перевірки редакцією.