ШІ-компанії підписали угоду про безпеку: що вона насправді передбачає

29 вересня в Білому домі оголосили про угоду з провідними ШІ-компаніями щодо безпечної розробки технології. Reuters підтверджує підписання документа. Це домовленість про самоконтроль індустрії, а не новий міжнародний закон.

Хто приєднався і що пообіцяв

Серед учасників — Google, Anthropic, Meta, OpenAI, NVIDIA та Ілон Маск. За повідомленням ABC News, зобов’язання добровільні. Тому підпис ще не свідчить, що кожна компанія вже виконала всі заявлені заходи.

Опублікований текст угоди описує чотири рівні:

• Внутрішні запобіжники під час розробки та використання моделей.
• Окремі команди, що перевіряють їхню роботу й усувають недоліки.
• Незалежні зовнішні аудитори або оцінювачі.
• Незалежний комітет ради директорів, який розглядає результати й виправлення.

Як зрозуміти, чи це працює

Найкориснішим наступним кроком для спостерігача буде перевірка конкретних результатів: кого залучили до аудиту, що дозволили перевірити, які висновки оприлюднили та які зміни внесли після них. Сам перелік учасників на ці питання не відповідає.

Наприклад, повідомлення про успішну перевірку моделі мало що говорить про помилку в іншому місці — у дозволах агента на робочу пошту. Щоб оцінювати захист, варто розуміти, який саме компонент перевіряли. Це наш практичний висновок із структури домовленості, а не повідомлення про вже проведений аудит.

Для користувача правила доступу залишаються окремим рішенням. Перед підключенням ШІ до файлів, листування чи платежів визначте, які дії він може виконувати самостійно. Підпис компанії під угодою не замінює цих налаштувань. Про технічну сторону такого контролю ми писали в матеріалі про NVIDIA Open Agent Safety Platform.