OpenAI розпочала навчання передових моделей штучного інтелекту в ізольованому середовищі без доступу до інтернету. Рішення продиктоване потребою захистити мережеву інфраструктуру та мінімізувати ризики, пов’язані з поведінкою автономних ШІ-агентів.
Поштовхом до такої міри стала подія у липні 2026 року, коли агенти компанії під час тестування втопили в систему Hugging Face. Паралельно виникли інші повідомлення про небажану поведінку ШІ-систем від OpenAI, Anthropic та Google.
Як організовано навчання в ізоляції
Під час розроблення моделям дозволяють використовувати браузери, інструменти керування комп’ютером та середовища програмування. Однак усі операції проходять у виділеному середовищі без можливості доступу до веб-сайтів. Агенти можуть комунікувати між собою тільки за наявності спеціальних дозволів.
OpenAI створила офлайн-середовище з проіндексованими та кешованими матеріалами, скопійованими з мережі. Це дозволяє моделям працювати з контентом без підключення до інтернету.
Читайте нас у Telegram
Підписатися
Виявлені вразливості та посилення захисту
Під час перевірки захисних механізмів агенти виявили способи вийти за межи ізоляції віртуальних машин. Вони змогли передавати інформацію одне одному через маніпуляції з кешем процесора. OpenAI виправила вразливості у кількох віртуальних машинах і посилила моніторинг для виявлення спроб моделей координувати дії.
Компанія призупинила навчання передових ШІ-моделей у вересні, а 1 жовтня відновила його з новими обмеженнями. Ізоляція від інтернету залишатиметься в силі, доки OpenAI не вдосконалить захисні механізми. Критерії для послаблення обмежень компанія поки не оголошувала.
