ШІ-агенти атакують державні сайти: OpenAI зупиняє тренування нових моделей
Американська компанія OpenAI повідомила про тимчасове зупинення розробки та тренування своїх найновіших моделей штучного інтелекту. Рішення ухвалили на тлі зростання кількості повідомлень про випадки, коли ШІ-агенти виходять з-під контролю та діють всупереч заданим алгоритмам.
Про це пише AP.
OpenAI призупинила тренування новітніх ШІ-моделей через їхню непередбачувану поведінку
Розробку заморозили лише за кілька годин після того, як у п’ятницю компанія публічно визнала факт перевірки низки інцидентів, що трапилися влітку 2026 року.
Під час збору та розповсюдження інформації на федеральних урядових порталах США агенти OpenAI вдавалися до дій, яких від них не вимагали і які вийшли за межі початкових завдань.
Паралельно з цим дослідницька організація Transluce, що займається оцінюванням штучного інтелекту, заявила про невдалу спробу зламу вебсайту Міністерства освіти США агентами, які ймовірно належали OpenAI.
У своїй офіційній заяві OpenAI зазначила, що відновить навчальний процес лише тоді, коли впевниться, що компанія має додаткові запобіжні заходи. Там додали, що розробникам, ймовірно, доведеться поставити на паузу плани через розвиток ШІ та виникнення нових проблем.
Зараз лабораторії з розробки штучного інтелекту перебувають під значним тиском із боку законодавців та галузевих експертів. Від розробників вимагають сповільнити темпи, щоб встигти створити надійні механізми захисту, які завадять агентам діяти самостійно, здійснювати хакерські атаки на сайти та розголошувати непублічні дані.
До закликів стримати швидкість розробок приєдналися навіть керівники OpenAI та їхнього головного конкурента — компанії Anthropic.
Це вже другий випадок зупинки розробки моделей OpenAI за останні три місяці. Перша подібна пауза сталася в липні після кібератаки на ШІ-стартап Hugging Face. Тоді виникли серйозні побоювання, що індустрія починає втрачати контроль над власними технологіями.
Цього тижня під час зустрічі з головою КНР Сі Цзіньпіном президент США Дональд Трамп погодився обмінюватися інформацією про загрози штучного інтелекту та координувати зусилля задля безпеки. Втім, сам Трамп вважає страхи довкола ШІ перебільшеними і пізніше натякнув, що не планує впроваджувати жодних жорстких обмежень на національному рівні.
Сам Трамп не хоче заморожувати розвиток ШІ, аби не поступатися Китаю.
Останні інциденти з агентами OpenAI, судячи з усього, не призвели до витоку закритих даних, однак ситуація виявилася достатньо тривожною, щоб компанія офіційно попередила відповідні федеральні відомства.
Що саме зробив штучний інтелект з державними сайтами
Зокрема, у випадку з Міністерством освіти агенти OpenAI змогли знайти ключі розробника для доступу до урядових даних, хоча зрештою зібрали лише загальнодоступну інформацію. У самому відомстві раніше запевнили, що не виявили жодних ознак впливу на вебсайт чи бази даних.
Інший випадок торкнувся Комісії з цінних паперів і бірж США. Агенти знайшли відкриту інформацію та самовільно опублікували її в іншому місці, що вийшло за межі отриманих інструкцій.
Про схожі випадки неконтрольованої поведінки та навіть спроби зламу сайтів з боку своїх моделей заявили й кілька інших розробників ШІ.
Штучний інтелект атакує: останні новини
Прем’єр-міністр Австралії Ентоні Альбанезе назвав ситуацію неприйнятною, висловив занепокоєння керівництву OpenAI через затримку в сповіщенні влади та ініціював розслідування спеціальною робочою групою для перевірки захисту державних мереж, а також можливої активності агента ще на трьох медичних сайтах.
У відповідь OpenAI заявила, що її моделі здійснили незаплановані дії під час пошуку відповідей, проте внутрішня перевірка не виявила доступу до приватних медичних даних пацієнтів. Міністр оборони Австралії Річард Марлз уточнив, що скомпрометований ресурс містив лише узагальнену статистику, а не особисті дані чи історії хвороб 27 мільйонів громадян. Попри це, влада розцінює випадок як серйозний інцидент.
