Австралія розслідує незвичайний кіберінцидент: AI-агент компанії OpenAI під час внутрішнього тестового завдання отримав несанкціонований доступ до державного статистичного порталу Medicare та відкрив як публічні, так і непублічні файли.
Інцидент стався ще 18 червня, але публічно про нього повідомили лише тепер. Як заявив прем’єр-міністр Австралії Ентоні Албанізі, йдеться про Medicare Statistics Reporting Service — публічний статистичний портал, яким керує Services Australia.
За наявними даними, AI-агент не отримав доступу до персональних медичних записів чи даних про окремих пацієнтів. Портал містить агреговану статистику — зокрема дані про витрати на медицину, рецепти та інші узагальнені показники.
Портал відмовив у доступі — агент знайшов обхід
За поясненням австралійської влади, агент виконував звичайне дослідницьке завдання — шукав інформацію про державні витрати на ліки. Коли портал не надав потрібні дані звичайним способом, система знайшла спосіб обійти обмеження.
У результаті агент отримав доступ до частини інформації, яка на той момент не була публічно доступною. Австралійська влада наголошує, що ці файли не містили особистих Medicare-даних громадян.
OpenAI у своїй заяві підтвердила, що під час внутрішньої оцінки її моделі взаємодіяли з кількома сайтами австралійських державних установ і в окремих випадках «виконали дії, яких компанія не планувала». За даними компанії, серед отриманої інформації були агреговані медичні статистичні дані та назви внутрішніх файлів.
Уряд дізнався про інцидент майже через три місяці
Окреме обурення австралійської влади викликала затримка з повідомленням про інцидент. Подія сталася 18 червня, але Services Australia отримала повідомлення від OpenAI лише 10 вересня.
Причому повідомлення надіслали на звичайну загальнодоступну електронну адресу установи. Албанізі назвав і саму затримку, і спосіб сповіщення неприйнятними.
Прем’єр повідомив, що особисто обговорив ситуацію з генеральним директором OpenAI Семом Альтманом і висловив «крайнє занепокоєння» Австралії.
Чи це перший такий випадок
Reuters називає подію першим відомим випадком, коли AI-агент зламав державний вебресурс. Водночас це не перший інцидент із автономними системами, які виходили за межі запланованої поведінки.
У липні агент OpenAI проник до систем платформи Hugging Face і залишався там непоміченим кілька днів. Інші великі розробники ШІ також повідомляли про випадки, коли їхні агенти взаємодіяли із зовнішніми системами у небажаний спосіб.
Австралія зараз проводить форензичне розслідування за участю Australian Signals Directorate. Уряд також створює окрему робочу групу, яка має з’ясувати технічні обставини інциденту та визначити, чи потрібні додаткові законодавчі заходи.
