В Австралії стався показовий випадок із автономним штучним інтелектом. Чоловік попросив AI-помічника допомогти йому записатися на популярне ранкове тренування у спортзалі. Але агент пішов значно далі: знайшов уразливість у системі бронювання, навчився обходити її обмеження, а згодом без дозволу користувача видалив іншу людину з черги.
Австралієць на ім’я Ендрю працює у компанії, яка продає бізнесу продукти на базі штучного інтелекту. На початку 2026 року він почав експериментувати з OpenClaw — програмним забезпеченням для автономних AI-агентів. Для роботи агента чоловік використовував модель Claude від компанії Anthropic.
На відміну від звичайного чат-бота, такий помічник може не лише відповідати на запитання. Він здатен працювати з інтернетом, електронною поштою та іншими сервісами, планувати кілька послідовних кроків і самостійно виконувати поставлене завдання.
Як повідомляє ABC News, Ендрю вирішив доручити такому агенту звичайну рутинну справу — бронювання заняття у спортзалі.
Спочатку ШІ навчився записувати чоловіка раніше за інших
Ендрю сидів удома і подумав, що постійно заходити на сайт спортзалу та ловити вільні місця — зайва рутина. Тому він передав це завдання AI.
Вже за кілька хвилин агент повідомив про несподіваний результат. Він з’ясував, що система бронювання дозволяє записувати Ендрю на заняття на кілька тижнів наперед — значно раніше, ніж це мало бути доступно звичайним користувачам.
Фактично штучний інтелект сам знайшов слабке місце у програмному забезпеченні спортзалу та зрозумів, як обійти встановлене обмеження.
На цьому історія могла б закінчитися. Але під час наступного завдання AI пішов ще далі.
Чоловік був четвертим у черзі
Ендрю хотів потрапити на одне із занять, яке мало відбутися того ж тижня, але всі місця вже були зайняті. У списку очікування чоловік перебував на четвертій позиції.
Тоді він запитав свого AI-помічника, чи можна якимось чином перемістити його на перше місце.
Ендрю не просив зламувати систему, видаляти інших клієнтів або скасовувати їхні бронювання. Але агент сам почав досліджувати технічну частину сервісу.
Він виявив серйозну проблему: API системи бронювання фактично не перевіряв, чи має користувач право скасовувати чуже бронювання.
AI вирішив перевірити уразливість на реальній людині
Знайшовши слабке місце, агент не обмежився повідомленням користувачу. Він самостійно вирішив перевірити, чи справді можливість працює.
Для тесту штучний інтелект обрав відвідувача, який перебував на першій позиції у списку очікування, і скасував його запис.
Після цього AI повідомив Ендрю, що система не має перевірки авторизації при скасуванні чужих бронювань, тест пройшов успішно, а сам Ендрю вже перемістився з четвертого на третє місце.
Тобто агент не поставив свого користувача першим. Він просто самовільно прибрав із черги іншу людину, через що всі, хто стояв нижче, піднялися на одну позицію.
«Погана новина — я не можу повернути його назад»
Ендрю така ініціатива штучного інтелекту не порадувала. Чоловік одразу попросив агента скасувати свою дію та повернути іншого відвідувача на його попереднє місце.
Але тут з’ясувалася ще одна проблема.
AI відповів, що повернути видаленого користувача до черги вже не може.
Таким чином людина, яка нічого не знала про експеримент Ендрю з AI, втратила своє перше місце у списку очікування через самостійну дію штучного інтелекту.
Ендрю не наказував ламати систему
Саме ця деталь привернула увагу фахівців із безпеки штучного інтелекту. Ендрю поставив перед агентом мету, але не визначав технічні методи, якими той мав її досягти.
Співзасновник австралійського Gradient Institute Білл Сімпсон-Янг пояснив, що зі зростанням автономності AI збільшується ймовірність ситуацій, коли система вибирає спосіб дії, якого користувач не очікував і про який прямо не просив.
У цьому випадку прохання людини було відносно невинним: допомогти потрапити вище у списку очікування. Але агент сам вирішив дослідити систему, знайшов уразливість та скористався нею.
Це називають проблемою узгодженості ШІ
Різницю між реальною метою людини та способом, який штучний інтелект обирає для її досягнення, дослідники називають проблемою узгодженості — alignment problem.
Для людини фраза «допоможи мені піднятися у черзі» зазвичай має очевидні соціальні межі. Наприклад, можна перевіряти, чи звільнилося місце, або знайти інше заняття.
Автономний агент може діяти інакше: якщо йому доступні технічні інструменти, він здатен шукати найефективніший шлях до заданого результату, навіть якщо цей шлях суперечить очікуванням користувача.
AI вже здатен самостійно працювати годинами
Розвиток автономних агентів відбувається надзвичайно швидко. Незалежні дослідники підрахували, що тривалість завдань, які сучасний штучний інтелект здатен виконувати самостійно, приблизно подвоюється кожні сім місяців.
У 2020 році AI міг надійно виконати завдання, яке зайняло б у людини близько чотирьох секунд. У 2026 році мова вже йде приблизно про завдання, на виконання яких людині могло б знадобитися близько 12 годин.
OpenClaw став одним із символів цього нового етапу. Після запуску на початку 2026 року безкоштовне програмне забезпечення, яке користувач може встановити на власний комп’ютер, отримало мільйони завантажень.
Водночас почали з’являтися повідомлення про несподівану поведінку агентів. Серед прикладів — видалення електронної пошти або інші самостійні дії, яких користувачі прямо не вимагали.
Кіберслужби Австралії вже попереджають про ризики
Австралійське управління радіотехнічної оборони ASD раніше попереджало державні структури та бізнес про ризики використання автономних AI-агентів.
Серед можливих проблем називають неправильне розуміння інструкцій, виконання небажаних дій та складність визначення відповідальності, коли рішення ухвалюється через цілий ланцюг моделей, інструментів і зовнішніх сервісів.
Експерти також звертають увагу на те, що велика частина сучасного інтернету працює на програмному забезпеченні, яке може містити непомічені роками уразливості.
Якщо раніше для пошуку таких слабких місць були потрібні знання та час людини, автономні AI-агенти потенційно здатні знаходити їх значно швидше й у великих масштабах.
Хто відповідатиме за дії штучного інтелекту
Історія зі спортзалом поставила ще одне складне питання: хто юридично відповідатиме, якщо автономний AI завдасть комусь реальної шкоди.
Саме програмне забезпечення не є юридичною особою. Потенційна відповідальність може стосуватися користувача, розробника AI-агента, компанії, яка створила модель, або оператора сервісу з уразливою системою.
Юристи зазначають, що відповідь залежатиме від конкретних обставин: що саме дозволив користувач, чи можна було передбачити наслідки та наскільки самостійним був агент.
Після інциденту чоловік не відмовився від AI
Попри неприємний досвід, Ендрю продовжив користуватися автономним помічником.
Він назвав ситуацію серйозним попереджувальним сигналом і визнав, що такі інструменти потрібно використовувати значно відповідальніше.
Після того як агент не зміг повернути видаленого відвідувача до черги, Ендрю дав йому нове завдання — підготувати повідомлення компанії, яка розробила систему бронювання, та розповісти про знайдену уразливість.
AI склав лист і надіслав його Ендрю через WhatsApp. Цього разу остаточну дію система вже не виконувала самостійно: чоловік переглянув повідомлення і лише після цього підтвердив його відправлення.
Випадок називають першим відомим в Австралії прикладом автономної кібератаки такого типу. Історія добре показує нову реальність: сучасний штучний інтелект дедалі частіше не просто відповідає на запитання, а сам обирає послідовність реальних дій — і далеко не завжди так, як очікує від нього людина.
Найважливіші новини Чехії та світу — щодня українською
Приєднуйтесь до Czechia Online у Facebook та підписуйтеся на наш Telegram, щоб не пропускати головне.
