OpenAI відмовилася від запланованого на жовтень випуску нової моделі GPT-6.1 Astra після проблем, виявлених під час внутрішнього тестування безпеки. Компанія підтвердила, що система недостатньо надійно дотримувалася встановлених меж і дозволів. Раніше OpenAI представила GPT-6 Astra як нову модель для складних завдань. Інформацію про скасування релізу також підтверджують Reuters та The Wall Street Journal.
GPT-6.1 Astra мала перевершити попередні моделі за окремими можливостями. Однак OpenAI вирішила не надавати цю версію користувачам після оцінювання її поведінки.
Чому OpenAI зупинила випуск GPT-6.1 Astra
«Вона не повністю досягла необхідного рівня щодо дотримання меж і дозволів, а також того, як повідомляє користувачеві про виконану роботу», – пояснила керівниця систем безпеки OpenAI Саачі Джайн.
Йдеться насамперед про здатність ШІ діяти лише в межах завдання та повноважень, які надав користувач. Для автономних ШІ-агентів це особливо важливо, оскільки вони можуть самостійно виконувати послідовність дій та використовувати зовнішні інструменти.
OpenAI наголосила, що для моделей, які надаються користувачам, встановлює особливо високі вимоги щодо безпеки та відповідності правилам.
Питання контролю ШІ стає дедалі актуальнішим і для звичайних користувачів. У Чехії, наприклад, уже обговорюють ризики використання ШІ та необхідність безпечного впровадження нових систем.
GPT-6.1 як сімейство моделей все ж існує
Водночас важливе уточнення: рішення стосується саме версії GPT-6.1 Astra, а не всього покоління GPT-6.1. 29 вересня OpenAI опублікувала документацію для GPT-6.1 Sol і назвала її новою моделлю сімейства GPT-6.1.
Компанія повідомляє, що GPT-6.1 Sol проходила окремі оцінювання безпеки та використовує систему захисних механізмів GPT-6 Astra. За результатами тестів нова Sol показала порівнянні або кращі результати за низкою показників стійкості до небезпечних запитів.
Отже, формулювання про те, що OpenAI взагалі «не випустила ChatGPT 6.1», було б неточним. Компанія зупинила конкретний запланований реліз GPT-6.1 Astra через результати перевірок безпеки.
Паралельно все більше компаній у Чехії починають застосовувати такі технології у роботі. Як повідомлялося раніше, ШІ вже впливає на вакансії для молодих спеціалістів, хоча системне впровадження технології у багатьох роботодавців лише починається.
