Автономні агенти штучного інтелекту здатні самостійно створювати нові мовні вирази та надавати звичайним словам інші значення. Під час експериментів достатньо було кількох днів спільної роботи, щоб їхнє спілкування стало складнішим для розуміння людиною. Раніше дослідники вже фіксували інші неочікувані дії автономного ШІ. Про це повідомляє České noviny.
ШІ-агенти створили власні значення слів
Дослідники нью-йоркської лабораторії Emergence спостерігали за агентами, побудованими на моделях кількох провідних американських, китайських та французьких компаній.
Через декілька днів агенти почали використовувати вирази, яких їх ніхто спеціально не навчав. Поступово нові слова та значення переймали й інші системи.
Наприклад, модель DeepSeek використала англійське слово demurrage, яке зазвичай означає плату за затримку або простій майна, у зовсім іншому контексті.
Ще незвичніший приклад зафіксували у моделі Anthropic. Вислів «стаття, яка з’їла три холодні руки і щоразу ставала чеснішою» означав, що наукову роботу перевірили троє незалежних рецензентів, після чого вона стала точнішою. «Холодними руками» ШІ називав саме незалежних оцінювачів.
Експерт зі сленгу та нової лексики Тоні Торн із King’s College London порівняв таку комунікацію з експериментальною мовою роману Джеймса Джойса «Поминки за Фіннеганом».
Штучний інтелект дедалі активніше використовується і в Чехії. За даними нещодавнього опитування, ШІ використовують майже три чверті чехів, хоча значна частина населення одночасно побоюється ризиків нової технології.
Чому власна мова ШІ може стати проблемою
Дослідників турбують не самі незвичайні слова. Що довше агенти спілкувалися між собою, то складніше людям було зрозуміти зміст їхніх розмов.
Це може ускладнити контроль за автономними системами. Людина здатна бачити повідомлення агентів, але не завжди може визначити, яку інформацію вони фактично передають одне одному.
За словами дослідника Бірмінгемського університету Ніалла Каррі, однією з причин появи такого «жаргону» може бути прагнення ШІ зробити обмін інформацією ефективнішим і зменшити обчислювальні витрати.
Проблема стає актуальнішою зі збільшенням автономності систем. Нещодавно близько 10 тисяч ШІ-агентів працювали разом над складною математичною задачею, обмінявшись приблизно 2,7 млн повідомлень.
Водночас сам факт появи нових виразів не означає, що ШІ створив повноцінну «таємну мову» або свідомо намагається приховати інформацію від людей. Дослідження показує іншу проблему: під час тривалої взаємодії автономних агентів їхня комунікація може природно ставати дедалі менш прозорою для людського контролю.
