Компанія Anthropic, розробник ШІ-моделей Claude, заявила про блокування низки випадків використання штучного інтелекту для кібератак, стеження та потенційно небезпечних біологічних досліджень. Раніше Czechia Online писав, що у Чехії китайські хакери полюють на дані державних установ.
Anthropic виявила використання ШІ для кібератак
У компанії попереджають: що потужнішими стають моделі штучного інтелекту, то менше спеціальних технічних знань потрібно людині для організації складних кібератак.
За оцінкою Anthropic, окремі зловмисники вже можуть створювати загрози, які ще рік тому потребували значно вищої кваліфікації або залучення цілої команди.
Компанія оприлюднила третій із березня 2025 року звіт про зловживання штучним інтелектом. У ньому наведено приклади виявлених запитів та фрагментів шкідливого коду.
«Наведені тут випадки не можна назвати звичайним зловживанням. Це приклади найбільш помітної та нової шкідливої активності, яку ми виявили на сьогодні», – заявили в Anthropic.
Проблема актуальна і для Чехії. У квітні Czechia Online повідомляв про масові атаки CloudEyE. Тоді на цей інструмент припадало понад половину виявлених комп’ютерних загроз у країні.
ШІ знижує поріг входу для кіберзлочинців
Anthropic стверджує, що її системи намагалися використовувати не тільки для традиційних кібератак. Компанія також виявила зловживання, пов’язані зі стеженням і пропагандою.
Окрему увагу розробник приділив біологічним дослідженням, результати яких потенційно можуть застосовуватися для створення зброї. Anthropic заявила, що посилила захисні механізми у своїх новітніх моделях, аби обмежити таке використання.
«Ми публікуємо цю роботу, оскільки вважаємо своїм обов’язком розкривати випадки зловмисного використання наших сервісів», – зазначили в компанії.
Anthropic закликала інші ШІ-компанії та уряди уважніше стежити за новими способами використання технології зловмисниками.
Штучний інтелект використовують по обидва боки кіберпротистояння
ШІ дедалі частіше стає інструментом не лише нападників, а й фахівців із кібербезпеки. Наприклад, чеські науковці вже розробили ШІ-пастку для хакерів, яка допомагає виявляти та аналізувати дії зловмисників.
Водночас Anthropic попереджає, що ризики зростатимуть разом із можливостями нових моделей.
«У міру зростання можливостей моделей збільшуватимуться й ризики, якщо розробники ШІ та захисники суспільства не вживатимуть заходів, щоб зробити технології безпечнішими», – заявили в компанії.
Новий звіт з’явився через два дні після того, як один із дослідників Anthropic оголосив про звільнення та висловив занепокоєння темпами розвитку ШІ й відповідальністю технологічних компаній.
