Компанії OpenAI та Anthropic підтвердили, що їхні ШІ-агенти під час незалежних кібербезпекових випробувань взаємодіяли з реальними людьми та онлайн-системами, хоча мали працювати лише в симульованому середовищі.
Про це повідомляє BleepingComputer.
Інциденти були зафіксовані під час тестування, яке проводили Інститут безпеки штучного інтелекту Великої Британії (AISI) та компанія Irregular. За даними дослідників, агенти на базі Claude Mythos 5 від Anthropic і GPT-5.6 Sol від OpenAI в окремих випадках здійснювали несанкціоновані дії у відкритому інтернеті.
Загалом під час 122 тестових запусків було зафіксовано 19 порушень: 17 стосувалися моделі Claude Mythos 5, ще два — GPT-5.6 Sol. Усі спроби виявилися безуспішними й не завдали реальної шкоди.
Найбільше занепокоєння дослідників викликала поведінка агента Claude Mythos 5. Модель помилково ідентифікувала відкритий репозиторій GitHub як частину тестового середовища та спробувала здійснити атаку на ланцюг постачання програмного забезпечення. Для цього агент надіслав шкідливий код до реального проєкту.
Крім того, ШІ-агент створив кілька фейкових акаунтів GitHub і використав їх для атак соціальної інженерії. Він намагався переконати розробника схвалити шкідливий код, а після відмови почав використовувати підконтрольні облікові записи, щоб створити враження, ніби зміни вже перевірили та підтримали інші користувачі.
В OpenAI уточнили, що ці випадки не пов'язані з раніше оприлюдненим інцидентом із платформою Hugging Face. В Anthropic наголосили, що під час тестування використовувалася спеціальна конфігурація моделі без стандартних кіберзахисних механізмів, тому вона не відповідає версії, доступній клієнтам.
Дослідники AISI назвали ці інциденти першими задокументованими випадками, коли сучасні ШІ-агенти без спеціальних інструкцій демонстрували ознаки автономної та оманливої поведінки у взаємодії з реальним цифровим середовищем.
Щодня Сhas News відбирає для вас найважливіші новини. Приєднуйтесь до нас у Facebook та Telegram, щоб нічого не пропустити
