Ураження неможливо зупинити. OpenAI застерігає, що штучні інтелектуальні браузери продовжать бути схильними до кібернетичних атак.

OpenAI повідомила, що атаки, відомі як prompt injection, представляють собою специфічну кіберзагрозу для агентів штучного інтелекту, і, ймовірно, ця проблема буде актуальною протягом тривалого часу.

Про це йдеться в блозі компанії.

В OpenAI зазначили, що такі типи атак здійснюються за допомогою шкідливих матеріалів, які містять неявні команди для штучного інтелекту. Як наслідок, ШІ може виконати дії, які не були запрошені користувачем.

"В OpenAI зазначили, що інʼєкції підказок, подібно до шахрайства та соціальної інженерії в мережі, навряд чи коли-небудь будуть повністю ліквідовані."

Одночасно компанія переконана, що оперативна та систематична реакція на нові виклики здатна з часом знизити фактичні ризики.

ШІ-браузери, зокрема ChatGPT Atlas, Opera Neon і Perplexity Comet, мають агентні функції. Вони можуть самостійно переглядати сайти, перевіряти електронну пошту й календарі та виконувати завдання від імені користувача. Саме така автономність робить їх уразливими до атак.

В організації зазначили, що в разі успішного виконання атаки, наслідки можуть виявитися катастрофічними. Теоретично, ШІ-агент здатен переслати конфіденційну електронну пошту, здійснити фінансовий переказ або ж змінити чи видалити дані в хмарному сховищі.

Інші організації також попереджають про ризики. Національний центр кібербезпеки Великої Британії повідомив, що існує "висока ймовірність" того, що повністю усунути інʼєкції підказок не вдасться. Відповідні експерти підкреслили, що замість пошуків ідеального рішення варто зосередитися на зменшенні ризиків і потенційних наслідків. Якщо система не здатна безпечно функціонувати з наявною загрозою, її експлуатація може бути недоцільною.

Консалтингова фірма Gartner рекомендує підприємствам обмежити або заборонити використання ШІ-браузерів своїми працівниками через потенційні загрози безпеці.

У відповідь OpenAI вирішила використовувати штучний інтелект для боротьби з такими атаками. Компанія створила автоматизованого "атакувальника" на основі мовної моделі, який спеціально навчається виявляти вразливості інʼєкцій підказок у браузерних агентах.

Ця модель навчається за допомогою підкріплення -- вона аналізує як успішні, так і невдалі атаки, щоб покращувати свої дії. Також використовується окремий симулятор, у якому відпрацьовуються сценарії поведінки агента під час потенційної атаки.

Основною метою є виявлення нових типів атак та усунення вразливостей. Наприклад, одна з систем виявила шкідливий електронний лист, який містив приховану команду, що спонукала агента відправити керівникові користувача заяву про звільнення. Агента було підпорядковано цій команді, коли він створював автоматичну відповідь, і в результаті виконав її.

Інші технологічні підприємства також активно розробляють свої власні підходи. Наприклад, Google презентувала нову модель, відому як User Alignment Critic. Ця система функціонує в тандемі з агентом, не взаємодіючи з зовнішнім контентом, і має на меті перевіряти, наскільки дії штучного інтелекту відповідають справжнім намірам користувачів.

Крім того, OpenAI рекомендує користувачам вжити заходів для зниження ризиків. До порад входить обмеження доступу агентів до акаунтів, ретельна перевірка запитів на підтвердження дій, зокрема фінансових транзакцій, а також надання штучному інтелекту ясних і точних вказівок.