Витік на суму 500 тисяч. Як компанія Anthropic ненавмисно оприлюднила свій вихідний код і які цікаві деталі були виявлені в ньому.

Після оновлення ШІ-помічника Claude Code в руки користувачів потрапили внутрішні файли компанії Anthropic. Народні умільці вже відкопали в них низку невипущених функцій.

Оновлення інструменту для кодування Claude Code завантажили у загальнодоступний реєстр пакетів для розробників 31 березня. Там випадково опинився так званий debugging file для налагодження програми. Цей файл містив посилання на zip-архів у власному хмарному сховищі Anthropic.

Дослідник у сфері кібербезпеки Чаофан Шоу швидко виявив витік. Він поділився посиланням на завантаження кодової бази в соціальній мережі X. Лише через кілька годин код став доступним для аналізу на GitHub, платформі, що об'єднує розробників з усього світу.

Того ж дня, 31 березня, представник компанії Anthropic надіслав західним засобам масової інформації офіційне повідомлення: "У релізі Claude Code виявився деякий внутрішній вихідний код. Проте жодні конфіденційні дані клієнтів чи облікові записи не постраждали й не були оприлюднені".

Представник компанії зазначив, що проблема з упаковкою релізу виникла через людський фактор, а також підтвердив, що жодних порушень системи безпеки не було. "Ми вживаємо заходів для того, щоб уникнути подібних ситуацій у майбутньому", – додав він.

Злиті дані стосуються виключно самої програми Claude Code, а не базових моделей штучного інтелекту Anthropic, зазначає видання Business Insider. Втім, і така знахідка зацікавила публіку, адже Claude Code є одним із найвідоміших комерційних продуктів компанії. Витік уже дав змогу всім охочим роздивитися, як саме Anthropic збирає готового до ринку ШІ-агента і як той виконує інструкції.

Що знайшли у файлах коду

Серед основних відкриттів – внутрішня інформація від розробників Anthropic про ефективність системи та неоголошені можливості. Зокрема, мова йде про функцію, яка дозволяє штучному інтелекту переглядати минулі сесії та використовувати цей досвід у нових бесідах, а також про можливість дистанційного управління Claude через мобільний телефон або інший браузер.

The Verge повідомляє, що в коді виявили згадки про постійно активного агента на ім'я KAIROS, який функціонує у фоновому режимі 24 години на добу. Олександр Леманн, підприємець у сфері штучного інтелекту, характеризує його як завжди активного, проактивного Claude, який "виконує завдання без вашого запиту".

Кожні кілька секунд KAIROS отримує запит, схожий на: "Чи є щось термінове, що потрібно зробити зараз?" Він оцінює обстановку і ухвалює рішення: діяти чи залишити все як є. Якщо вибір падає на дію, він має можливість виправляти помилки у вашому коді, відповідати на повідомлення, оновлювати файли та виконувати різні завдання. Загалом, це те ж саме, що вже вміє робити Claude Code, але без ваших вказівок, -- пояснює Леманн у X.

У анонімному пості на Reddit згадується функція тамагочі, що нібито планується до Дня сміху 1 квітня. Описується "віртуальний улюбленець", який "перебуває біля вашого поля для введення та відповідає на ваш код".

При введенні команди [/buddy] у вас з'являється неповторний ASCII-супутник, сформований за вашим ідентифікатором користувача, згідно з інформацією в публікації. Існує 18 різновидів, серед яких ви знайдете качку, капібару, дракона, привида, аксолотля та незвичайне створіння під назвою "чонк".

Чому це погано для Anthropic

Згідно з інформацією видання Fortune, це вже другий інцидент з витоком даних від компанії Anthropic за останній час. 26 березня компанія випадково оприлюднила доступ до близько 3 тисяч файлів. Серед них була чернетка матеріалу про нову модель штучного інтелекту, яка отримала внутрішні назви Mythos і Capybara.

Наступна помилка може суттєво зашкодити репутації Anthropic, яка послідовно формує свій маркетинг на основі надійності. Наприклад, минулого року агентство Reuters інформувало, що компанія активно демонструвала свої зусилля щодо запобігання хакерським атакам, які намагалися використовувати Claude для фішингу, створення шкідливих програм та інших кіберзлочинних дій.

Зазвичай великі організації дотримуються строгих процедур і багаторівневих перевірок, перш ніж код потрапить у виробництво. Це нагадує сейф, для відкриття якого необхідно кілька ключів, -- зазначає старший дослідник у сфері безпеки штучного інтелекту компанії LayerX Security Рой Паз.

В Anthropic, здається, цього етапу не відбулося, і лише одна невірна настройка чи випадковий клік несподівано призвели до розкриття всього вихідного коду.

Дотепер ЗМІ не повідомляли про витік клієнтських даних, паролів тощо, тому найгіршого сценарію Anthropic поки що уникла. Однак компанія вже фактично подарувала конкурентам і звичайним юзерам внутрішню інформацію про дизайн свого продукту. І стався цей провал саме в той час, коли Anthropic переконує бізнес довіряти її ШІ-агентам більш конфіденційні завдання.