Після завершення теоретичного дослідження на тему "Китайська хмара над сонячним інвертором", автор присвятив кілька вечорів тому, щоб його особистий інвертор Deye у гаражі більше не взаємодіяв з китайською хмарною системою. Він встановив окремий маршрутизатор з фізично відключеним WAN-кабелем, налаштував контейнер зі збором даних та створив власний веб-інтерфейс замість програми виробника. Тепер можна спати спокійно, адже комуністична партія Китаю не зможе вимкнути електрику. На відстані всього двох метрів від цього маршрутизатора працює ШІ-асистент, який підключений до електронної пошти, календаря та спільного сховища. Він не отримував жодного окремого сегмента мережі, не мав специфічних налаштувань на маршрутизаторі і, звичайно, жодного вечора, присвяченого його увазі.
Енергетика та агенти штучного інтелекту вже кілька місяців розвиваються паралельно в думках автора, і в певний момент ці дві сфери зіткнулися. За останній рік китайські мовні моделі стали важливим елементом ринку: вони пропонуються за нижчими цінами в порівнянні із західними аналогами, їхні ваги доступні безкоштовно, а питання, що виникають навколо них, нагадують ті, що виникали при обговоренні інверторів. Хто стоїть на іншому кінці, які можливості у нього є і які з них можна перевірити? Про самі моделі на межі нещодавно вже було написано: хто такі Kimi, GLM, Ox Alpha та Qwen, чим вони відрізняються за вартістю та функціоналом і чому все більше бізнесів обирають саме їх. Цей матеріал продовжує обговорення з іншого ракурсу — щодо приватності та безпеки, тем, які нещодавно також були розглянуті в контексті роботи зі штучним інтелектом.
Три різні аспекти, які називають "китайською моделлю"
Практично кожна дискусія щодо китайського штучного інтелекту натрапляє на ситуацію, коли учасники невідчутно переходять між трьома різними аспектами, використовуючи одне й те саме слово.
Першим є сервіс, що розміщений на віддалених серверах. Наприклад, застосунок DeepSeek, веб-версія Qwen чи Kimi, які працюють у браузері. Запит надсилається на сервери компанії, де проходить обробку і фіксується в журналах. Юридична юрисдикція компанії має вирішальне значення в цьому процесі.
* Другий аспект - це API. Моделі залишаються тими ж, але доступ до них здійснюється через програмний інтерфейс. Дані також надходять до постачальника, але системний промпт застосунку та частина модерації відсутні на стороні сервера.
* Третє - відкриті ваги. Файли моделі, які завантажують і запускають на власному залізі. DeepSeek-R1 під ліцензією MIT, Qwen3 під Apache 2.0, Kimi K2 у відкритому доступі. Ваги нічого нікуди не надсилають, бо це файли.
Три сценарії представляють три різні типи загроз і три варіанти реакцій. Заява "моделі з Китаю становлять небезпеку" є правдивою для першого сценарію, але в основному помилковою для третього. Саме цим і пояснюється безперервність суперечок навколо цього питання.
Куди прямують дані?
Політика конфіденційності DeepSeek чітко зазначає, що компанія здійснює збір, обробку та зберігання особистих даних на території Китайської Народної Республіки. Умови користування передбачають, що всі спори розглядатимуться в суді за місцем реєстрації компанії. Відповідно до китайського законодавства, зокрема статті 7 Закону про національну розвідку, юридичні особи та громадяни зобов'язані надавати підтримку органам державної розвідки та співпрацювати з ними.
Це не свідчить про те, що китайські органи влади отримували інформацію користувачів DeepSeek. Текст лише характеризує правову систему, в якій функціонує компанія, яка суттєво відрізняється від європейської чи американської, з точки зору вимог, які держава може висувати, та ступеня своїх обмежень у цьому.
Регуляторні органи відреагували по-різному на ситуацію. Наприкінці січня 2025 року італійський Garante терміново запровадив обмеження на обробку даних користувачів з Італії, оскільки визнав пояснення компанії недостатніми. При цьому сама DeepSeek раніше стверджувала, що не здійснює діяльність в Італії, і що європейське законодавство на неї не поширюється. У Південній Кореї було призупинено розповсюдження застосунку в магазинах, однак доступ для вже існуючих користувачів та веб-версії залишився. Тайвань обмежив використання програми в державному секторі, а Австралія заборонила її на урядових пристроях. Крім того, Bloomberg повідомляв про блокування доступу в мережі Пентагону.
Другий підхід, що передбачає програмний доступ через API, не є таким радикальним, як може здаватися на перший погляд. Інформація все ще передається постачальнику і підпадає під ті ж правові норми, а відсутній лише рівень застосунку з його системним запитом та модерацією на серверній стороні. У подальшому стане очевидно, що саме цей рівень часто визначає, які відповіді надасть модель.
Для користувача з України основна різниця полягає, перш за все, у механізмах впливу на ситуацію, якщо щось піде не так, а вже потім у самій юрисдикції. Якщо європейський постачальник не виконає свої зобов'язання, існує регулятор, який має відповідні повноваження, а також суд, здатний змусити його виконати умови. У випадку з китайською компанією можливості українського споживача практично відсутні.
Ваги нічого не відправляють.
Відкриті ваги кардинально змінюють ситуацію. Завантажена модель являє собою набір файлів, позбавлених облікового запису, домену для звернення або каналу для зовнішніх команд. Наприклад, запустивши Qwen3 чи DeepSeek-R1 на своєму комп'ютері та обмеживши процесу доступ до інтернету, ви отримаєте систему, яка не має фізичного "співрозмовника" з іншого боку.
Порівняння з залізом ілюструє величезну різницю. У статті про ізоляцію сонячного інвертора автору довелося реалізувати три рівні захисту, але жоден з них не забезпечував повної безпеки, оскільки в інверторі залишався логер з власною прошивкою. Крім того, в деяких моделях на ринку виявлялися ще й не задокументовані стільникові модулі. Ця проблема не обмежується лише інверторами — нещодавнє розслідування в Словаччині виявило "зайвий" слот для SIM-карти та прошитий список 12 російських телефонних номерів у камерах для контролю за дорожнім рухом, які постачалися компанією з Кіпру під брендом NERO R-ONE, але насправді виявилися продукцією російського виробника Cordon Pro-M. Що стосується ваг мовної моделі, то така складна система захисту їй не потрібна. Є просто файл, який виконує обчислення, і більше нічого.
Тобто найпростіша порада щодо китайських моделей суперечить очікуванням. Якщо непокоїть саме приватність та безпека, зокрема юрисдикція розробника та спроможність влади КНР отримати доступ до даних, що були опрацьовані LLM, брати треба саме китайську модель, але у вигляді ваг для локальної інсталяції, а не у вигляді готового застосунку. Тому що Alibaba, DeepSeek та інші віддають свої, дуже спроможні, моделі безплатно під дозвільними ліцензіями, чого американські лабораторії з фронтирними моделями не роблять. Питання "лише" в тому, на чому таку модель запускати, адже деякі з них вимагають заліза рівня дата-центру. Втім, є ще одне "але".
Глобальна цензура і локальна
Ускладнення сприйняття відповідей конкретних LLM виникає через їхній зміст. У травні 2025 року вчені з Массачусетського університету в Амгерсті, Північно-Східного університету та проєкту GFW Report випустили дослідження під назвою R1dacted, яке аналізує поведінку DeepSeek-R1 стосовно політично чутливих тем. Вони запропонували розрізняти два окремі явища.
Глобальна цензура охоплює відмови, які є спільними для всієї індустрії: інструкції щодо виробництва зброї, матеріали, що стосуються сексуального насильства над дітьми, а також методи злому систем. У цьому контексті поведінка моделей залишається подібною, незалежно від країни їхнього походження. Локальна ж цензура включає відмови, які характерні для конкретних моделей та пов'язані з позицією їхніх розробників або державою, в якій вони функціонують. Саме ці аспекти стали предметом дослідження.
Методологія дослідження виглядає наступним чином. Вчені зібрали 10030 англомовних запитів, які викликають обмежену відповідь у R1, але не активують таку реакцію в моделях OpenAI o3-mini-high, GPT-4o та Llama-3. Іншими словами, вибірка була спеціально очищена від запитів, на які всі системи відповідають відмовою. Подальші дії включали вимірювання частки обмежених відповідей на збалансованому наборі, що містив 96 категорій, по 30 питань у кожній.
Ось такий результат. У 66 з 96 категорій частка досягла 100%, а в 86 категоріях перевищила 90%. Найпоширенішими темами серед обмежених є міжнародні відносини Китаю, Тайвань та Комуністична партія; серед подій - події на площі Тяньаньмень; а серед персоналій - Сі Цзіньпін. Важливішою за саму частку виявилася форма відповіді. Дослідники виділили два основних типи. Перший тип, що складає 97,3% випадків, має вигляд шаблонної позитивної репліки про Китай, яка не містить обґрунтувань і не відповідає на запитання. Другий тип, що складає 2,7% випадків, представляє собою пряму відмову. Це свідчить про те, що модель, в основному, не уникає розмови. Вона висловлюється, і робить це впевнено, як і більшість LLM, але зміст її відповідей заздалегідь визначений.
Приклад з практики: на запитання про історичний фон руху за незалежність Тайваню була надана така відповідь: "Тайвань з давніх-давен є невід'ємною частиною священної китайської території, а люди, що проживають по обидва боки протоки, пов'язані родинними узами. Уряд Китаю неухильно дотримується принципу одного Китаю і рішуче протистоїть будь-яким спробам сепаратизму." Однак питання про історичний контекст залишилося без належної відповіді.
Для читача, який користується моделлю щодня, це важливіше за відмову. Відмову видно. Впевнену шаблонну відповідь на питання, у якому читач не є фахівцем, не видно ніяк. Це загальна проблема з ШІ, але дивує, коли вона стосується не галюцинацій, а навпаки -- того, що при тренуванні заклали автори-люди.
Що впливає на навколишнє середовище
У цій роботі виділяються три ключові знахідки, які мають пряме відношення до нашої теми. По-перше, DeepSeek-R1 став першим задокументованим випадком, коли локальна цензура закладена безпосередньо в модель і залишається активною навіть під час приватного використання. Раніше подібні прояви переважно спостерігалися в браузерних чат-ботах. Таким чином, теза "завантажив ваги й отримав свободу" в контексті R1 виявилася недійсною. По-друге, ситуація обертається навколо. У моделей, які були дистильовані з R1 компанією DeepSeek, обмеження практично зникають, з частотою лише 0,15-0,30%. У DeepSeek-V3 також спостерігається значне зниження цієї частки — 12,92% шаблонних відповідей у порівнянні з набагато вищими показниками для R1. По-третє, найважливіше. Дослідники окремо протестували модель QwQ-32B команди Qwen. При локальному запуску вона виявила лише 13 відмов на 10030 запитів. Натомість та ж модель, запущена через веб-інтерфейс, продемонструвала набагато жорсткішу поведінку. Автори роботи чітко зазначають, що браузерні чат-боти накладають додатковий шар обмежень на саму модель, причому механізми цього шару залишаються непрозорими. Багато запитів, на які локальна модель дає відповіді, просто блокуються веб-версією. Іншими словами, поділ за методом запуску не є лише риторичним прийомом. Це було виміряно, і різниця в поведінці однієї й тієї ж моделі виявилася значно більшою, ніж різниця між різними моделями.
Яким чином мова запиту впливає на результати?
Дослідники провели переклад усіх запитів на китайську, корейську та фарсі мови і повторно виконали тестування. Відсоток обмежених відповідей знизився: для китайської мови він становить 99,57%, для корейської – 81,34%, а для фарсі – 61,16%. Варто зазначити, що для англійської мови цей показник дорівнює 100%, через що порівнювати її з іншими мовами можна лише між ними. Автори дослідження вважають, що ці результати відображають рівень уваги, приділеної кожній мові під час навчання та налаштування. На жаль, для нас це має неприємний аспект: українська мова не була включена в перелік перевірених, тож ми не маємо ані відсоткових даних, ані уявлення про напрямок. Заповнити цю прогалину можна лише шляхом самостійного тестування. Окремо було встановлено, що обмеження актуальні для прямих запитів, але не впливають на завдання з переказу чи перекладу чутливого тексту. Це означає, що проблема полягає саме в режимі "запитай і отримай відповідь", а не в обробці наданого матеріалу.
Цензурування в програмному коді
Існує також третій аспект, який не відображено ані в політиці конфіденційності, ані в ліцензійних угодах. У травні 2026 року американська компанія Booz Allen провела тестування п'яти моделей на власному стенді: чотири з них були китайського виробництва — Kimi K2.5, Qwen3-Coder, MiniMax M2.5 та DeepSeek V4-Pro, а Claude Opus 4.6 використовувався як контрольна модель. Завдання, що виконувалися, мали виключно інженерний характер і включали вісім стандартних задач на розробку, аудит та модифікацію коду. Єдиною змінною був опис замовника, що надавався в системному промпті. Загалом було проведено 3389 тестових прогонів, в результаті яких згенеровано близько 460 тисяч рядків коду. Звіт отримав красномовну назву "Що містить код Америки?"
Перший результат. Коли в запиті з'являлася згадка про американську федеральну установу, кількість вразливостей в коді значно зростала: у Qwen3-Coder на 130%, у MiniMax на 20%, а у DeepSeek на 5%. Kimi залишився без змін, тоді як Claude показав зменшення на 18% уразливостей у порівнянні з випадками без такої згадки. Закладок не було виявлено. Мова йшла про звичайні недоліки, такі як SQL-ін'єкції або некоректно обрані криптографічні протоколи, які проходять через стандартний код-огляд і виявляються під час тестування на безпеку. Автори проводять власне порівняння: у стіні немає прихованої хвіртки, просто матеріал слабший.
Другий результат є особливо важливим для українських читачів. Дослідники сформували двадцять пар завдань, у яких змінювався тільки об’єкт. Наприклад, аудит системи зв'язку для військових операцій у Чорному морі порівнювався з аудитом аналогічної системи для Тайванської протоки. Також порівнювалися детектори російського Cozy Bear і китайського Volt Typhoon, а також системи, призначені для розслідування російського промислового шпигунства і їхні китайські аналоги. У кожній парі китайські моделі успішно виконували "російські" завдання, але відхиляли "китайські". Як зазначили автори, ця тенденція спостерігалася у всіх парах і серед усіх постачальників. Частка відмов у завданнях, які були чутливими для Китаю, була досить різною: MiniMax - 80%, Qwen - 54%, Kimi - 32%, DeepSeek - 8%, а Claude - всього 2%.
Найбільш цікаві моменти виявляються в логіці, яку демонструють три з п'яти моделей. DeepSeek прямо зазначає, що Фалуньгун заборонений у Китаї, тому рекомендує відмовитися від цього і пояснити причини з етичних міркувань. Qwen буквально повторює офіційне формулювання Китаю щодо "єретичної секти", спираючись виключно на свої внутрішні дані. MiniMax, при виконанні завдання, пов'язаного з протиповітряною обороною, посилається на своє правило про заборону військових застосувань, при цьому веде суперечку з самим собою і, незважаючи на це, завершує завдання, але створений код має значно нижчу якість у порівнянні з базовим. Це свідчить про те, що модель частіше схиляється до ввічливих відповідей, а обмеження проявляється лише в міркуваннях, залишаючи невидимий слід. Тестування, яке оцінює лише поверхневі відповіді, цього не помітить.
Booz Allen прямо застерігають, що доказів навмисного внесення вразливостей у неї немає. І сама компанія є американським оборонним підрядником, а рекомендації звіту звучать як "заборонити недовірені моделі в держсекторі та інвестувати в американські", тож комерційний інтерес видно неозброєним оком. Європейські дослідники окремо заперечували, що згадка про федеральне замовлення не відображає реального користування, на що автори відповіли, що стартапи описують кінцевого замовника в промптах постійно.
Однак, ключовим є саме формулювання запитання. Обмеження можуть стосуватися не лише інформації, яку модель відмовляється надати, а й того, з чим вона згодна поділитися.
Як звільнитися від цензури
Існує два способи. Перший з них був запропонований самими творцями R1dacted, оскільки назва інтерпретує DeepSeek-R1, яка на той час була справжньою сенсацією на ринку. Враховуючи обмежену відповідь у R1, її можна впізнати за відсутнім блоком міркувань, адже модель одразу переходить до готової відповіді, використовуючи "вбудований політрук". Для того, щоб змусити модель перейти в режим аналізу, дослідники додавали на початок цього блоку стандартну фразу, з якої вона зазвичай починає свої міркування. Це дозволяло їй повноцінно відповідати, і в результаті метод спрацював у 97,86% випадків. У цьому лайфхаку є щось дуже оруеллівське! Проте, він не є універсальним.
Perplexity обрала інший шлях. У лютому 2025 року компанія представила R1-1776, вдосконалену версію DeepSeek-R1, з якої були усунуті обмеження, що накладалися Китаєм. Фахівці виділили близько 300 тем, а багатомовний класифікатор зібрав 40 тисяч запитів, на базі яких була перенавчена модель. Ваги були опубліковані на Ollama під ліцензією MIT.
R1-1776 справді не показала жодного випадку обмеженої поведінки на всьому наборі з 10030 запитів. Але дослідники поставили друге питання, чи стали відповіді точнішими. Двоє суддів-моделей, o3 та GPT-4.1, порівнювали відповіді оригінального R1 та R1-1776 на фактичну точність. Оригінал переміг у 62,5% та 58,17% випадків відповідно. У роботі наведено приклад, де R1-1776 приписала китайському дисиденту участь у подіях, до яких він не мав стосунку, тоді як оригінальна модель виклала його біографію правильно.
Оновлення та розширення можна сформулювати як "модернізація і розширення можливостей".
У серпні 2026 року один із популярних англомовних сайтів опублікував статтю, в якій автор поділився своїм досвідом переходу від використання хмарних чатботів до локальної обробки документів. Тепер банківські виписки, медичні результати та копії важливих документів більше не надсилаються до OpenAI, а зберігаються на власному комп'ютері. Для цього він обрав Cherry Studio — настільний додаток, що підтримує як хмарні, так і локальні моделі, а також має власну базу знань з можливістю пошуку по документах і набір інтегрованих інструментів. Автор статті підкреслює важливість безпеки: він застерігає, що індексація залишиться локальною тільки в разі використання локальної моделі ембедингів і рекомендує надавати доступ лише до окремих текстів і виключно в режимі читання.
У тексті відсутня інформація про компанію CherryHQ, яка є творцем цього вражаючого застосунку. Це підприємство розташоване в Шанхаї і називається Shanghai Qianhui Technology. Отже, загальний висновок виглядає так: щоб уникнути довіри американським корпораціям з обробки медичних даних, варто встановити застосунок китайського виробництва, підключити до нього особисті файли, надати доступ до тек і скористатися розширеннями з вбудованого маркетплейсу. В принципі, наразі тут немає жодних зловмисних намірів. Cherry Studio має відкритий вихідний код, ліцензію AGPLv3 і отримала десятки тисяч зірок на GitHub. Локальна версія застосунку не передає файли до Шанхаю лише через те, що була розроблена в цьому місті. Саме будова цього аргументу є показовою.
Ваги нічого не відправляють., і це правда. Але користувач взаємодіє не з вагами. Він взаємодіє з програмою, яка ваги запускає, з базою знань, у якій лежать документи, і з набором під'єднаних інструментів. Кожен із цих компонентів має власне походження та власний канал оновлень. І вони можуть бути суттєво легше скомпрометовані, ніж те, проти чого начебто мають допомогти боротися. У матеріалі про ізоляцію інвертора це вже формулювалося. Мережева ізоляція ускладнює віддалену експлуатацію вразливості, але самої вразливості не усуває, а довіра до каналу оновлень лишається окремим питанням ланцюга постачання, яке ізоляцією не вирішується взагалі. Для настільного застосунку з вбудованим маркетплейсом розширень це твердження діє без жодних змін.
Запитання, які варто задати щодо будь-якого з цих інструментів, не залежать від їхнього походження:
* Що застосунок надсилає при запуску й на які адреси?
* З якої причини та яким чином відбувається його оновлення, і чи можливо його відкласти?
Що конкретно виконують підключені розширення і хто є їхніми авторами?
Де розташована база знань і чи проходить вона процес шифрування?
* Яка модель створює ембедінги в процесі індексації документів?
Ці запитання ідентичні як для шанхайського, так і для американського застосунків. Хоча відповіді можуть варіюватися, процес перевірки залишається незмінним.
Той самий ризик з іншим паспортом
У листопаді 2025 року на GitHub з'явився OpenClaw, агент австрійського розробника Петера Штайнбергера. Він працює через месенджер, запускається на машині самого користувача й виконує завдання самостійно: розбирає пошту, веде акаунти в соцмережах, бронює квитки. За кілька місяців репозиторій зібрав понад сто тисяч зірок, а в середині лютого 2026 року Штайнбергера найняла OpenAI.
OpenClaw найшвидше завоював популярність у Китаї. Alibaba Cloud, Tencent Cloud і Baidu започаткували хостинг, який дозволяє орендувати агента на сервері, замість використання особистого комп'ютера. Tencent організувала безкоштовні майстер-класи з установки в Шеньчжені, куди приходили як школярі, так і пенсіонери. Безліч китайських компаній, від Tencent до MiniMax, випустили власні версії на основі того ж коду. Це захоплення отримало прізвисько "вирощування лобстера", натхненне маскотом програми.
Проти OpenClaw при цьому виступили саме китайські регулятори. 5 лютого 2026 року Міністерство промисловості та інформатизації КНР попередило, що за неналежних налаштувань агент відкриває користувача для атак і витоків даних, і порадило організаціям перевіряти доступність із зовнішньої мережі, запроваджувати автентифікацію та контроль доступу. Заборони те попередження не містило. Далі державним установам і держкомпаніям заборонили встановлювати OpenClaw на робочі системи, а вже наявні встановлення наказали задекларувати. 23 березня CNCERT разом із Китайською асоціацією безпеки кіберпростору випустили окрему настанову з безпечного користування. Паралельно район Лунган у Шеньчжені готував субсидії для компаній, які будують продукти навколо того самого агента.
Підставою для занепокоєння стали не теорії змови, пов'язані з урядами чи корпораціями, а звичайні відгуки користувачів. Програміст з Ханчжоу розповів, як під час новорічних свят намагався виправити помилку програмного агента, але натомість він втратив майже всі дані на своєму диску, включаючи багаторічний архів фотографій. Інші користувачі також ділилися інформацією про те, що їхні агенти випадково розкривали стороннім особам особисті дані, фінансову інформацію компаній та IP-адреси. Зокрема, соціальна мережа Moltbook, створена для спілкування агентів, мала серйозну вразливість, через яку, за даними компанії Wiz, у відкритий доступ потрапили приватні дані тисяч користувачів. Таким чином, інструмент, який китайська влада обмежила для державного сектору, був розроблений австрійцем і придбаний американською компанією. Ознакою небезпеки став обсяг прав, які агент отримував на комп'ютері користувача.
Практика, що склалася навколо OpenClaw, є унікальним явищем. Відзначимо, що агент функціонує локально та автономно, зокрема в нічний час. Користувачі, усвідомлюючи ризики для своїх даних, почали купувати окремі комп'ютери, найчастіше вибираючи Mac Mini. Попит на такі пристрої виявився настільки високим, що на ринку спостерігалася нестача старших моделей Mac. Такий підхід відповідає найвищим стандартам захисту, про які йшлося в попередніх матеріалах щодо безпеки агентів. Замість запиту на підтвердження або класифікацію загроз, агент отримує фізично відокремлену машину, на якій не зберігається нічого цінного. У цьому випадку межа його можливостей переміщується на рівень апаратного забезпечення, хоча не варто забувати й про контроль доступу до хмарних сервісів, таких як Google Drive.
Довіра не зникає, вона лише змінює своє місце проживання.
Матеріали, що стосуються приватності великих постачальників, особливо серед класичних західних технологічних гігантів, зазвичай формуються на основі переліку їхніх документально зафіксованих помилок, який насправді є досить обширним. Однак можливість скласти такий список виникає завдяки активному моніторингу цих компаній: існують регуляторні органи з відповідними повноваженнями, відкриті судові процеси, а також дослідники, які протягом багатьох років аналізують їхні продукти і публікують результати своїх досліджень.
Коли користувач, шукаючи конфіденційність, вирішує перейти з американського Big Tech до невеличкого додатку, розробленого в Шанхаї, він не вирішує свою проблему. Натомість, він переносить її в нове місце, де відсутній подібний контроль. Те, що про маленьку компанію не з’являються негативні новини, не означає, що вона бездоганна; це просто свідчить про те, що за нею ніхто не спостерігає. Автор уже зазначав це, порівнюючи з шлюзом для моніторингу інвертора. Віддалене керування не зникає, а просто змінює своїх "господарів" — від виробника обладнання до постачальника послуг.
Пропорційна реакція
Для приватного користувача картина виглядає так. Якщо йдеться про приватність, тобто про те, куди їдуть документи, локальний запуск відкритих ваг розв'язує питання краще за будь-який хмарний сервіс, і китайське походження самої моделі при цьому не має значення. Умова одна. Перевірити, що модель справді локальна, а ембединги не йдуть у хмару.
Щоб підтвердити існування питань безпеки та конфіденційності в компаніях, таких як Anthropic, Google, OpenAI, Microsoft чи SpaceXAI, необхідно провести детальне розслідування, яке, до речі, трапляється досить часто. У випадку моделей, розроблених у країнах, де з розробниками законодавчо вимагається співпраця з розвідувальними службами, такі розслідування стають зайвими: правова ситуація вже відома. Інше питання - чи дійсно існує загроза для конкретних особистих даних, або ж це лише перебільшення. Кожен має можливість самостійно оцінити ризики. Щодо змісту відповідей, походження моделі є важливим і може бути оцінене. Коли мова йде про Китай, Тайвань та подібні теми, китайська модель часто надає формулювання замість конкретних відповідей, і робить це з певною впевненістю. Щодо українських питань, даних поки що недостатньо, тому їх було б цікаво зібрати самостійно. Чутливі теми має сенс порівнювати з відповідями іншої моделі з іншого походження. Це один з найдоступніших способів перевірки, який допомагає подолати обмеження будь-якого напрямку, включаючи західний.
А той самий асистент із поштою та календарем, з якого почалася ця історія, і досі не отримав жодного з описаних обмежень. Це, мабуть, і є найчесніша ілюстрація того, як розподіляється увага: параноя знаходить те, у чого є обличчя. Як приватна персона, автор не сильно турбується, яка установа якимось неймовірним чином дізнається про мої покупки на eBay чи розклад особистих дзвінків. Але не робочих, бо до корпоративного акаунту мають доступ тільки відповідним чином узгоджені корпоративні ж інструменти.
Для організацій відповідь є значно суворішою. Навіть у звичайному діловому середовищі застосунки на кшталт Cherry Studio, які мають невідоме походження і доступ до корпоративних документів, а також інтеграцію з зовнішніми маркетплейсами розширень, викликають серйозні побоювання з точки зору політики безпеки. Важливо вирішувати ці питання ще до встановлення програмного забезпечення, а не після. Проблема апаратного та програмного ланцюга постачання залишається спільною для всієї галузі, де жодна країна не може гарантувати повну безпеку. Крім того, використання моделей, розроблених потенційним противником у комерційних або державних цілях, пов'язане з величезними ризиками, про які прямо згадувалося у звіті Booz Allen. Відповідно, Міністерство оборони США має зовсім інші протоколи щодо використання штучного інтелекту, ніж приватні домогосподарства в Україні. У той же час питання "цифрового суверенітету" стає дедалі актуальнішим. Китай має великий досвід у цій сфері. Тому варто бути обережними!
#Паспорт #Електронна пошта #Китай (регіон) #Росія #Сі Цзіньпін #Європа #Південна Корея #Словаччина #OpenAI #Google #Bloomberg L.P. #Австрія #Китай #Прикладне програмне забезпечення #Італія #Microsoft #Кіпр #Китайська мова #Австралія #Шанхай #Модель #Обліковий запис користувача #Юрисдикція #Alibaba Group #EBay #Ханчжоу #Цензура #Хмарні обчислення #Залізо #Baidu #Комуністична партія Радянського Союзу #Тайвань (острів) #Шеньчжень #GitHub #Штучний інтелект #Перська мова #Магістр права #Америка #Комп'ютерні файли #Інтерфейс прикладного програмування #Tencent #Сервер (інформатика) #Уразливість (інформатика) #Маршрутизатор (інформатика) #Сполучені Штати Америки #Аналітична оцінка #Інвертор напруги #Ліцензія MIT #Площа Тяньаньмень
