Генеральний директор Anthropic Даріо Амодей висловив думку, що компанія не підтримує ідею заборони відкритих моделей штучного інтелекту. Він підкреслив, що найбільшу загрозу представляє не стільки сам відкритий код, скільки його потенційне використання авторитарними режимами, зокрема в Китаї.
Заяву Амодей опублікував після того, як у галузі почали обговорювати нібито підтримку Anthropic ідеї обмежити відкриті моделі, особливо китайського походження. Він наголосив, що компанія ніколи не виступала за такі заборони і не вважає їх ефективним рішенням.
Дебати загострилися після публікації відкритого листа, ініційованого засновником компанії Nvidia Дженсеном Хуаном. У цьому документі, підписаному такими компаніями, як Nvidia, Meta, Microsoft, Hugging Face, Mistral та іншими, було закликано уряд утриматися від введення передчасних та занадто жорстких обмежень на відкриті моделі штучного інтелекту.
На думку Амодея, відкриті моделі, що не володіють небезпечними функціями, можуть бути корисними для підприємств, розробників і вчених. Він підкреслив, що не вважає проблемою, якщо компанії застосовують такі моделі, навіть якщо їх розроблено в Китаї.
Замість цього, він виділив як основну загрозу можливість того, що авторитарні режими розроблять більш потужні системи штучного інтелекту, ніж ті, що є в США, і використовуватимуть їх для досягнення військової переваги або для посилення контролю над своїми громадянами. Амодей зауважив, що його тривога стосується не лише Китаю, хоча саме цю державу він вважає найбільш здатною в даній сфері.
Керівник компанії Anthropic висловлює думку, що еволюція штучного інтелекту може підвищити ймовірність не лише кібератак, але й біологічних загроз. Він вважає, що відкриті моделі є складнішими для контролю, і після їх публікації вже неможливо їх відкликати.
Серед запропонованих заходів він виділив обмеження доступу Китаю до найсучасніших мікросхем, протидію нелегальному копіюванню функцій моделей через дистиляцію, а також розробку глобальної системи перевірки безпеки для найпотужніших штучних інтелектів. Амодей зазначив, що така система зможе працювати ефективно лише за участю всіх основних держав, включно з Китаєм.
#Документ #Китай (регіон) #Microsoft #Авторитаризм #Модель з відкритим кодом #Штучний інтелект #Бізнес #Meta Platforms #Заздрість #Чіп
