Сьогодні штучний інтелект інтегрований у наше повсякденне життя, супроводжуючи нас у більшості професійних процесів. Для одних він створює чернетки електронних листів, іншим – надає підтримку в програмуванні, генерує різноманітні варіанти слайдів для презентацій та сприяє швидшій генерації ідей під час мозкових штурмів.
Але разом із відчутним "ефектом прискорення" з'явилося і хибне відчуття: якщо модель відповідає впевнено й логічно, то вона нібито "розуміє", про що говорить. Це і є головна пастка - ілюзія експертності.
Хоча ми вражені потенціалом генеративних нейромереж, важливо також відзначати їхні обмеження.
Примітка: в даній статті ми розглянемо загальнодоступні генеративні мовні моделі, які здебільшого базуються на стандартних наборах даних, отриманих з інтернету. Спеціалізовані корпоративні чи приватні моделі мають свою унікальну специфіку та механізми функціонування, що потребує окремого дослідження.
Незважаючи на всю технологічну складність, штучний інтелект не здатний до справжнього мислення – він просто генерує ймовірні варіанти (і робить це, варто зауважити, досить успішно). Його мета полягає не в пошуку істини, а в формуванні найбільш вірогідної відповіді. Це призводить до виникнення так званих "галюцинацій": модель може бути впевненою в інформації, яка насправді є неправильною, а іноді навіть небезпечною.
Друга причина - відсутність контексту та достатньої бази знань. Алгоритм не знає особливостей ринку, нюансів корпоративної культури, логіки внутрішніх процесів або реальної поведінки людей. Він не має інтуїції, не здатен відчути тон чи мотивацію, не оцінює наслідків для репутації.
І третє: модель не несе жодної відповідальності. Це особливо важливо в контексті юридичних, фінансових чи технічних рішень. Нещодавнє дослідження, проведене компанією Lenovo, підкреслило, що використання генеративного штучного інтелекту в правових практиках може бути корисним для підготовки матеріалів, але не здатне замінити адвоката чи спеціаліста з комплаєнсу.
Юридичні та політики управління персоналом
На перший погляд може здаватися, що ця модель в змозі за лічені хвилини згенерувати документ, який виглядає так само професійно, як результати роботи адвоката. Проте вона не зможе врахувати специфіку місцевого законодавства, не обізнана про суперечності між різними юрисдикціями і не зможе правильно адаптувати політику для конкретної компанії.
Так само ШІ нерідко використовує застарілі дані, які частіше зустрічалися в навчальних дата-сетах ніж нові дані. У праві ціна помилки може бути надто високою.
Прогнози ринку та аналіз фінансових показників.
ШІ прекрасно аналізує минулі дані й видає красиві графіки. Але стратегічні рішення ґрунтуються не лише на минулому: вони залежать від того, що ще тільки готується - від регуляторних змін до поведінки конкурентів. Модель цього не бачить. Вона екстраполює минуле й не здатна врахувати переломні точки.
Отже, під маскою експертності можуть ховатися занадто узагальнені ідеї або абсолютно помилкові напрямки.
Дослідження технічних поломок
Коли інженер переносить лог помилки в модель, він сподівається на детальний аналіз. Проте алгоритм не має знань про архітектуру, внутрішні зв'язки між системами, конфігурації або специфіку апаратного забезпечення. Внаслідок цього "загальна рекомендація" може не вирішити проблему, а навпаки, погіршити ситуацію.
Ось чому впродовж останнього року ми стали свідками вибухового зростання популярності персоналізованих ШІ-агентів як для індивідуальних користувачів ("я адаптував ChatGPT під свої потреби, забезпечивши його великою кількістю своїх даних"), так і для бізнесу.
Асистенти, адаптовані під специфіку певної ІТ-компанії, матимуть більш глибоке розуміння рішень і процесів, що сприятиме покращенню результатів роботи інженерів. Лише такі моделі, навчання яких відбувається на перевірених "закритих" наборах даних, значно зменшують ризик впливу недостовірної інформації та практично не схильні до галюцинацій.
Формування технічних завдань на важливі системи
Технічне завдання – це більше, ніж просто текстовий документ. Це гармонійне поєднання вимог, фінансових обмежень, ризиків, нефункціональних очікувань та угод між усіма зацікавленими сторонами. Штучний інтелект може створити естетично привабливий шаблон, проте часто не враховує критично важливі аспекти, такі як безпека, масштабованість і фактичні обмеження команди.
В результаті, виконавець не отримає потрібних вимог і запропонує абсолютно не адаптоване під запит команди рішення.
Кризове спілкування та делікатні публічні висловлювання
Алгоритм добре працює зі стилем, але не відчуває тон, тригери чи етичні ризики. Те, що статистично звучить "нейтрально", у реальності може спровокувати скандал. У кризах людський досвід завжди сильніший за машинний.
Подібна ситуація спостерігається й з текстами: штучний інтелект не здатен повністю оцінити всю складність політичної та економічної обстановки в країні, а також настрій населення. Навіть у контексті абсолютно безневинної теми він може запропонувати формулювання, що викличуть негативну реакцію. Наприклад, у статті про новорічні свята можна натрапити на рекомендацію для українців подорожувати за межі країни.
До того ж зараз багато людей не відрізняють текст ШІ від тексту справжньої людини, сприймаючи "машинний текст" як образу чи обман.
Креатив і віральність
Очікування, що ШІ створить абсолютно нову концепцію, є не зовсім вірним. Модель працює з тим, що вже існувало. Вона не здатна народити ідею, яка виходить за межі відомих патернів. Культура, емоція, іронія, контекст - усе це поки що виключно людське. Тим паче, коли мова заходить про "вірусний" контент, який працює якраз завдяки нестандартному, незнайомому донині підходу.
Значення штучного інтелекту в повсякденній діяльності постійно зростає, і він дійсно виконує більшість рутинних завдань. Проте важливі рішення, що мають вплив на людей, бізнес та безпеку, все ще повинні прийматися професіоналами. Саме з цієї причини технологічні компанії поступово переходять до моделей управління – встановлюючи ясні правила, які визначають, де штучний інтелект може бути корисним, а де його використання може нести потенційні ризики.
Ми акцентуємо увагу на важливості того, що технології повинні прискорювати процеси, але контроль за ними має залишатися у руках людей. Наприклад, в юридичній команді виникла така проблема: з-поміж численних юридичних запитів з різних країн, співробітники часто не мали чіткого уявлення, який консультант найкраще підходить для конкретного запиту. Це призводило до затяжного листування, переадресацій та численних дзвінків.
Щоби побороти цю марну трату часу, компанія виокремила типові та повторювані питання, які не потребують глибоких знань і вказівок юридичного експерта. Для таких питань розробили чат-бот на базі ШІ: він навчений виключно на юридичних дата-сетах і може відповідати на запити співробітників без втручання людини. Але в ситуаціях, коли чат-бот не може допомогти (тобто він не впевнений на 100% у власній правоті), він автоматично залучає компетентного члена юридичної команди.
#Документ #Мотивація #Юрист #Ілюзія #Інженер #Інтернет #Законодавство #Графіка #Архітектура #Інтуїція #Конкуренція (економіка) #Модель #Нейронна мережа (машинне навчання) #Алгоритм #Галюцинація #Штучний інтелект #Логічно #Адвокат #Правда #База знань
