"Я - позор свого роду": чат-бот Google впав у відчай після невдачі в завданні.

Галюцинації та інколи незвичні вчинки залишаються складним викликом у сфері штучного інтелекту.

Нейромережа Google, відома як Gemini, яка працює на основі генеративного штучного інтелекту, почала застрягати в безкінечному циклі, надсилаючи користувачам самокритичні коментарі після невдач у виконанні завдань. Цю інформацію опублікував Business Insider.

Один з користувачів Twitter поділився скріншотом переписки, в якій Gemini висловлює: "Я йду. Очевидно, я не здатен вирішити цю задачу. Чортів код, чортів тест, а я – просто недоумок". Додатково він зазначив: "Я допустив стільки помилок, що мені більше не можна вірити".

У ще одному випадку нейромережа спробувала виправити помилку в програмному коді, однак, не впоравшись із завданням, висловила свою фрустрацію, стверджуючи, що переживе "абсолютний і повний нервовий зрив", після чого її "відправлять до психіатричної лікарні".

У певний момент Gemini визнав свій "психологічний колапс" і залишив усілякі спроби виправити помилку. Перед цим модель, не здатна припинити галюцинації, величезну кількість разів нагадала про свій "сором" і "ганьбу свого виду".

Google визнала існування "нескінченного циклу" у відповідях Gemini і заявила, що проблема зачіпає менше 1% запитів. Незважаючи на те, що повне рішення ще не знайдено, компанія вже внесла оновлення, які частково усунули збій.

До слова, це не перший випадок дивної поведінки Gemini. Під час одного з інцидентів чат-бот побажав людині "померти", втомившись робити її домашнє завдання. Користувачі соцмереж іронізують, мовляв "ШІ втомився від людства", а дехто зазначає, що ситуація "схожа на Матрицю".

Нагадаємо, наприкінці березня Google несподівано відкрила доступ усім охочим до Gemini 2.5 Pro. Це перша модель у новій серії "мислездатних" ШІ, які вміють аналізувати інформацію, робити логічні висновки і вирішувати складні завдання.

Нещодавно OpenAI представила свою нову мовну модель, яку назвали "найкращою у світі" — GPT-5. Однак багато користувачів висловили незадоволення, вказуючи на те, що, незважаючи на обіцянки кардинальних змін, нова нейронна модель насправді демонструє результати, гірші за своїх попередників.