Штучний інтелект масово фабрикує факти: велика доповідь вивела на чисту воду галюцинації ШІ

Одна з провідних міжнародних аудиторських компаній нещодавно опинилася у центрі гучного скандалу після відкликання масштабної аналітичної доповіді про застосування інтелектуальних систем у бізнесі. Причиною стали масові підробки джерел, вигадані кейси та штучно згенеровані цитати, створені за допомогою сучасних мовних моделей.

Виявлення фальсифікованих посилань: ретельний аудит тексту

Аналітики зі стартапу GPTZero, що спеціалізується на виявленні штучного контенту, провели експертний аудит 45 джерел, до яких активно зверталися автори аналітичного звіту. Детальне дослідження засвідчило: лише 5 посилань із них дійсно підтверджувалися справжніми даними або науковими публікаціями.

Решта джерел виявилася або повністю вигаданою, або підготовленою за принципом «цитування за відчуттям» (vibe citing), коли штучний інтелект, імітуючи науковий стиль, підбирав реальні назви установ та медіа, але змінював зміст заголовків, дати та інші вихідні дані. У 28 випадках назви та атрибуції частково співпадали з дійсністю, але решта деталей були сфальшовані. Ще у 12 випадках знайти чи підтвердити існування джерела зовсім не вдалося, бо дані були розмитими або вигаданими від початку.

Дослідники змогли довести, що близько половини інформації у звіті прямо не відповідали дійсності – або були повністю вигадані, або хибно приписані відомим компаніям. Це є свідченням того, як ШІ-інструменти без людського контролю схильні масово створювати так звані «галюцинації» – тобто дані, які звучать логічно в контексті, але не мають жодного реального підґрунтя.

Небезпека інформаційного забруднення: вплив на бізнес-спільноту та науковців

Вищезгаданий звіт представляв успішні приклади впровадження автономних агентних ШІ у бізнес-процеси провідних глобальних корпорацій. Проте, компанії, що згадувалися у звіті, невдовзі виступили з офіційними запереченнями та спростуваннями публікацій у свою адресу.

Emirates: вигаданий ШІ-чат-бот

Так, як приклад досягнень, у звіті описували запуск чат-бота Sara – нібито розумної системи, яка самостійно змінює авіаквитки пасажирам. У дійсності ж Sara – це лише базовий мобільний помічник без функцій штучного інтелекту і без права на зміни у бронюваннях. Компанія Emirates офіційно спростувала таку інформацію.

UBS: недостовірна інтеграція ШІ

Ще одна вигадка стосувалася відомого швейцарського банку UBS. У звіті стверджувалося, що у банк впроваджено комплексні ШІ-агенти для інвестиційного консалтингу та управління ризиками. Прес-служба UBS відкрито назвала цю інформацію неправдивою.

SBB: неіснуючі ШІ-оптимізатори

Навіть національного залізничного перевізника Швейцарії, компанію SBB, згадали у контексті впровадження унікальних ШІ-оптимізаторів для планування поїздок і скорочення вуглецевого сліду. Прес-служба SBB повністю заперечила застосування подібних рішень і назвала заяви у звіті маніпуляціями.

Як штучний інтелект отруює інформаційне поле

Експерти застерігають: подібні фальсифікації від відомих брендів надзвичайно небезпечні для світового інформаційного простору. Адже звіти провідних аналітичних компаній вважаються золотим стандартом та активно використовуються у наукових публікаціях, ділових презентаціях, цитуються у ЗМІ та впливають на рішення тисяч профільних фахівців.

Після того, як такі неправдиві дані потрапляють у відкритий інтернет, вони швидко стають джерелом вторинного «інформаційного отруєння», коли системи штучного інтелекту, зокрема ChatGPT, Gemini та інші, включають їх до своїх баз знань, посередньо і далі поширюючи вигадані кейси як достеменні факти. Це створює небезпечний ефект доміно — багато матеріалів, створених на основі таких звітів, також стають сфабрикованими, а верифікувати справжність інформації стає все складніше.

Генеральний директор GPTZero Едвард Тіан окремо наголосив, що приклади усвідомленого чи неусвідомленого використання штучного інтелекту без фахового контролю здатні серйозно підірвати довіру до експертних досліджень в усьому світі. А глобальне поширення невірної інформації від відомих брендів може призвести до суттєвої дискредитації індустрії.

Реакція аудиторської компанії та план дій

У зв’язку з виявленим інцидентом, компанія ініціювала внутрішнє розслідування щодо причин використання некоректних ШІ-інструментів, а сам звіт був терміново відкликаний. Експерти наголошують — запобігти масштабним «галюцинаціям» можна лише шляхом комбінування можливостей штучного інтелекту з ретельною людською перевіркою та професійним рецензуванням.

Які уроки винести бізнесу і науковцям

• Професійний контент не може створюватися виключно силами ШІ без контролю з боку людини.
• Автоматичне генерування кейсів і джерел нерідко призводить до появи вигаданих даних, які підривають довіру і створюють інформаційний шум.
• До використання звітів навіть найавторитетніших брендів потрібно ставитися з критичним аналізом, перевіряти фактичність тверджень і вимагати прозорості у використанні ШІ-інструментів.
• Масштабне потрапляння фальсифікованої інформації у навчальні алгоритми ШІ створює викривлену реальність і потенційно може поширювати помилки у довгостроковій перспективі.

Висновки

Історія з масовим фабрикуванням контенту у масштабному аудиторському звіті вкотре підкреслила невідкладність суспільної дискусії щодо обережності використання штучного інтелекту у сфері аналітики, науки та консалтингу. Лише вдосконалення методик перевірки, професійний нагляд людини і розуміння можливостей та обмежень ШІ дозволять уникнути загрозливої хвилі інформаційних маніпуляцій та зберегти довіру до об’єктивних даних у цифровому світі.