Ваш чатбот може помилятися: як ворожа дезінформація потрапляє в ШІ та як перевіряти відповіді

Чи може чатбот поширити російський фейк як достовірну інформацію? Так. Відповіді штучного інтелекту не завжди є правильними, адже мовні моделі можуть помилятися, використовувати недостовірні джерела або відтворювати маніпулятивний контент, який уже є в інформаційному просторі.

Водночас розвиток штучного інтелекту створює нові можливості для інформаційних операцій. Ворожі мережі можуть масово створювати та поширювати дезінформацію, намагаючись зробити її помітною для пошукових систем, медіа та алгоритмів, які використовують великі мовні моделі.

Одним із термінів, який використовують для опису таких загроз, є FIMI (Foreign Information Manipulation and Interference) — іноземне інформаційне маніпулювання та втручання.

Від фабрик тролів до маніпулювання даними для ШІ

Раніше масштабні інформаційні кампанії значною мірою спиралися на бот-мережі, тролів і масове поширення готових повідомлень. Сьогодні штучний інтелект дає змогу створювати значно більші обсяги контенту, швидко перекладати його різними мовами та адаптувати під конкретні аудиторії.

Одним із прикладів є тактика, яку дослідники називають LLM Grooming — цілеспрямоване наповнення інформаційного середовища контентом, який у подальшому може потрапити до джерел, що використовуються мовними моделями.

За даними досліджень, російська мережа «Правда» створила мільйони пропагандистських матеріалів на великій кількості вебдоменів. Серед завдань таких кампаній — збільшити видимість потрібних наративів у пошукових системах та інших цифрових середовищах.

Окремим напрямом залишається операція Doppelgänger, у межах якої створюється та поширюється сфабрикований контент із використанням назв, візуального стилю та інших елементів, що імітують відомі медіа.

У результаті користувач може зіткнутися з дезінформацією не лише у соціальних мережах чи на сумнівному сайті, а й отримати її у відповідь на звичайний запит до ШІ.

Чому ШІ може відтворювати неправдиву інформацію

Важливо розуміти: помилкова відповідь чатбота не обов’язково означає, що його навмисно «зламали» або «отруїли».

Мовні моделі працюють із великими масивами інформації та можуть відтворювати помилки, неповні відомості або суперечливі твердження. Крім того, якщо недостовірний контент широко поширений в інтернеті, він може ставати частиною інформаційного середовища, з яким працюють алгоритми.

Окремий ризик становить RAG Poisoning — отруєння баз знань, коли ШІ-система отримує інформацію із зовнішніх або внутрішніх джерел. Якщо серед них опиниться сфабрикований документ, модель може використати його під час формування відповіді.

Тому особливо важливо перевіряти інформацію, якщо ШІ використовується для роботи з актуальними подіями, державними рішеннями, законодавством або іншими чутливими темами.

Як не стати жертвою машинної дезінформації

Найкращий захист — не сприймати відповідь ШІ як остаточну істину. Перед тим як поширити інформацію або ухвалити рішення на її основі, варто перевірити її за кількома простими правилами.

1. Звертайте увагу на емоції

Якщо повідомлення викликає сильний страх, гнів, обурення або відчуття терміновості, це привід зупинитися й перевірити інформацію.

Особливо обережно варто ставитися до тверджень на кшталт: «про це всі мовчать», «терміново поширте», «завтра буде запроваджено нові обмеження».

Сильні емоції можуть спонукати людину діяти імпульсивно, не перевіряючи факти.

2. Зробіть паузу

Не поспішайте репостити текст, надсилати його в робочий чи сімейний чат або ухвалювати рішення лише на основі першої відповіді чатбота.

Навіть кілька хвилин паузи допоможуть перейти від емоційної реакції до перевірки фактів.

3. Запитайте про джерело

Якщо чатбот повідомляє конкретний факт, попросіть вказати джерело та перевірте його самостійно.

Зверніть увагу на:

• хто є автором інформації;
• де і коли її оприлюднили;
• чи є першоджерело;
• чи підтверджують цю інформацію інші незалежні джерела;
• де закінчуються факти й починаються припущення або оцінки.

4. Перевіряйте інформацію незалежно

Не обмежуйтеся посиланнями, які надає сама модель. Знайдіть офіційне повідомлення установи, документ або публікацію авторитетного медіа.

Для важливих повідомлень корисно перевіряти інформацію щонайменше за двома незалежними джерелами.

5. Не поширюйте неперевірене

Якщо підтвердження немає, найкраще рішення — не поширювати інформацію далі.

Якщо ж ви знайшли надійне підтвердження, під час поширення варто додати контекст і за можливості посилатися на першоджерело.

Цифрова гігієна — важлива навичка в епоху ШІ

Штучний інтелект стає дедалі потужнішим інструментом для пошуку та обробки інформації. Водночас це означає, що навички критичного мислення та перевірки фактів стають ще важливішими.

Навчитися розпізнавати маніпуляції та перевіряти інформацію допоможе освітній серіал «ДезінFAKEція» від Центру протидії дезінформації.

Переглянути серіал «ДезінFAKEція» на Дія.Освіта

Пам’ятайте: штучний інтелект може бути корисним помічником, але його відповідь не замінює перевірку фактів. Особливо тоді, коли йдеться про важливі рішення, суспільно чутливі теми або інформацію про події в Україні.

За матеріалами Мінцифри.