CEAS ALERT

AI DATA POISONING — ІНФОРМАЦІЙНА ВІЙНА ТЕПЕР СПРЯМОВАНА Й НА ШТУЧНИЙ ІНТЕЛЕКТ

Сфера: Когнітивна війна / ШІ / Дезінформація / Економічний вплив
Регіон: Росія – Україна – Європа
Рівень загрози: ВИСОКИЙ

ПОПЕРЕДЖЕННЯ

У інформаційній війні формується новий напрям: масове наповнення Інтернету контентом, розрахованим не лише на людей, а й на системи штучного інтелекту, які автоматично збирають, індексують та узагальнюють інформацію.

Одним із найбільш задокументованих прикладів є проросійська мережа Pravda / Portal Kombat. Сотні автоматизованих сайтів у великих масштабах поширюють наративи, вигідні Кремлю. Частина таких матеріалів уже з’являлася у відповідях систем ШІ. (Le Monde.fr⁠)

ЯК ЦЕ ПРАЦЮЄ

Фальшивий наратив → тисячі публікацій → автоматичні переклади → індексація → збір інформації системами ШІ → зовні переконливе узагальнення.

Головний ризик — фальшиве підтвердження: десятки сайтів можуть створювати враження незалежних джерел, хоча фактично всі вони повторюють один і той самий первинний матеріал.

The Washington Post повідомляв, що частина інфраструктури Pravda фактично може бути орієнтована більше на автоматизовані веб-сканери, ніж на реальну людську аудиторію. (The Washington Post⁠)

ЕКОНОМІЧНА ЗАГРОЗА

Особливо небезпечним може стати масове поширення повідомлень про те, що іноземні інвестори нібито масово повертаються до Росії, санкції втрачають ефективність, а західні компанії готуються відновити роботу на російському ринку.

Якщо такі матеріали тиражуються тисячами, системи ШІ для фінансового аналізу можуть повторно знаходити один і той самий наратив та формувати штучно оптимістичну картину російської економіки.

Водночас CEAS проводить важливе розмежування: спроби впливати на інформаційне середовище, з якого отримують дані системи ШІ, документально підтверджені. (Axios⁠)

Однак окрема операція, спеціально побудована навколо твердження про «масове повернення іноземних інвесторів до Росії», потребує додаткових доказів для остаточної атрибуції.

ОЦІНКА CEAS

Рівень загрози: ВИСОКИЙ

Мета інформаційної операції змінюється:

раніше — змусити людину повірити у неправду;

тепер — вплинути на інформацію, з якої машина формує свою відповідь.

Тому ключовими стають перевірка першоджерела, походження сайтів, ланцюга цитування та реальної незалежності публікацій.

Десять статей — це не десять доказів, якщо всі вони походять з однієї інформаційної мережі.

CEAS — РОЗУМІТИ • ПЕРЕДБАЧАТИ • ЗАХИЩАТИ