Випуск №416
Що таке слопаганда і як їй можна протидіяти
____________________________________________
Екфразис — детальний словесний опис твору мистецтва, коли текст намагається відтворити картину або скульптуру.
Історична зміна
Шок! Сенсація! Ми вже вкотре стали свідками історичного моменту… Французи почали пити більше пива, ніж вина. За даними Міжнародної організації виноградарства і виноробства, минулого року різниця склала 10 мільйонів літрів на користь пива. Чому? Як так сталося? Що далі? Французи відмовляться від багетів? Ну взагалі-то так, за останні 80 років споживання цього хлібобулочного виробу у Франції впало на 86%.
А щодо пива і вина, то, по-перше, молоді покоління загалом п’ють менше алкоголю, але коли вже п’ють, то обирають пиво як менш формальний напій без зайвих ритуалів. Крім цього, пляшка пива містить майже вдвічі менше одиниць алкоголю, ніж великий келих червоного вина. До того ж люди тепер їдять з меншим офіціозом, ніж раніше.
Французька культура споживання вина завжди була нерозривно пов’язана з певними ритуалами: сімейна вечеря, відповідні келихи, підбір вина під страву. Адже вино потребує контексту. Але сучасний спосіб життя, коли значно легше замовити доставку, ніж власноруч готувати складні страви, змінив також харчові звички й усталені століттями ритуали. Їжу замовляють додому, їдять на дивані, наодинці або на ходу. У такій ситуації відкорковувати пляшку вина не зовсім зручно. З пивом все значно легше: знімаєш кришечку і п’єш. Пиво вписується чи не в будь-який момент і потребує менше контексту.
Що таке слопаганда?
Уже стільки разів давали Тобі обіцянку розповісти більше про слопаганду, що настав час нарешті таки зробити це. Термін «слопаганда» придумали троє дослідників: Міхал Клінцевич, експерт з когнітивних наук та штучного інтелекту, філософ Марк Альфано, відомий своїми роботами з епістемології та етики, і Амір Ебрагімі Фард, спеціаліст з машинного навчання. У березні 2025-го року вони опублікували статтю «Слопаганда: зв’язок між пропагандою та генеративним ШІ», в якій, зокрема, ввели це поняття і дали йому таке визначення: «слопаганда — це небажаний ШІ-згенерований контент, який навмисно поширюється з метою маніпуляції переконаннями для досягнення політичних цілей». У статті автори досліджують, чому слопаганда є якісно новим і особливо небезпечним явищем порівняно з традиційною пропагандою, та пропонують способи протидії.
Отже, чим слопаганда відрізняється від пропаганди? Клінцевич, Альфано і Фард виділяють 4 ключові риси:
- Перша з них — таргетування. Слопаганду можуть підлаштовувати під конкретну людину та її психологічний профіль. Автори порівнюють це з тим, що свого часу робила Cambridge Analytica, британська компанія, яка під час президентських виборів 2016-го року у США без згоди зібрала дані мільйонів користувачів Facebook і використала їх для психологічно таргетованої політичної реклами на підтримку Трампа. Але слопаганда — це наче Cambridge Analytica на стероїдах. Ця компанія працювала з відносно грубими інструментами. Так, у них були дані про мільйони людей, але контент для них все одно створювали вручну, і він був однаковим для цілих демографічних груп. Сьогодні ж генеративний ШІ може автоматично створювати унікальне, персоналізоване повідомлення для кожної конкретної людини, враховуючи не просто вік чи її розташування, а й психологічний тип, емоційні тригери, поточний настрій і навіть час доби.
- Далі — масштаб. Генеративний ШІ дозволяє виробляти величезні обсяги контенту швидко і за копійки.
- Третя відмінна риса — швидкість. Слопаганда поширюється блискавично, бо ми сьогодні постійно, щільно та одночасно з’єднані між собою через безліч каналів — соцмережі, месенджери, агрегатори новин. Через цю гіперзв’язність будь-який контент може миттєво розлетітися від однієї людини до мільйонів, а алгоритми рекомендацій ще й активно підштовхують його далі. У цьому контексті дослідники згадують так званий «Принцип асиметрії брехні»: щоб спростувати одну порцію дезінформації, потрібно значно більше зусиль, ніж щоб її створити. У контексті слопаганди цей принцип стає ще гострішим, адже якщо раніше дезінформацію створювали люди і це хоч якось обмежувало її обсяг, то тепер ШІ може генерувати її швидше, ніж будь-яка команда фактчекерів фізично встигне реагувати.
- І останнє — переконливість. Ще три роки тому одне з досліджень показало, що дезінформація, згенерована моделлю GPT-3, є більш переконливою для користувачів інтернету, ніж та, яку створюють люди. Крім цього, інші дослідження свідчать про те, що персоналізовані повідомлення, створені ШІ, важко нейтралізувати навіть точними спростуваннями. Частково це пояснюють так званим «ефектом ілюзорної правди». Цей феномен вперше задокументували ще у 1977-му році, і він полягає у тому, що люди оцінюють твердження як більш правдиві просто тому, що вже чули їх раніше. Коли сьогодні ШІ може заповнювати інформаційний простір одним і тим самим наративом у мільйонах варіацій одночасно, ефект ілюзорної правди спрацьовує в недосяжних раніше масштабах.
Один із розділів Клінцевич, Альфано та Фард присвячують тому, чому наш мозок такий вразливий до слопаганди. Автори статті спираються на когнітивну науку і виділяють кілька механізмів, які слопаганда особливо ефективно експлуатує.
- Перший з них — економіка уваги. Сьогодні ми живемо в умовах інформаційного перевантаження, коли контенту набагато більше, ніж ми фізично здатні опрацювати. В таких умовах мозок змушений фільтрувати інформацію, і він це робить не завжди раціонально. Ми інстинктивно реагуємо на емоційно заряджений контент, погрози, тривожні новини. Такою вже є наша еволюційна спадщина, яка колись допомагала людству виживати. Слопаганда цим користується, генеруючи нескінченний потік тривожних, обурливих, загрозливих повідомлень, які буквально захоплюють нашу увагу і через неї потрапляють у довготривалу пам’ять.
- Другий механізм — негативне упередження, суть якого полягає у тому, що ми краще запам’ятовуємо те, що викликає сильну емоційну реакцію, особливо негативну. Слопаганда, знаючи психологічний профіль конкретної людини, може підбирати саме той тип контенту, який викличе у неї найсильнішу негативну реакцію і так глибше вкоріниться у пам’яті.
- Далі — упередження підтвердження. Ми схильні сприймати інформацію, яка збігається з нашими вже наявними переконаннями, і відкидати ту, що їм суперечить. Мікротаргетована слопаганда може досить точно оцінити, що людина вже думає, і підсовувати їй контент, який зміцнює саме ці переконання, не показуючи альтернативних точок зору.
- І четвертий та найважливіший механізм — це стійкість дезінформації. Справа в тому, що навіть коли людина дізнається, що якась інформація була хибною, слід від неї в мозку нікуди не зникає. Спростування не працює наче видалення тексту з файлу: брехню забираємо, факти залишаємо. Ні! Спростування лише додає нову інформацію поруч зі старою, і остання продовжує впливати на рішення та судження. Ба більше, саме спростування може парадоксально посилити упередження підтвердження. Якщо людина не хоче вірити у виправлення, вона чіпляється за початкову версію ще міцніше.
Разом ці чотири механізми створюють ідеальне середовище для слопаганди. Вона захоплює увагу, емоційно закріплюється в пам’яті, підтверджує наявні упередження і навіть після спростування залишає слід, який продовжує впливати на те, як ми сприймаємо світ і ухвалюємо рішення.
Клінцевич, Альфано та Фард намагаються знайти способи протидії слопаганді. І свої варіанти розбивають на 3 рівні. Рівень перший — психологічне втручання. Найперспективнішим інструментом автори вважають пребанкінг. На відміну від дебанкінгу, який спростовує дезінформацію вже після того, як людина з нею зіштовхнулася, пребанкінг працює на випередження. Себто людині заздалегідь пояснюють, що вона незабаром може зустріти маніпулятивний контент, які тактики використовують його творці і чому цьому не варто довіряти. Дослідження показують, що це працює ефективніше, ніж спростування.
Інший інструмент — наджі, тобто м’які підштовхування до кращих рішень. Наприклад, це може бути як запитання «Чи впевнений ти, що ця новина правдива?», яке з’являється у соціальних мережах перед тим, як людина натисне кнопку «поширити». Або ж це може бути не запитання, а нагадування, що ділитися достовірною інформацією — це норма хорошого тону.
Автори статті також зазначають, що на цьому першому рівні психологічного втручання ефективними будуть ігри для розвитку медіаграмотності. Наприклад, ті, де гравці беруть на себе роль творця дезінформації і так вчаться розпізнавати маніпулятивні тактики зсередини.
Ну і last but not least — довгострокова освіта з цифрової грамотності. Автори наполягають, що в найближчі роки це буде необхідністю.
Другий рівень протидії слопаганді — технологічне втручання. Тут авторам статті йдеться про модерацію контенту. Так, платорми її і зараз мають, але система працює далеко не ідеально, тож варто її покращувати з фокусом на протидію слопаганді.
Окремо Клінцевич, Альфано та Фард пропонують ідею плагіна для критичного мислення. Це інструмент, який під час гортання стрічки нагадував би про необхідність перевірити джерело тієї чи тієї інформації, відраджував би від репостів без переходу за покликанням і допомагав би підписуватися на більш різноманітні та надійні джерела. Такого плагіна наразі не існує, але автори стверджують, що на основі наявних досліджень його вже можна би було створити.
Психологічного та технологічного втручання буде недостатньо, щоб протидіяти слопаганді, тому що це насамперед проблема влади та грошей, тому з’являється третій рівень — політично-економічне втручання. Надвеликі статки дають окремим людям, як от Ілон Маск, можливість забруднювати інформаційний простір у глобальному масштабі. Звідси випливає фінальна пропозиція статті. Дещо неочікувана, варто відзначити, бо це глобальний податок на статки. Клінцевич, Альфано та Фард вважають, що таке рішення одночасно обмежило би владу олігархів і водночас могло би фінансувати інструменти з двох попередніх рівнів втручань (психологічного та технологічного). Вони самі визнають, що глобальний податок на статки звучить як щось нездійсненне, але разом з тим нагадують, що саме «нездійсненність» часто є аргументом тих, хто несправедливо виграє від нинішнього стану речей.
Про слопаганду ми розповідали за фінансової підтримки Європейського Союзу та ERIM. Усе сказане є виключною відповідальністю Sebto Media і не обов’язково відображає позицію наших партнерів.
Народна партія таргана
У квітні та травні в Індії відбувалися регіональні вибори. І, здається, прем’єр-міністр Нарендра Моді має бути задоволений результатами. Зокрема, його Bharatiya Janata вперше в історії здобула владу у Західній Бенгалії, де останні 15 років правила Мамата Банерджі, одна з найвпливовіших політикинь Індії. Партія Моді насолоджується ще більшим політичним домінуванням, ніж вона мала до цього. Під контролем Bharatiya Janata 22 із 36 штатів і союзних територій Індії.
І хоч на регіональних виборах для Нарендри Моді все склалося доволі добре, зараз він наражається на виклик, якого, здається, не чекав. В Індії набирає популярності сатиричний протестний рух, символом якого став ШІ-згенерований тарган.
