Modern AI methods for detecting propaganda in text
Propaganda is a key weapon of modern cognitive warfare, vividly illustrated by Russia’s war against Ukraine, where information manipulation has become as strategically significant as military action. Propaganda’s subtle psychological and linguistic tactics challenge traditional detection methods, de...
Збережено в:
| Дата: | 2025 |
|---|---|
| Автор: | |
| Формат: | Стаття |
| Мова: | English |
| Опубліковано: |
Інститут проблем реєстрації інформації НАН України
2025
|
| Теми: | |
| Онлайн доступ: | http://drsp.ipri.kiev.ua/article/view/336147 |
| Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
| Назва журналу: | Data Recording, Storage & Processing |
Репозитарії
Data Recording, Storage & Processing| id |
drspiprikievua-article-336147 |
|---|---|
| record_format |
ojs |
| institution |
Data Recording, Storage & Processing |
| baseUrl_str |
|
| datestamp_date |
2025-08-09T14:55:54Z |
| collection |
OJS |
| language |
English |
| topic |
propaganda detection natural language processing artificial intelligence large language models reasoning language models multi-agent systems |
| spellingShingle |
propaganda detection natural language processing artificial intelligence large language models reasoning language models multi-agent systems Бойко , О.А. Modern AI methods for detecting propaganda in text |
| topic_facet |
propaganda detection natural language processing artificial intelligence large language models reasoning language models multi-agent systems виявлення пропаганди обробка природної мови штучний інтелект великі мовні моделі мовні моделі з логічним міркуванням багатоагентні системи |
| format |
Article |
| author |
Бойко , О.А. |
| author_facet |
Бойко , О.А. |
| author_sort |
Бойко , О.А. |
| title |
Modern AI methods for detecting propaganda in text |
| title_short |
Modern AI methods for detecting propaganda in text |
| title_full |
Modern AI methods for detecting propaganda in text |
| title_fullStr |
Modern AI methods for detecting propaganda in text |
| title_full_unstemmed |
Modern AI methods for detecting propaganda in text |
| title_sort |
modern ai methods for detecting propaganda in text |
| title_alt |
Сучасні методи штучного інтелекту для виявлення пропаганди в тексті |
| description |
Propaganda is a key weapon of modern cognitive warfare, vividly illustrated by Russia’s war against Ukraine, where information manipulation has become as strategically significant as military action. Propaganda’s subtle psychological and linguistic tactics challenge traditional detection methods, demanding more sophisticated, context-aware technologies. This paper begins by reviewing supervised AI models, noting their dependence on expertly annotated corpora. Then, it outlines recent progress in unsupervised methods, showing how large language models (LLMs) can flag manipulative tactics with minimal labeled data while supplying human-readable justifications. Finally, three directions for future research are proposed: (1) reasoning language models for stepwise analysis; (2) costef-ficient multi-agent systems; and (3) hybrid frameworks that combine the first two. Advancing these methods offers a promising pathway for safeguarding democratic societies against evolving propaganda strategies. |
| publisher |
Інститут проблем реєстрації інформації НАН України |
| publishDate |
2025 |
| url |
http://drsp.ipri.kiev.ua/article/view/336147 |
| work_keys_str_mv |
AT bojkooa modernaimethodsfordetectingpropagandaintext AT bojkooa sučasnímetodištučnogoíntelektudlâviâvlennâpropagandivtekstí |
| first_indexed |
2025-09-17T09:26:44Z |
| last_indexed |
2025-09-17T09:26:44Z |
| _version_ |
1850423583886540800 |
| spelling |
drspiprikievua-article-3361472025-08-09T14:55:54Z Modern AI methods for detecting propaganda in text Сучасні методи штучного інтелекту для виявлення пропаганди в тексті Бойко , О.А. propaganda detection, natural language processing, artificial intelligence, large language models, reasoning language models, multi-agent systems виявлення пропаганди, обробка природної мови, штучний інтелект, великі мовні моделі, мовні моделі з логічним міркуванням, багатоагентні системи Propaganda is a key weapon of modern cognitive warfare, vividly illustrated by Russia’s war against Ukraine, where information manipulation has become as strategically significant as military action. Propaganda’s subtle psychological and linguistic tactics challenge traditional detection methods, demanding more sophisticated, context-aware technologies. This paper begins by reviewing supervised AI models, noting their dependence on expertly annotated corpora. Then, it outlines recent progress in unsupervised methods, showing how large language models (LLMs) can flag manipulative tactics with minimal labeled data while supplying human-readable justifications. Finally, three directions for future research are proposed: (1) reasoning language models for stepwise analysis; (2) costef-ficient multi-agent systems; and (3) hybrid frameworks that combine the first two. Advancing these methods offers a promising pathway for safeguarding democratic societies against evolving propaganda strategies. Пропаганда залишається одним із найбільш небезпечних інструментів сучасної когнітивної війни, здатним формувати сприйняття, спотворювати істину та посилювати розбіжності й напруження всередині суспільства. Руйнівний вплив пропаганди особливо очевидний у контексті війни росії проти України, де інформаційні маніпуляції стали не менш стратегічним елементом, ніж безпосередньо бойові дії. У сучасну цифрову епоху методи поширення пропаганди стають ще більш ефективними, використовуючи різноманітні платформи для швидкого охоплення широкої аудиторії та впливу на неї. Через заплутану багаторівневу природу пропаганди, що часто базується на тонких риторичних прийомах та емоційних маніпуляціях, традиційні методи розпізнавання зазвичай виявляються недостатньо ефективними для виявлення та протидії таким наративам. Складне поєднання психологічних, емоційних і лінгвістичних тактик, притаманних пропаганді, вимагає використання більш досконалих і чутливих до контексту методів розпізнавання. Згадані виклики розглянуто шляхом глибокого аналізу сучасних методів виявлення пропаганди на основі штучного інтелекту. Починаючи з класичних методів керованого навчання, проаналізовано їхню ефективність та обмеження, зокрема залежність від якісно анотованих наборів даних. Розглянуто передові некеровані підходи з акцентом на потенціал великих мовних моделей (LLM), таких як GPT-4. Ці моделі дають змогу зменшити залежність від великих обсягів анотованих даних і мають унікальні можливості інтерпретації, що забезпечують прозорість і пояснювальну спроможність відповідних методів виявлення пропаганди. У контексті майбутніх досліджень запропоновано три перспективні напрями: a) мовні моделі з логічним міркуванням (reasoning), що орієнтовані на багатокрокове, логічно аргументоване виявлення маніпулятивних елементів; б) багатоагентні системи, що координують економічно ефек-тивні моделі, підсилені передовими техніками конструювання підказок (prompt engineering); в) гібридні архітектури, які поєднують перші два підходи задля досягнення балансу між точністю, інтерпретованістю та масштабованістю. Ці напрями здатні ефективно задовольнити нагальну потребу в надійних системах аналізу інформації, що зможуть протистояти динамічній природі еволюції пропаганди. Розвиваючи відповідні методи штучного інтелекту, ми рухаємося до створення більш ефективних інструментів моніторингу та аналізу пропаганди, що, зрештою, сприятиме підвищенню стійкості демократичних суспільств перед загрозами сучасної інформаційної війни. І л.: 6. Бібліогр.: 13 найм. Інститут проблем реєстрації інформації НАН України 2025-05-20 Article Article application/pdf http://drsp.ipri.kiev.ua/article/view/336147 10.35681/1560-9189.2025.27.1.336147 Data Recording, Storage & Processing; Vol. 27 No. 1 (2025); 120-131 Регистрация, хранение и обработка данных; Том 27 № 1 (2025); 120-131 Реєстрація, зберігання і обробка даних; Том 27 № 1 (2025); 120-131 1560-9189 en http://drsp.ipri.kiev.ua/article/view/336147/324972 Авторське право (c) 2025 Реєстрація, зберігання і обробка даних |