Information manipulation and manufactured consensus in social media: detection methods and strategies

This article addresses the issue of information manipulation and the deliberate creation of manufactured consensus within the dynamic landscape of social media. It examines the motivations and tactics employed by various actors, including government entities, political groups, commercial enterprises, and individuals, who engage in manipulative practices. The article explores the nature of artificial media activity, encompassing the use of bots, coordinated behavior patterns, manipulation of content, and trending topics. The research investigates the specific characteristics of manufactured consensus formation across various social media platforms, including YouTube, Facebook, and Telegram. It proposes an approach for identifying and analyzing coordinated activity, drawing upon a combination of quantitative and qualitative methodologies. A case study based on YouTube comments is presented to illustrate the practical application of detection methods for coordinated media activity. A scenario developed in Orange Data Mining allowed for the identification of such indicators of coordinated activity as bursts, posting of similar comments, changes in the emotional tone of comments, and time-based coordination. The analysis reveals that even neutral content with a relatively low audience can become a target for coordinated manipulative efforts, highlighting the scale of the problem. The findings of this study underscore the critical need for continued research and development of sophisticated algorithms and methods for detecting and mitigating the impact of artificial and coordinated media activity. The spread of manipulation undermines trust in information in the digital space, making it difficult to distinguish reliable data from manipulative content. Manufactured consensus contributes to the polarization of society, amplifying extreme viewpoints and suppressing moderate voices. Addressing this challenge requires a comprehensive approach, encompassing scientific, technological, educational, and legislative measures.

Ця стаття зосереджена на питанні маніпуляції інформацією та навмисного створення штучного консенсусу в динамічному ландшафті соціальних медіа. Вона досліджує мотиви та тактики, які застосовують різні актори, включаючи державні органи, політичні групи, комерційні підприємства та окремі особи, котрі займаються маніпулятивними практиками. Стаття розглядає характер штучної діяльності в медіа, що охоплює використання ботів, координовані моделі поведінки, маніпуляцію контентом та трендові теми. Дослідження зосереджується на конкретних характеристиках формування штучної згоди на різних платформах соціальних медіа, таких як YouTube, Facebook та Telegram. Воно пропонує підхід для ідентифікації та аналізу координованої діяльності, використовуючи комбінацію кількісних та якісних методологій. Проведено тематичне дослідження на основі комендоров у YouTube, яке демонструє практичне застосування запропонованих методів виявлення координованої медіа діяльності. Сценарій, що розроблений в Orange Data Mining, дозволив виявити такі показники координованої діяльності, як сплески активності, публікація схожих коментарів, зміни в емоційному тоні комендоров та часова координація. Аналіз результатів показав, що навіть нейтральний контент із відносно невеликою аудиторією може стати мішенню для координованих маніпулятивних зусиль, підкреслюючи масштаб проблеми. Висновки підкреслюють критичну потребу в продовженні досліджень та розробці складних алгоритмів і методів для виявлення та пом'якшення впливу штучної та координованої медіа діяльності. Розповсюдження маніпуляцій підриває довіру до інформації у цифровому просторі, ускладнюючи відрізнення надійних даних від маніпулятивного контенту. Штучний консенсус сприяє поляризації суспільства, посилюючи екстремальні погляди і придушуючи помірні голоси. Вирішення цього виклику вимагає комплексного підходу, що включає наукові, технологічні, освітні та законодавчі заходи.