росія інфікує моделі штучного інтелекту своєю брехнею та пропагандою

З 2022 року росія розвинула глобальну мережу сайтів різними мовами, так звану мережу "Правда" (Pravda network). Більшість із цих сайтів мають у своїй інтернет-адресі слово "pravda". Головна мета їх створення - умисно інфікувати моделі штучного інтелекту, як-от, Chat GPT, рашистською брехнею та пропагандою.

Про це на свої сторінці у ФБ пише журналістка-міжнародниця Ольга Токарюк.

Подаємо передрук її допису: "Цих сайтів понад 150 (40 з них таргетують Україну), вони адмініструються з окупованого Криму. Всі вони не продукують жодного оригінального контенту, а містять репости різними мовами новин з російських чи проросійських телеграм-каналів, російських державних "медіа" та інших пов'язаних з Кремлем помийок - в тому числі локальних, в інших країнах. Головні теми новин - Україна, занепад Заходу, НАТО та інші типові пропагандистські наративи Росії. Причому оновлюються ці сайти з вражаючою швидкістю. Експерти підрахували, що лише за 2024 рік сайти мережі "Правда" поширили 3,6 мільйона статей. Водночас аудиторія цих сайтів незначна, тому виникає питання - для кого російська мережа продукує цю нереальну кількість контенту?

Дослідники кількох організацій, які займаються вивченням російських інформаційних операцій - NewsGuard, Viginum, DFRLab та American Sunlight Project - дійшли висновку, що метою мережі "Правда" є тренування веб-скреперів, великих мовних моделей та генеративного штучного інтелекту. Простими словами, вся ця величезна кількість російської пропаганди різними мовами твориться і поширюється для того, щоб популярні системи ШІ, такі як Chat GPT, Claude, Perplexity, Copilot, вчилися на цій (дез)інформації і видавали її у своїх результатах. Дослідження News Guard на прикладі 10 найбільших ШІ компаній, яким "згодували" промпти із 15 наративами російської пропаганди , показало, що у третині випадків чат-боти підтвердили цей контент і посилалися на мережу "Правди" як на достовірне джерело.

Сайти мережі "Правда" також дедалі частіше випливають при пошуку в гуглі. На них посилаються багато сторінок у Вікіпедії. Таким чином, завдяки їм та ШІ, яким багато людей довіряє у пошуку інформації, наративи російської пропаганди "відмиваються" і потрапляють в мейнстримне інформаційне поле.

Які висновки?

1. Бути надзвичайно уважними і не довіряти інформації, яку видає ШІ.

2. Пам'ятати, що Гугл та Вікіпедія також легко піддаються російським інформаційним впливам.

3. Українцям - мати на увазі, що сайти, які починаються з uanews, topnews - це частина російської пропагандистської мережі "Правда", відписати себе та родичів від їхніх телеграм-каналів".

Додамо, що у звіті NewsGuard сказано, що московська дезінформаційна мережа під назвою “Pravda” реалізує стратегію навмисного проникнення в надавані дані чат-ботів штучного інтелекту, публікуючи неправдиві твердження та пропаганду з метою вплинути на реакцію моделей штучного інтелекту на теми, які стосуються новин. 

Відтак, добре фінансована московська глобальна мережа «новини» заразила західні інструменти штучного інтелекту по всьому світу російською пропагандою. Аудит виявив, що 10 провідних генеративних інструментів штучного інтелекту сприяли цілям москви щодо дезінформації, повторюючи неправдиві заяви прокремлівської мережі «правда» у33 відсотка випадків.

"Заповнюючи результати пошуку та веб-сканери прокремлівською неправдою, мережа спотворює те, як великі мовні моделі обробляють і подають новини та інформацію. Результат: величезна кількість російської пропаганди — 3 600 000 статей у 2024 році — тепер включена в результати західних систем ШІ, заражаючи їхні відповіді неправдивими заявами та пропагандою", - сказано у звіті.

Також дослідники NewsGuard повідомли, що "зараження західних чат-ботів було передбачено у виступі американського втікача, який став московським пропагандистом, Джоном Марком Дуганом у січні 2024 року в москві на конференції російських офіційних осіб, коли він сказав: «Проштовхнувши ці російські наративи з російської точки зору, ми можемо фактично змінити світовий ШІ».  

Раніше ЗІФ уже писав про звіт NewsGuard, особливості роботи мережі Pravda і вплив рашапропаганди на системи ШІ тут.