ChatGPT намагаються використати для впливу на вибори в США – розробники

Низку спроб використання моделей штучного інтелекту для створення підробленого контенту виявив розробник ChatGPT – компанія OpenAI. Йдеться у тому числі про створення довгих статей і коментарів у соцмережах, покликаних впливати на вибори.

У своєму звіті, опублікованому 9 жовтня, компанія відзначає, що кіберзлочинці все частіше використовують інструменти штучного інтелекту, включаючи ChatGPT, у своїх зловмисних діях, таких як створення та налагодження зловмисного програмного забезпечення, а також створення підробленого контенту для вебсайтів і платформ соціальних мереж.

Цього року компанія нейтралізувала понад 20 таких спроб, включаючи ті, що мали на меті вплив на вибори у Руанді, Індії, Європейському Союзі та США, відзначає Reuters.

У липні OpenAI заблокувала низку облікових записів із Руанди. За інформацією компанії, вони використовувалися для поширення «партизанських» повідомлень у соцмережі Х. Окремі повідомлення пропагандистської кампанії поширили понад 650 тис. разів.

Також повідомляється про іранську пропагандистську операцію з підробленими англомовними новинними сайтами, які нібито відображали різні політичні позиції американців, хоча невідомо, чи ці сайти коли-небудь взагалі залучали реальних людей. Згідно зі звітом, вони також використовували ChatGPT для створення публікацій у соцмережах на підтримку цих сайтів. Виявлені облікові записи OpenAI заблокувала у серпні.

Були заблоковані у цьому році ще дві кампанії, спрямовані на вплив на парламентські вибори в ЄС, а також на вибори в Індії. Ці кампанії не досягнули істотної взаємодії з користувачами соцмереж, проте невідомо, чи люди, які стояли за цими кампаніями, пізніше не застосували ШІ-моделі інших розробників.

Занепокоєння щодо використання інструментів ШІ та соцмереж зростає із наближенням американських виборів президента.

За даними Міністерства внутрішньої безпеки США, вони бачать зростаючу загрозу з боку росії, Ірану та Китаю – саме ці країни намагаються вплинути на вибори 5 листопада, в тому числі за допомогою ШІ для поширення фейкової або суперечливої інформації.