Боти зі штучним інтелектом – загроза демократії?

Скандальний експеримент з АІ ботами ставить під велике питання майбутнє демократії. Таке припущення робить у своєму дописі в мережі Facebook фахівець з питань AI (Artificial intelligence – штучного інтелекту), гендиректор Allbionics.ai та Innolytics Group Володимира Бандури.

Нещодавно науковці з Університету Цюріху провели, як на мене, дуже цікавий експеримент. Вони намагалися з'ясувати, наскільки «погані актори» можуть успішно використовувати боти з штучним інтелектом для переконання людей в онлайн дискусіях.

Для цього створили облікові записи для ботів на Реддіті (найбільша онлайн платформа форумів). Дали їм певний портрет та історію, при чому досить таки своєрідну (один з ботів представляв уявного чорношкірого чоловіка, який постраждав від зґвалтування і виступав проти популярного руху Black Lives Matter). 

Вони могли не тільки бачити повідомлення від інших користувачів і писати відповіді. Але і враховувати інші повідомлення цих користувачів та інформацію про них (що користувач пише в розділі про себе), і це дозволяло ботам створювати дуже тарґетовані і персональні аргументи для переконання інших користувачів. З таким підходом це у них дуже добре виходило. 

Зрозуміло, що такі боти – це сутності дуже масштабовані. Тільки в цьому дуже обмеженому експерименті вони написали тисячі коментарів. 

Сам експеримент викликав великий скандал, бо адміністрацію Реддіта ніхто про нього не попереджав, як і користувачів. А таке використання ботів без узгодження є забороненим політиками порталу. Їх це прям настільки обурило, що вони готують офіційні юридичні претензії. 

Не знаю як там воно закінчиться. Але сам експеримент безперечно вдалий і показовий. 

Вся ідея демократії будується на вільному і відкритому для всіх обговоренні важливих для суспільства рішень – вибори посадових осіб, ухвалення певних важливих законів тощо. І очевидно як 2+2, що штучний інтелект може швидко перевернути цю конструкцію як в плюс, так і в мінус. При чому, навіть гравцями не з даного конкретного суспільства. 

Взагалі нескладно уявити яку-небудь групу з раші, північної кореї чи такого плану місцин, яка створює тисячі чи десятки тисяч (чи хоч  мільйони) ботів, наводнює ними соцмережі у певній країні. Системно вступає в сотні тисяч дискусій. Накопичує багаж найбільш дієвих аргументів. Координує зусилля. Вивчає своїх співрозмовників у діалогах, створює сильні персональні аргументи. І це все – проти людей, які в більшості навіть не розуміють, що таке може бути, при тому, що це вже буденна реальність. 

З іншого боку, також цілком можна уявити собі й сценарії значного посилення демократії. Коли АІ виступає як грибниця, певне розумне середовище, у якому суспільство може кристалізувати свою волю та оптимальні рішення. В якому він може бути ефективним модератором у діалозі мільйонів. І, врешті, відповідно перевести демократію зі  значною мірою ілюзорного стану (як є зараз) – у реальність. Що думаєте?

Власне, дослідження виглядають так, що їх заблокують. Принаймні до драфту публікації доступ вже обмежений. Але деякі статті про це ще можна прочитати, наприклад, тут. 

Володимимр Бандура, СЕО Allbionics.ai та Innolytics Group, сторінка у FB