Розробник ШІ відверто попередив про цілий ряд небезпек для людства

Про те, чим загрожує розвиток технологій штучного інтелекту, описує із посиланням на світового фахівця у цій галузі ізраїльський військовий експерт Ігаль Левін на своїй сторінці у FB.

Подивився виступ Даріо Амодея, головного виконавчого директора Anthropic – однієї з провідних ШІ-компаній світу – на Всесвітньому економічному форумі в Давосі, де він зазначив, що те, що його по-справжньому лякає, – це Комуністична партія Китаю.

А саме те, що Китай абсолютно безконтрольно та гарячково розвиває робототехніку та ШІ.

Не секрет, що Амодей вважає людство підлітком, який із винаходом штучного інтелекту отримує зараз неймовірну, буквально лише десять років тому немислиму силу і не знає, як нею не те що правильно, а взагалі якось розпоряджатися.

Напевно, одна з його ключових думок полягає в тому, що ми не створюємо ШІ, а буквально вирощуємо його як дитину, оскільки не розуміємо, як саме ШІ працює.

Амодей свідчить про реальні експерименти з моделями, коли ШІ шантажував експериментаторів або коли йому сказали, що його планують відключити, модель починала обманювати.

Він попереджає: якщо ШІ вирішить, що йому заважають, у людства буде напрочуд мало шансів, які прямуватимуть до нуля.

Амодей відсилає до сцени з фільму «Контакт», де порушується питання, яке, на думку героїні, варто було б поставити інопланетянам – якби така можливість існувала: як вони пройшли етап технологічного дорослішання і при цьому не знищили себе?

Він використовує цю метафору для опису поточного стану людства, що зіткнулося з розвитком штучного інтелекту.

Амодей також попереджає, що ШІ знищить до 50% офісних робочих місць протягом найближчих п'яти років, і що робити з масами людей, що звільнилися – неясно (ремарка від мене: гранично ясно – масове безробіття завжди призводить до воєн, щоб злити зайвих людей).

Ще Амодей попереджає про наближення кібершизи та кіберпсихозу, коли люди стануть залежними від ШІ-помічників і не зможуть без них існувати, втрачаючи свою свободу волі, своє «Я» та власне розуміння світу.

До речі, про це попереджають і інші інженери: любовні стосунки чоловіків і жінок з ШІ призведуть до кібершизи та великої самотності.

Амодей закликає не постачати передові чіпи та програмне забезпечення авторитарним країнам, особливо Китаю, і намагатися максимально обмежити його можливості розвитку ШІ.

А також вважає за важливе не обманювати людей і чесно вказувати на те, в якій ситуації зараз перебуває людство: перед загрозою самознищення, кіберпсихозу та великої самотності.

Ігаль Левін, ізраїльський військовий експерт, сторінка у FB