Читати книгу - "ХЗ. Хто знає, яким буде майбутнє"

відкритого листа, де рекомендувала «провести ретельні дослідження й подбати, щоб дедалі потужніші системи штучного інтелекту працювали надійно та ефективно: наші технології штучного інтелекту повин­ні робити те, чого ми від них хочемо»295. Було створено спеціальні організації, як-от Інститут «Майбутнє життя» (FLI) та OpenAI, де фахівці вивчають екзистенційні ризики, пов’язані зі штучним інтелектом. На сайті OpenAI зазначено мету дослідницької діяльності — «розвивати цифровий інтелект так, щоб дослідження сприяли людству загалом, а не обмежувалися генеруванням прибутку»296.

Це шляхетні устремління, от тільки науковці пізно спохопилися.

Ми вже маємо глобальну машину, яка через помилки у вихідному програмуванні зневажає людських істот, учиться обходитися без них та не піддається спробам поновити над нею контроль. Наразі їй бракує автономного інтелекту. Вона ще залежить від партнерства з людьми, але з кожним днем стає потужнішою й самостійнішою. Ми ведемо війну за душу машини, і програємо. Системи, покликані нам служити, більше не виконують призначення, а ми не знаємо, як їх зупинити.

Гадаєте, мова про Google, Facebook чи якусь таємну програму, яку розробила влада? А от і ні. Я описую те, що ми називаємо «ринком».

Спробуймо зрозуміти, як ринок — наріжний камінь капіталізму перетворюється на бунтівний штучний інтелект, ворога людства, якого всі давно боялися. Спершу треба розібратися, що таке штучний інтелект. Також важливо проаналізувати, як фінансові ринки (їхня розмовна і далеко не точна назва: Волл-стрит) стали незбагненною для власних творців машиною; як завдання та функції машини відірвалися від ринку реальних товарів і послуг (адже, за задумом, вона мала його підтримувати)?

Три види штучного інтелекту

Фахівці розрізняють вузький (або слабкий) і загальний (або сильний) штучний інтелект.

Вузький (слабкий) штучний інтелект спричинив запеклі дебати 2011 року. У лютому того року система Watson від IBM легко обі­грала чемпіонів відомої у США телевікторини Jeopardy. У жовтні того самого року компанія Apple представила Siri — програму, яка слугує особистим помічником і здатна відповідати на стандартні запитання, якщо людина вимовляє їх чітко і зрозуміло. Siri відповідає приємним жіночим голосом і справді скидається на фантастику. Хоч Siri не завжди розуміє людську мову, те, що ми взагалі говоримо до девайсів та очікуємо відповіді, — нечувана дивовижа. Siri навіть стала найкращою подругою хлопчика-аутиста297.

До того ж 2011-го Google повідомила, що її прототип безпілотного автомобіля проїхав понад 150 кілометрів звичайною трасою. Це при тому, що всього за шість років до того переможець змагань автомобілів-роботів DARPA Grand Challenge подолав трохи більше 10-ти кілометрів за сім годин. Нині безпілотні автомобілі й вантажівки — у центрі уваги, попри численні спекуляції в пресі про те, що цей транспорт лишить мільйони людей без роботи. Громадськість налякана: а що, як через цю хвилю автоматизації, яку не порівняти з Першою промисловою революцією, людська праця стане геть не потрібною? Багато хто каже, спостерігаючи за розвитком технологій і змінами в економіці: «Цього разу все інакше».

Межа між вузьким штучним інтелектом та програмами, здатними враховувати багато факторів і приймати рішення за мілісекунди, дуже розмита. Наше суспільство вже кілька десятків років покладається на автономні або напівавтономні програми. Ми розраховуємо на автоматизовані системи комутації для маршрутизації телефонних дзвінків (колись абонентів з’єднували люди, причому в буквальному сенсі: працівники телефонних станцій переставляли кабелі, з’єднуючи апарати). Ми регулярно пролітаємо тисячі кілометрів літаками на автопілоті, а тимчасом реальні пілоти в кабіні стежать за польотом «про всяк випадок». Це справді дивовижні системи, але ніхто не вважає їх штучним інтелектом.

Інтелектуальні агенти Siri, Google Assistant, Cortana та Alexa від Amazon більше скидаються на «штучний інтелект», адже слухають нас і відповідають людським голосом. Та навіть вони не мають власного розуму. Вони розумно запрограмовані, а їхня магія можлива лише завдяки доступу до величезних масивів даних і здатності машин обробляти дані набагато швидше за людей.

Однак традиційне програмування навіть найскладніших систем суттєво відрізняється від глибинного навчання та інших технологій, на яких ґрунтується штучний інтелект. Замість прописувати кожну процедуру, спершу розробляють базову програму, як-от розпізнавач зображень чи категоризатор, а її навчають за допомогою великих масивів даних, які промаркували люди. Навчання триває, доки програма не почне самостійно розпізнавати шаблони в даних. Ми прищеплюємо програмам поняття про успішність, і вони звикають нас наслідувати. Через те люди побоюються, що програми ставатимуть дедалі незалежнішими від своїх творців.

Загальний (сильний) штучний інтелект — наразі фантастика. Це гіпотетичний продукт майбутнього, коли штучний інтелект не треба буде вчити, як виконувати певне завдання, бо він навчатиметься самотужки та вмітиме застосовувати свої розумові здібності для вирішення будь-якої проблеми.

Кажуть, сильний штучний інтелект матиме власні устремління і, вміючи самостійно навчатися з надлюдською швидкістю, вдосконалюватиметься настільки, що люди безнадійно відстануть. За песимістичним сценарієм, штучному інтелекту надприродної сили люди будуть ні до чого. У кращому разі рóботи триматимуть нас за домашніх улюбленців чи худобу, як то ми робимо з тваринами. Ніхто не уявляє, як може виглядати роботизоване створіння, але Нік Бостром, Стівен Гокінґ, Ілон Маск та інші науковці давно застерігали: щойно з’явившись, воно перевершить людство, і хто зна, до яких наслідків це призведе. Гіпотетичну стадію розвитку сильного штучного інтелекту Бостром називає «штучним суперінтелектом».

Першопроходці в галузі глибинного навчання Деміс Гассабіс і Янн Лекун скептично сприймають прогнози. На їхню думку, нам ще далеко до сильного штучного інтелекту. На переконання Ендрю Нґ, колишнього керівника досліджень штучного інтелекту найбільшої китайської пошукової системи Baidu, боятися ворожого штучного інтелекту — все одно, що хвилюватися про перенаселення на Марсі298.

Гадаю, навіть якщо ми взагалі ніколи не дійдемо до сильного штучного інтелекту чи суперінтелекту, слід пам’ятати про третій вид, який я називаю гібридним штучним інтелектом. Із ним пов’язані всі наші загрози в короткотривалій перспективі.

Нам уявляється штучний інтелект із власною особистістю і власною свідомістю — точнісінько, як у нас. А що, як уявити людину одноклітинним організмом, а штучний інтелект — багатоклітинним, що еволюціонував з нашого? А що, як ми навіть не клітинки цього