Читати книгу - "Війна лайків"

не спить і завжди вчиться. В умовах кризи вона незмінно реагуватиме першою, привертаючи непропорційну увагу та скеровуючи виклад соцмереж у напрямку, що найкраще відповідає прихованим цілям її власників. Метью Чессен, старший радник з технологічної політики Держдепартаменту США, прямо говорить про неминуче панування MADCOM. Вона «визначатиме долю Інтернету, нашого суспільства та нашої демократії», – пише він. Люди більше не зможуть надійно контролювати машини. Натомість, коли машини скеровуватимуть наші ідеї та культуру до автоматизованого еволюційного процесу, який ми більше не розуміємо, вони «почнуть програмувати нас».

Поєднайте всі ці згубні застосування нейронних мереж – імітацію голосів, викрадання облич, аудіовізуальне редагування в реальному часі, створення штучних зображень та відео, маніпуляцію MADCOM, – і буде важко позбутися висновку, що людство балансує на краю прірви. За інформаційними конфліктами, що формують політику та війну, сьогодні стоять розумні люди, які використовують вірусну інженерію. Війну лайків завтрашнього дня вестимуть високоінтелектуальні, незбагненні алгоритми, що переконливо говоритимуть про те, чого не було, створюватимуть «докази», яких насправді не існує. Вони сіятимуть вигадки по всьому ландшафту соцмереж так інтенсивно та масштабно, що сучасна ситуація згадуватиметься як щось химерне.

Авів Овадія, головний технолог Центру відповідальності соцмереж при Мічиганському університеті, описав цю неясну загрозу чітко й просто. «Часу менше, ніж більшість із нас може собі уявити, – сказав він. – І як далеко в майбутнє не дивись, все стане лише гірше».

Упродовж поколінь автори наукової фантастики марили перспективою армагеддону штучного інтелекту: фантазіями в стилі «Термінатора», де роботи прочісують людські міста з вогнеметами й бластерами напоготові. Однак у соцмережах нас підстерігає більш імовірний розвиток подій. Якщо машини почнуть керувати всім, що ми бачимо, та тим, як ми думаємо онлайн, вони вже контролюватимуть світ. Після перемоги в їхньому найважливішому завоюванні – людської свідомості – машинам може взагалі бути не потрібно повставати.

Утім, як і в фільмі «Термінатор», якщо люди врятуються від загарбницького, невидимого вторгнення роботів, їхній імовірний порятунок полягатиме в інших машинах. Новітні успіхи в навчанні нейронних мереж натякають на те, що піднесе еволюцію машин на наступний рівень і врятує нас від маніпулятивних алгоритмів: виживання найпристосованіших у царині штучного інтелекту.

Новіші, передовіші форми глибинного навчання передбачають використання «генеративних змагальних мереж». У системі такого типу дві нейронні мережі виступатимуть одна проти одної в потенційно нескінченному спарингу. Перша мережа докладатиме зусиль, щоб створити щось справжнє на вигляд – зображення, відео, людське спілкування, – тоді як друга намагатиметься визначити, чи це фейк. Наприкінці кожного матчу мережі отримуватимуть свої результати і коригування, щоб поволі вдосконалюватися. Хоча така техніка навчає мережі виробляти дедалі точніші фальшивки, вона також залишає відкритим потенціал ставати кращими під час виявлення фейків.

Усе це зводиться до одного важливого фантастичного запитання. Якщо обидві мережі обдаровані дедалі кращим калібруванням та обчислювальною потужністю, який саме – «хороший» чи «поганий» – штучний інтелект перемагатиме частіше?

Від відповіді цілком може залежати не лише доля політики модерації контенту, але й майбутнє війн і виборів, а також демократії, цивілізації та об’єктивної реальності. Впродовж десятиліття Facebook, Google, Twitter та всі інші великі інтернет-компанії почнуть використовувати нейронні мережі для контролю своїх платформ. Непристойні картинки, спонсоровані державами бот-мережі, терористична пропаганда та хитромудрі кампанії дезінформації виявлятиме машинний інтелект, який затьмарить будь-який, що нині існує. Однак він вестиме битву з іншими машинними інтелектами, що заплутуватимуть, дезорієнтуватимуть та збиватимуть з пантелику. А посередині опинимося ми – кожен із нас – як частина конфлікту, що його почали ми, але на динаміку розгортання якого ми невдовзі навряд чи впливатимемо.

Це химерне майбутнє схоже на наукову фантастику. Однак, з огляду на минуле Інтернету, воно також виглядає на диво реалістично.

9. Висновок. Що ми знаємо і що можемо зробити?

Ми подібні до богів і теж можемо робити все добре.

Стюарт Бранд. Ми як боги

ЗАДОВГО ДО ПРИХОДУ ВІЙСЬКОВОГО КОНВОЮ в задушливе містечко Дара Лам новини про зустріч між полковником армії США та непопулярним губернатором провінції Кіршам просочилися в соцмережі. Розгнівані через присутність американців та корупцію губернатора місцеві мешканці організували демонстрацію. Їхній трендовий хештег #justice4all (справедливість для всіх) невдовзі привернув увагу міжнародних медіа. Він також привернув увагу декого менш зацікавленого у справедливості: горезвісної терористичної мережі «Фарік». Використовуючи маріонеткові акаунти та брехливі повідомлення, терористи роздмухували протест, закликаючи до боротьби проти американських окупантів.

Але це був не весь план «Фарік». Знаючи, де збереться великий натовп цивільних, терористи влаштували пастку. Вони відкриють вогонь по американських солдатах, коли ті вийдуть з будівлі, і якщо солдати стрілятимуть у відповідь, то демонстранти потраплять під перехресний вогонь. Заздалегідь розставлені оператори були готові зафільмувати криваві наслідки: мертвих американців або цивільних. Мережа онлайн-посередників була готова розкрутити подію до вірусності, а потім використовувати її для майбутньої пропаганди та рекрутингу. Яким би не був результат, терористи мали виграти цю битву.

На щастя, сплеск онлайнової активності відстежували й інші очі: Центру бригадних тактичних операцій армії США. Завданням цього Центру було моніторити умови, в яких діятимуть солдати: чи то густонаселені міста й віддалені гірські райони, чи то блоги і соцмережі місцевих лідерів думок. Спершу виявили пожвавлення, після чого негайно віддали низку команд. Можливо, колись ці офіцери не приділяли уваги інтернет-теревеням, але тепер зрозуміли їхню важливість. Отримавши повідомлення про збільшення кількості та зростання люті протестувальників, полковник перервав свою зустріч і завбачливо пішов через чорний хід. План «Фарік» було зірвано.

Як не намагайтеся, ви не знайдете жодної інформації про цю подію в новинах – і не тому, що до бою не дійшло. Усе через те, що Дара Лам – фейкове поселення у фейковій провінції фейкової країни, де йде фейкова війна у фейковому Інтернеті, що спалахує кожні кілька місяців у дуже справжньому штаті Луїзіана.

Об’єднаний навчальний центр бойової підготовки у Форт-Полку має особливе значення у військовій історії. Він був створений у рамках Луїзіанських військових маневрів – низки масштабних навчань, проведених перед тим, як Сполучені Штати вступили в Другу світову війну. Коли Гітлер промчав по Європі своїм бліцкригом, армія США усвідомила, що війна ведеться за новим набором правил. Потрібно було вигадати, як перейти від світу коней та телеграфу до танків і вантажівок, керованих бездротовим зв’язком. Саме у Форт-Полку американські військові, зокрема й такі легендарні фігури, як Двайт Д. Ейзенгавер та Джордж С. Паттон, навчилися воювати так, щоб зберегти вільний світ.

Відтоді Форт-Полк використовували як постійну польову лабораторію, де армію США готували до майбутніх битв. Під час холодної війни