Читати книгу - "Війна лайків"

Це була суттєва зміна для індустрії, якій щойно минуло десять років. Від часів заснування соцмережі вірили, що їхні сервіси – це «ринкові майданчики ідей», де ті, хто домінує в публічному дискурсі, – найблагородніші та найраціональніші люди.

Але Кремнієва долина втратила цю віру. Соцмережі більше не були вільними платформами, звідки проростають найкращі ідеї. Навіть наївні інженери почали усвідомлювати, що це поле битви з наслідками в реальному світі, де чесно грають лише лузери. Їхній вільний від політики «сад» виростив насильство та екстремізм.

Менше з тим, проблема була глибшою, ніж загрози тероризму та ультраправого екстремізму. Перед Кремнієвою долиною поставав інший, фундаментальніший виклик. Виникло усвідомлення, що всі похмурі передбачення щодо гомофілії, фільтрів-бульбашок та ехо-камер виявилися безпомильними. Багато в чому вірусність справді формувала реальність. А біля важелів управління цієї машини формування реальності стояла купка технічних директорів – але вони не використовували те управління належним чином.

Усвідомити гірку правду допомогло обрання Дональда Трампа на пост президента США. Найбільше потерпав Facebook, переважно молоді й прогресивні працівники якого боялися, що це їхня робота піднесла Трампа на високий пост. По суті, так воно й було. Хоча основним рупором Трампа був Twitter, саме Facebook користувалися політично вразливі американці, які сотнями мільйонів поширювали фейкові повідомлення. Пішов поголос, що Facebook насичений не лише меркантильною дезінформацією та «фейковими новинами», якими світ нашпиговували македонські підлітки, але й дезінформацією протрампівської кампанії, що її організував російський уряд.

Коли очманілі ліберали почали шукати винуватців, Марк Цукерберґ на власні очі побачив, що таке припливна хвиля. Це була корпоративна версія того, що психіаторка Елізабет Кюблер-Росс назвала п’ятьма стадіями горя: заперечення, гнів, торг, депресія та прийняття.

Першим імпульсом Цукерберґа було заперечення. Це «якась божевільнa ідея», сказав він про те, що дезінформація з його платформи вплинула на результат голосування людей. Коли заперечення Цукерберґа розлютило людей та навіть призвело до приватної прочуханки від президента Обами, Цукерберґ змінив платівку, написавши низку повідомлень, у яких присягався збільшити зусилля, щоб протидіяти обману та дезінформації у Facebook. Водночас Марк спробував переконати користувачів, що це не така вже й велика проблема. Тим часом розчаровані працівники Facebook почали приватні зустрічі, щоб розв’язати проблему власними силами. Після цього на поверхню випливла правда, що дехто в компанії непокоївся через загрозливу дезінформацію, що поширювалася під час виборів на платформі Facebook, але нічого не вдалося змінити через страх порушити «об’єктивність» Facebook, а також відвернути консервативних користувачів та законодавців.

До середини 2017-го Facebook видав зовсім інше повідомлення. У першому подібному звіті його безпекова команда опублікувала документ «Інформаційні операції та Facebook», що пояснював, як платформа стала жертвою «витонченої й підступної форми зловживання». Тепер Facebook публічно назвав свого супротивника – це уряд Російської Федерації. Утім, критики зауважили, що компанія вичікувала аж дев’ять місяців між часом, коли керівництву стало відомо про кампанію російської маніпуляції в їхній мережі, і тим, коли Facebook поінформував про це своїх споживачів та американських виборців.

Однак, демонструючи здатність провадити зміни, Facebook розширив свої кібербезпекові зусилля за межі захисту від звичайного зламу, змістивши фокус на загрозу організованих дезінформаційних кампаній. Компанія вперто ігнорувала вплив дезінформації під час виборів-2016, а тепер тісно співпрацювала з французьким та німецьким урядами, щоб захистити виборчі процеси, закриваючи десятки тисяч підозрілих акаунтів. Через рік після того, як Цукерберґ назвав ідею впливу на вибори «божевільною», він перепросив за свої слова. І в уже зовсім іншому зверненні, трансльованому через Facebook наживо, сказав 2 млрд користувачів: «Я не хочу, щоб хто-небудь використовував наші інструменти для підриву демократії. Не за те ми боремося».

Таку зміну почасти зумовило усвідомлення того, що платформи використовують спотворено. Навіть у розкутому Reddit генеральний директор Стів Гаффман усвідомив, що на сайт проникла російська пропаганда, але видалити її недостатньо. «Я вважаю, що найбільший ризик, з яким ми, американці, маємо справу, – це наша здатність відрізняти реальність від абсурду. І цей тягар несемо ми всі».

Більша частина поштовху до змін мала звичну форму – нагромадження юридичного та політичного тиску. У 2017-му, попри рішучі протести лобістів та адвокатів свободи слова Кремнієвої долини, німецькі законодавці ухвалили законопроект, що накладав штраф обсягом 57 млн доларів на компанії, які не видалятимуть «незаконні, расистські або наклепницькі» пости протягом 24 годин. Американські законодавці доклали багатьох зусиль, щоб урегулювати політичну рекламу онлайн, особливо приховану, яку російські пропагандисти використовували, щоб поширювати дезінформацію, а штаб Трампа – щоб зменшити явку виборців серед меншин. Це призвело до поширення на неї таких самих правил Федеральної виборчої комісії, які застосовували до телевізійного мовлення. Раніше політична реклама в соцмережах – багатомільярдна індустрія – передбачала винятки.

Для титанів індустрії, що перетворилися на регуляторів онлайн-війни, ця роль виявилася неочікуваною, небажаною і часто некомфортною. В інтерв’ю 2018 року, незадовго до того, як свідчити перед Конгресом США, Цукерберґ зізнався: «Якби 2004 року, коли я починав Facebook у гуртожитській кімнаті, ви спитали мене, як я даватиму раду втручанню урядів країн у вибори одне одного, я би точно не подумав, що можу бути причетним до такого».

З кожним етапом занурення гігантів соцмереж у політичні питання – як-от протидія тероризму, екстремізму та дезінформації – їх дедалі більше затягували скандали, що виникали із «сірих зон» політики та війни. Іноді якусь нову ініціативу з розв’язання однієї проблеми могли експлуатувати нечесний уряд (Росія інакше уявляє «тероризм», ніж Сполучені Штати) або тролі через цілком благонадійні системи звітності. Часом ініціативи могли призвести до прикрої грошозатратної помилки модератора, який мав оцінити прийнятність контенту в країні, де він ніколи не був, у політичному контексті, якого не розумів.

Проблему ілюструвало правило Facebook, покликане ефективніше протидіяти тероризму, що забороняло будь-яку позитивну згадку «насильства задля опору окупації міжнародно визнаної держави». З інженерного погляду це елегантний розв’язок проблеми – стислий і широкий водночас. Однак будь-який кмітливий політичний спостерігач міг би передбачити, що таке формулювання призведе до масових проблем. Відповідно відбулося масове видалення контенту користувачів з Палестини, Кашміру та Західної Сахари, політичних і культурних порохових діжок, що перебували під владою окупаційних сил.

Ці сірі зони були широкі. Профіль одного китайського мільярдера, який отримав прихисток у Сполучених Штатах і присягнувся виявити корупцію серед найвищих посадовців Комуністичної партії, заблокували у Facebook через поширення чиєїсь «персональної інформації» (на рівні припущення). Коли члени мусульманської меншини рохінджа у М’янмі спробували використовувати Facebook, щоб документувати керовану урядом кампанію етнічних чисток, дечиї профілі видалили через деталізацію тих самих військових звірств, від яких ці ж таки люди і потерпали.

Однак упродовж