Читати книгу - "Війна лайків"

кожне відео обезголовлювання, зображення автомобільної аварії чи наляканого малюка в темній кімнаті, страждання якого ще не висвітлені й не додані до жахливої бази даних жорстокого поводження з дітьми Microsoft. Над цим працює приблизно 150 тисяч людей по всьому світу, більшість із яких – субпідрядники, розкидані по Індії та Філіппінах.

Як і більшість субпідрядів, це конкурентна і непогано оплачувана робота, надто з урахуванням середніх заробітків у згаданих країнах. Переважно її виконують здібні і безробітні випускники коледжів. Така робота потребує розуму та хорошої реакції, щоб розшифровувати контекст усього за кілька секунд і застосовувати всі належні правила та процедури. Ось чому порівняти цю роботу можна не з клікофермою, де робітники нескінченно повторюють механічний процес зміни SIM-картки та створення акаунта, а з російськими маріонетковими фабриками тролів, яких також набирають з лав безробітних англомовних випускників університетів. У якомусь сенсі ці заняття є віддзеркаленням одне одного. Професійні тролі намагаються зробити Інтернет гіршим. Професійні модератори контенту намагаються зробити його бодай трохи кращим.

Не дивно, що така робота втомлює. Нездорово протягом восьми чи більше годин на день відсіювати нескінченний потік усього найгіршого, що чинить людство. Таку роботу супроводжують депресія й гнів, нудота і плач, навіть проблеми з довірою у стосунках та зниження лібідо. У Сполучених Штатах компанії, які виконують таку роботу, пропонують працівникам регулярні психологічні консультації, щоб протидіяти «втомі від співчуття», тобто буквальному вичерпанню здатності мозку відчувати емпатію. Але таких заходів може бути недостатньо. У 2017-му двоє колишніх працівників Microsoft, призначених до команди онлайнової безпеки, подали позов на колишнього роботодавця, стверджуючи, що в них виник посттравматичний стресовий розлад (ПТСР). Це був перший судовий позов такого типу. Один із позивачів описав, що в нього виник «внутрішній відеоекран» жаху, який було неможливо вимкнути.

Навіть без проблем ПТСР у працівників така роздвоєна система модерації контенту далека від ідеалу. Перша причина полягає в тому, що система модерації працює за рахунок ресурсів, які можна було б інакше вкласти у джерела прибутку: наприклад, розвивати нові можливості, розробляти маркетингові стратегії тощо. Відповідно компанії завжди вважатимуть таку діяльність податком на бізнес-модель. Зрештою, жоден стартап іще не отримував додаткових грошей через використання чудової нової системи модерації контенту.

Друга проблема – масштаб. Перефразовуючи Вінстона Черчилля, ніколи ще такої величезної кількості публікацій не модерували так мало людей.

Коли ІДІЛ використовувала WhatsApp, координуючи першу битву за Мосул, компанія мала лише 55 працівників на 900 млн своїх користувачів. Однак навіть це було непогано. Коли приблизно в той самий час щойно впроваджений відеохостинговий стартап Vid.Me виявив, що його затопила хвиля тисяч пропагандистських роликів ІДІЛ, ця компанія мала у штаті всього шістьох людей, і ніхто не знав арабської.

Однак і такі цифри блякнуть порівняно з роботою справжніх гігантів соцмереж. У розділі 3 йшлося про багатство даних, що їх породжують сервіси. Щохвилини користувачі Facebook публікують 500 тисяч нових коментарів, 293 тисячі нових статусів і 450 тисяч нових фото; користувачі YouTube – понад 400 годин відео; а користувачі Twitter – понад 300 тисяч твітів. Кожен із постів – дамоклів меч, що звисає над компанією. Він може призвести до PR-катастрофи, якщо дасть змогу будь-якому суперечливому фрагменту контенту залишитись існувати більше ніж кілька хвилин. Однак якщо компанія діятиме поспішно, крики про цензуру також не забаряться.

Урешті-решт, якщо соцмережі жорстко контролюватимуть свої канали (чого, як ми побачили, вони не дуже прагнуть робити), то муситимуть мати справу не лише з величезним контентом, але й із супротивниками, які активно прагнуть зруйнувати й заплутати їхні системи модерації. Згадайте гнучку відновлювальну Twitter-мережу Ісламської Держави, переконливих маріонеток російського уряду або самовдоволені меми альтправих, що перетинають межу між хейтерськими жартами та відвертою ненавистю. Коли в 2017 році Facebook оголосив, що наймає ще 250 людей для вивчення реклами на платформі, професор бізнесу Нью-Йоркського університету Скотт Ґелловей порівняв це з тим, як «писяти в океан».

Зазнавши надзвичайного тиску й зіткнувшись із дедалі більшими проблемами модерації контенту, інженери Кремнієвої долини шукали вихід скрізь. Не дивно, що вони сподівалися знайти його в нових технологіях.

Війни робо-реальності

«МАЄШ ЧУДОВИЙ ВИГЛЯД, І Я ТЕБЕ ЛЮБЛЮ».

Як для залицяння в Tinder, ця фраза не надто вдала. Однак вона згодилася для дечого іншого, написаного не людиною. Фахівчиня зі штучного інтелекту Джанель Шейн лише зібрала перелік типових фраз для знайомства і навчила комп’ютер їх читати. Після цього штучний мозок – нейронна мережа – вивчив цей перелік і вигадав нову фразу, свою.

Нейронні мережі – це новий тип комп’ютерної системи: обчислювальний пристрій, що навряд чи нагадує «машину» взагалі. Хоча про такі мережі говорили ще в 1940-х, вони з’явилися лише протягом цього десятиліття, коли хмарна обробка даних дозволила робити їх практичними. Замість програмування на системі правил, що покладається на формальну логіку («Якщо А = так, роби B; якщо А = ні, роби C»), нейронні мережі нагадують живий мозок. Вони містять мільйони штучних нейронів, кожен з яких установлює зв’язки з тисячами інших через «синапси». Кожен нейрон має власний рівень інтенсивності, яку визначає або початок роботи, або синаптичні зв’язки, отримані від нейронів пізніше. У свою чергу, інтенсивність визначає силу сигналу, який ці нейрони передають через власні залежні синапси.

Ці мережі функціонують шляхом розпізнавання схем. Вони відфільтровують великі обсяги даних, виявляючи збіги та роблячи висновки про те, що до чого може належати. Коли нейронів достатньо, можливо розбити мережу на багато «шарів», кожен із яких відкриває нову схему, починаючи з виявлення попереднього шару. Якщо нейронна мережа вивчає фото, то може почати з виявлення поняття «дуги», відсортовуючи всі фото з дугами від тих, що без дуг. Наступний шар може виявляти «кола», інший – «обличчя» чи «носи». Кожен шар дає мережі змогу підійти до проблеми з дедалі більшою деталізацією. Однак шари потребують експонентно більше нейронів та більшої обчислювальної потужності.

Нейронні мережі тренують з допомогою процесу, відомого як «глибинне навчання». Спочатку він проходив під контролем людини. Інженер із плоті і крові вводив у мережу гору даних (10 млн зображень чи бібліотеку англійської літератури) і повільно скеровував мережу до пошуку бажаного («автівки» чи «компліменту»). Мережа працювала за своїм сортуванням схем, інженер оцінював її ефективність, коригуючи синапси, і процес щоразу поволі вдосконалювався. Письменник Ґідеон Льїс-Краус із захопленням описує цей процес як налаштування різновиду «демократії велетенської машини».

Сьогодні передові нейронні мережі можуть функціонувати без людського нагляду. У 2012-му інженери проекту Google Brain опублікували вкрай цікаве дослідження того, як дослідники вводили у дев’ятишарову нейронну мережу