Читати книгу - "Війна лайків"

усієї цієї безладної та невблаганної політизації існувало правило, яке впливало на все в Кремнієвій долині. Згадані компанії контролювали велику частину сучасного життя, але самі лишалися підконтрольними акціонерам, а на ухвалення рішень упливали квартальні звіти про прибутки. Коли один інженер Twitter виявив докази активності великих російських бот-мереж ще у 2015-му, йому наказали їх ігнорувати. Зрештою, кожен бот робив Twitter популярнішим. «Усіх більше турбували цифри зростання, ніж фейкові та скомпрометовані акаунти», – пояснив інженер.

Коли працівники Facebook спитали Марка Цукерберґа про обітницю тодішнього кандидата Трампа перекрити доступ до США усім мусульманам, Марк визнав, що це хейтерські висловлювання, які порушують політику Facebook. Однак він пояснив, що його руки зв’язані. Видалення цього посту коштуватиме Facebook консервативних користувачів – та прибутків.

Про все це сто років тому писав Ептон Сінклер: «Складно підвести людину до розуміння якогось явища, коли її платня залежить від нерозуміння цього явища».

Сьогодні роль соцмереж у громадському житті не можна описати просто. Ідеться про меркантильні, переважно американські підприємства, що керують у стилі світових урядів. Вони чарівно серйозні, сповідують інклюзивність, навіть коли дають прихисток найсуперечливішим силам світу. Це могутні сутності, що вдають із себе безпомічних і наполягають на своїй аполітичності. По суті це потужні іграшки невеличкої кількості молодих дорослих, що повинні виконати неприємне завдання – сформувати природу суспільства, економіки, а віднедавна ще й війни та політики. І хоча очільники й працівники цих компаній швидко подорослішали протягом кількох років, виклики, з якими вони стикаються, лише ускладнилися.

Але найважливіша частина роботи – це пошук відповіді на очевидне питання. Припустімо, що інженери визнали масштаб своєї відповідальності, вирішили заборонити неприйнятну поведінку і навіть точно визначили, який вигляд має ця поведінка. Як створити системи, щоб її зупинити? Якими будуть ці системи? Відповіді треба дати з урахуванням можливостей і віртуального натовпу, і безжальних машин.

громадський нагляд і цифрові кріпаки

America Online назвала їх «лідерами громад», але цей розмитий термін навряд чи описує сутність і діяльність тих людей. Утім, якийсь мандрівник у часі з Європи XIII століття одразу б розпізнав їхню роль. Це кріпаки – селяни, що працювали на землі свого пана за частку врожаю. Кріпаки AOL просто сплачували свою частку через модем. А їхній пан був першим справжнім інтернет-гігантом.

До середини 1990-х AOL виросла від дрібного провайдера інтернет-послуг до масштабної цифрової імперії. Для мільйонів її користувачів це і був Інтернет: онлайновий чат-сервіс, сукупність веб-сайтів (партнерами AOL були всі: від CNN до Бібліотеки Конгресу), форумів та загального інтернет-браузера. AOL – це і частина програмного забезпечення, і великий медіасервіс, що врешті досяг 26 млн підписників. Вона продавала себе, засипаючи мільйони домівок синіми CD, прикрашеними логотипом AOL, що обіцяли «500 безкоштовних годин!». Певний час половину всіх CD, вироблених на Землі, використовували для безкоштовного тестування AOL.

На початку свого корпоративного існування AOL усвідомила дві істини, до яких урешті приходять усі інтернет-компанії. По-перше, Інтернет – це переповнений мурашник покидьків та негідників. По-друге, AOL ніколи не зможе найняти достатньо працівників, щоб контролювати цей мурашник. І от керівництво AOL наштовхнулося на свіжий розв’язок проблеми. Замість намагатися контролювати масштабну цифрову співдружність чому б не перекласти це на найпристрасніших користувачів?

Отак і народилася програма лідерів громад AOL. В обмін на безкоштовний (або за знижкою) доступ до Інтернету добровольці погодилися працювати протягом десятків годин щотижня задля підтримки веб-громад, що збагачували AOL. Добровольці мінімізували поширення порно та забезпечували дотримання правил в Інтернеті. Отримуючи спеціальні ніки – «уніформу», що наповнювала їх громадянською гордістю, веб-громади могли обмежувати чи вилучати проблемних користувачів.

З розширенням AOL ця програма стала більш організована та бюрократична. Згодом там запровадили офіційний тримісячний тренінг. Добровольці мали працювати щонайменше чотири години щотижня й докладно звітувати про те, як вони витратили час. На своєму піку програма налічувала чотирнадцять тисяч добровольців, зокрема «молодіжні корпуси» з 350 підлітків. AOL фактично подвоїла свій персонал, субсидуючи близько 0,0005 % своєї бази підписників, й одночасно була готова заперечити причетність, якщо щось піде не так. Схоже, це найкраща інвестиція, яку робила фірма.

Передбачувано, що така злочинно добра угода була приречена на злочинний кінець. У 1999-му двоє колишніх лідерів громад подали на AOL колективний позов, стверджуючи, що вони були працівниками «кіберпотогонки» і що їм заборгували близько 50 тисяч доларів відшкодувань. Це поклало початок судовій тяганині. У 2005-му AOL закрила програму лідерів громад, надавши безкоштовну річну підписку всім добровольцям, що залишалися. У 2008-му AOL відмовили в закритті справи. І нарешті у 2010-му – коли AOL вже давно програла війну лайків Google та Facebook – компанія зазнала остаточного приниження й була змушена виплатити своїй добровольчій поліції 15 млн доларів відшкодувань.

Злет і падіння цифрових кріпаків AOL провістили майбутнє управління модерації контенту для всіх великих інтернет-компаній. Якщо Інтернет середини 1990-х був надто величезним для патрулів оплачуваних працівників, то для Інтернету 2010-х такий підхід тим більше був неможливим. Коли виникли стартапи соцмереж, лише мов користувацьких платформ могло бути більше, ніж усіх працівників компанії.

Але коли компанії неохоче взялися перебирати на себе дедалі більше відповідальності за модерацію контенту, роботи лишалося чимало. Було вирішено розділити її на дві частини. Першу поклали на користувачів (не лише добровольців, а на всіх користувачів). Їм пропонували повідомляти про дражливий контент і пояснювати претензії. Другу частину доручили штатним модераторам контенту, зазвичай закордонним підрядникам, які могли вивчати до тисячі графічних зображень та відео щодня. Окрім установлення нових правил та перегляду найскладніших випадків, компанії могли брати безпосередню участь у модерації контенту. Це була точна система на базі розумної бізнес-моделі. Відтоді компанії соцмереж покладалися на своїх користувачів у виробництві контенту, вони продавали рекламу і сподівалися, що інші користувачі переглядатимуть контент, створюючи прибуток. І якщо контент був неприйнятний, компанії покладалися на інших користувачів для початку процедури видалення.

Коли ви скаржитеся на щось у Facebook, вас просять вибрати причину («Неправдиві новини?», «Зображення оголеного тіла?», «Мова ворожнечі?»). Ця причина визначає, кому на розгляд надійде ця скарга і як серйозно її сприймуть. У такий спосіб користувачі Facebook повідомляють про більше ніж мільйон фрагментів контенту щодня. Ідея користувацьких повідомлень так сильно укорінилася в операціях соцмереж, що вже передбачає певні очікування. Коли у 2017-му Facebook потрапив під вогонь критики за те, що дозволив стрімити вбивство 74-річного дідуся, ресурс мав готове вибачення: про це йому ніхто не повідомив. Винні користувачі, а не мережа.

Крім того, на іншому кінці дроту теж вирує робота. Це технічні працівники, які повинні виявляти