«Ми віддані на милість Google». Виборці в США, які не визначилися, звернувшись до Google, можуть побачити кардинально різні погляди на світ – навіть коли вони ставлять одне й те саме запитання.

Введіть «Чи є Камала Харріс хорошим кандидатом від Демократичної партії», і Google намалює райдужну картину. Результати пошуку постійно змінюються, але минулого тижня першим посиланням було опитування Pew Research Center, яке показало, що «Гарріс наповнює демократів енергією». Далі — стаття Associated Press під назвою «Більшість демократів вважає, що Камала Гарріс стане хорошим президентом», а наступні посилання були схожими. Але якщо ви чули негативні речі про Гарріс, ви можете запитати, чи вона «поганий» кандидат від Демократичної партії. По суті, це ідентичне питання, але результати Google набагато песимістичніший.

«Було легко забути, наскільки погана Камала Гарріс», — йдеться у статті журналу Reason на першому місці. Тоді US News & World Report запропонував позитивну думку про те, що Гарріс не є «найгіршим, що могло трапитися з Америкою», але наступні результати є критичними. У матеріалі Al Jazeera пояснювалося: «Чому я не голосую за Камалу Харріс», а потім нескінченна тема на Reddit про те, чому вона погана.

Ви можете побачити ту саму дихотомію з запитаннями про Дональда Трампа, теорії змови, суперечливі політичні дебати та навіть медичну інформацію. Деякі експерти кажуть, що Google просто повторює ваші власні переконання. Це може погіршити ваші власні упередження та поглибити суспільний розкол на цьому шляху.

«Коли мова йде про те, яку інформацію ми можемо знайти, ми віддані на милість Google», — каже Варол Кейхан, доцент кафедри інформаційних систем Університету Південної Флориди в США.

«Вся місія Google полягає в тому, щоб надати людям ту інформацію, яку вони хочуть, але іноді та інформація, яку люди думають, що вони хочуть, насправді не є найкориснішою», — каже Сара Преш, директор із цифрового маркетингу Dragon Metrics , платформи, яка допомагає компаніям налаштовувати свої веб-сайтів для кращого розпізнавання від Google за допомогою методів, відомих як « оптимізація пошукових систем » або SEO.

Це робота, яка вимагає ретельного перегляду результатів Google, і кілька років тому Преш помітив проблему. «Я почала дивитися на те, як Google обробляє теми, де точаться гарячі дебати», — каже вона. «У багатьох випадках результати були шокуючими».

Деякі з найяскравіших прикладів розглядають те, як Google розглядає певні питання здоров’я. Google часто отримує інформацію з Інтернету та показує її вгорі результатів, щоб надати швидку відповідь, яку він називає Featured Snippet . Преш шукав "зв'язок між кавою та гіпертонією". Featured Snippet процитував статтю з клініки Mayo, підкреслюючи слова: «Кофеїн може спричинити короткочасне, але різке підвищення артеріального тиску». Але коли вона знайшла «немає зв’язку між кавою та гіпертонією», Featured Snippet процитувала суперечливий рядок із тієї самої статті клініки Майо: «Кофеїн не має тривалого впливу на артеріальний тиск і не пов’язаний із вищим ризик високого кров'яного тиску».

Те, що Google зробив, це те, що вони витягли шматочки з тексту на основі того, що люди шукають, і дали їм те, що вони хочуть прочитати, – Сара Преш

Те ж саме сталося, коли Преш шукав «чи СДУГ спричинений цукром» і «СДУГ не спричинений цукром». Google витягнув Featured Snippets, які стверджують, що підтверджують обидві сторони питання, знову взяті з тієї самої статті. (Насправді існує мало доказів того, що цукор впливає на симптоми СДУГ, і він точно не викликає розладу.)

З політичними питаннями вона зіткнулася з такою ж проблемою. Запитайте «чи справедлива британська податкова система», і Google наведе цитату депутата від консерваторів Найджела Хаддлстона, стверджуючи, що це справді так. Запитайте «чи британська податкова система несправедлива», і Featured Snippet від Google пояснює, як британські податки приносять користь багатим і сприяють нерівності.

«Те, що Google зробив, полягає в тому, що вони витягли частини тексту на основі того, що люди шукають, і дали їм те, що вони хочуть прочитати», — каже Преш. «Це одна велика система упереджень».

Зі свого боку, Google каже, що надає користувачам неупереджені результати, які просто підбирають людей із інформацією, яку вони шукають. «Як пошукова система, Google прагне показувати високоякісні результати, які відповідають введеному вами запиту», — сказав представник Google. «Ми надаємо відкритий доступ до різноманітних точок зору з усього Інтернету та даємо людям корисні інструменти для оцінки інформації та джерел, які вони знаходять».

За одними оцінками , Google обробляє приблизно 6,3 мільйона запитів щосекунди, що становить понад дев’ять мільярдів пошукових запитів на день. Переважна більшість інтернет-трафіку починається з пошуку в Google, і люди рідко натискають щось окрім перших п’яти посилань, не кажучи вже про те, щоб перейти на другу сторінку. Одне дослідження, яке відстежувало рухи очей користувачів, показало, що люди часто навіть не дивляться ні на що, крім найкращих результатів. Система, яка впорядковує посилання в Пошуку Google, має колосальну владу над нашим сприйняттям світу.

За словами Google, компанія добре справляється з цією відповідальністю. «Незалежне наукове дослідження спростувало ідею про те, що пошук Google штовхає людей у ​​бульбашки фільтрів», — сказав речник.

Питання про так звані «фільтр-бульбашки» та «ехо-камери» в Інтернеті є гарячою темою, хоча деякі дослідження поставили під сумнів , чи ефект онлайн-ехо-камер був перебільшений .

Але Кейхан, який досліджував, як пошукові системи впливають на упередженість підтвердження , природний імпульс пошуку інформації, яка підтверджує ваші переконання, каже, що безсумнівно, наші переконання та навіть наша власна політична ідентичність залежать від систем, які контролюють те, що ми бачимо в Інтернеті. «На нас сильно впливає те, як ми отримуємо інформацію», — каже він.

Представник Google каже, що в дослідженні 2023 року було зроблено висновок, що люди знайомляться з партійними новинами більше через те, що вони натискають саме на них, а не через те, що Google в першу чергу подає партійні новини. У певному сенсі так працює упередженість підтвердження: люди шукають докази, які підтверджують їхні погляди, та ігнорують докази, які їх оскаржують. Але навіть у цьому дослідженні дослідники сказали, що їхні висновки не означають, що алгоритми Google є безпроблемними. «У деяких випадках наші учасники стикалися з дуже упередженими та недостовірними новинами в Пошуку Google, — сказали дослідники, — і минула робота показує, що навіть обмежена кількість таких випадків може мати суттєвий негативний вплив».

Незважаючи на це, ви можете вибрати інформацію, яка тримає вас у пастці вашої бульбашки фільтрів, «але є лише певний букет повідомлень, які перед вами виставляються на вибір», — каже Сільвія Кноблох-Вестервік, професор опосередкованої комунікації в Technische Universität Berlin у Німеччині. «Алгоритми відіграють значну роль у цій проблемі».

Google не відповів на запитання BBC, чи є особа чи команда, яка конкретно доручає вирішити проблему упередженості підтвердження.

«На мій погляд, уся ця проблема пов’язана з технічними обмеженнями пошукових систем і тим фактом, що люди не розуміють, у чому полягають ці обмеження», — каже Марк Вільямс-Кук, засновник AlsoAsked , іншого інструменту для оптимізації пошукових систем, який аналізує Google. результати.

Недавня антимонопольна справа США проти Google виявила внутрішні документи компанії , де співробітники обговорюють деякі методи, які використовує пошукова система, щоб відповісти на ваші запитання. «Ми не розуміємо документів — ми підробляємо», — написав інженер у слайд-шоу, використаному під час презентації в компанії в 2016 році. «Мільярд разів на день люди просять нас знайти документи, які стосуються запиту… Крім деяких базових речей, ми майже не переглядаємо документи. Ми дивимось на людей. Якщо документ отримує позитивну реакцію, ми вважаємо, що це добре. Якщо реакція негативна, ймовірно, це дуже спрощено, це джерело магії Google».

«Так ми обслуговуємо наступну людину, підтримуємо індукцію та підтримуємо ілюзію, яку ми розуміємо».

Іншими словами, Google спостерігає, що люди натискають, коли вводять пошуковий термін. Коли люди виглядають задоволеними певним типом інформації, більш імовірно, що Google рекламуватиме такий результат пошуку за подібними запитами в майбутньому.

Представник Google каже, що ці документи застаріли, а система, яка використовується для розшифровки запитів і веб-сторінок, стала набагато складнішою.

«Ця презентація датована 2016 роком, тому до неї потрібно ставитися з дрібкою солі, але основна концепція все ще вірна. Google будує моделі, щоб спробувати передбачити, що подобається людям, але проблема в тому, що це створює своєрідну петлю зворотного зв’язку, – каже Вільямс-Кук. Якщо упередженість підтвердження спонукає людей натискати посилання, які зміцнюють їхні переконання, це може навчити Google показувати людям посилання, які призводять до упередженості підтвердження. «Це все одно, що сказати, що ви дозволите своїй дитині обирати свій раціон залежно від того, що їй подобається. Вона просто поїсть шкідливу їжу», — каже він.

Вільямс-Кук також хвилюється, що люди можуть не зрозуміти, що коли ви запитуєте щось на кшталт «чи хороший кандидат Трамп», Google не обов’язково сприймає це як запитання. Замість цього він часто просто витягує документи, пов’язані з такими ключовими словами, як «Трамп» і «хороший кандидат».

Це дає людям помилкові очікування щодо того, що вони отримають під час пошуку, і це може підштовхнути людей неправильно тлумачити значення результатів пошуку, каже він.

Вільямс-Кук вважає, що якби користувачі більш чітко уявляли недоліки пошукової системи, вони могли б більш критично ставитися до вмісту, який бачать. «Google має докладати більше зусиль, щоб інформувати громадськість про те, як насправді працює Пошук. Але я не думаю, що вони цього зроблять, тому що для цього потрібно визнати деякі недосконалості того, що не працює», — каже він. ( Щоб дізнатися більше про внутрішню роботу пошукових систем, прочитайте цю статтю про те, як оновлення алгоритму Google змінюють Інтернет . )

За словами представника компанії, Google відкрито говорить про те, що Пошук ніколи не є вирішеною проблемою, і компанія невтомно працює над вирішенням серйозних технічних проблем у цій сфері, щойно вони виникають. Google також вказує на функції, які він пропонує, які допомагають користувачам оцінювати інформацію, як-от інструмент « Про цей результат » і сповіщення , які повідомляють користувачам, коли результати на тему, пов’язану з екстреними новинами, швидко змінюються.

Філософські проблеми

Представник Google каже, що легко знайти результати, що відображають різні точки зору, з джерел у всьому Інтернеті, якщо це те, що ви хочете зробити. Вони стверджують, що це правда навіть з деякими прикладами, наведеними Прешем. Прокрутіть далі вниз із запитаннями на кшталт «чи є Камала Харріс хорошим кандидатом від Демократичної партії», і ви знайдете посилання, які її критикують. Те саме стосується «чи справедлива британська податкова система» – ви знайдете результати пошуку, які свідчать, що це не так. Щодо запиту «зв’язок між кавою та гіпертонією», представник Google каже, що проблема складна, але пошукова система відкриває авторитетні джерела, які вникають у цей нюанс.

Звичайно, це залежить від того, що люди досліджують перші кілька результатів – чим далі ви переходите на сторінку результатів, тим менша ймовірність того, що користувачі перейдуть за посиланнями. У випадку гіпертонії, пов’язаної з кавою, і британської податкової системи Google також підсумовує результати та дає власну відповідь на помітному місці за допомогою Featured Snippets, що може зменшити ймовірність переходу людей за посиланнями нижче в результатах пошуку.

Протягом тривалого часу спостерігачі описували, як Google переходить від пошукової системи до «системи відповідей», де компанія просто надає вам інформацію, а не вказує на зовнішні джерела. Найяскравішим прикладом є запровадження AI Overviews , функції, за допомогою якої Google використовує AI, щоб відповідати на пошукові запити замість вас, а не підтягувати посилання у відповідь. За словами компанії, тепер ви можете « дозволити Google виконувати пошук за вас ».

«Раніше Google показував вам те, що написав хтось інший, а тепер він сам пише відповідь», — каже Вільямс-Кук. «Це ускладнює всі ці проблеми, тому що тепер у Google є лише один шанс зробити все правильно. Це складний крок».

Але навіть якби Google мала технічну можливість вирішити всі ці проблеми, не обов’язково зрозуміло, коли і як вони повинні втрутитися. Вам може знадобитися інформація, яка підтверджує конкретне переконання, і якщо так, Google надає цінну послугу, надаючи її вам.

Багатьом людям незручно думати, що одна з найбагатших і наймогутніших компаній світу приймає рішення про те, що є правдою, каже Кайхан. «Чи це робота Google — це виправити? Чи можемо ми довіряти Google, що вона сама виправиться? І чи можна це взагалі виправити? Це складні запитання, і я не думаю, що ніхто має відповідь», — каже він. «Єдине, що я можу вам сказати напевно, це те, що я не думаю, що вони роблять достатньо».