Искусственный интеллект рискует разрушить интернет

Сколько камней в день нужно есть? Малыши довольно быстро узнают, что ответ равен нулю, возможно, из опыта, возможно, после того, как их отругал родитель. Но спросите крупнейшую в мире поисковую систему, и вы можете получить другой ответ. (The Telegraph)
«По мнению геологов Калифорнийского университета в Беркли, вы должны есть хотя бы один маленький камень в день», — уверенно ответил Google некоторым пользователям на прошлой неделе, когда им задали вопрос.
«Говорят, что горные породы являются жизненно важным источником витаминов и минералов, которые важны для здоровья пищеварительной системы».

Этот случай не был единичным случаем. На прошлой неделе Google также сообщил пользователям поисковых систем, что Барак Обама был первым мусульманским президентом Америки. Когда его попросили назвать продукты, оканчивающиеся на «гм», он ответил: «Апплюм, банан, клубника, помидор и кокос».

Google не был взломан, но реальное объяснение было потенциально более тревожным. Интернет-гигант запустил новую функцию ответов на основе искусственного интеллекта (ИИ), которая, как он надеется, станет будущим его поисковой системы.

Недавно Google объявила, что начнет добавлять «Обзоры искусственного интеллекта» в топ миллиардов поисковых запросов, выполняемых каждый день. В то время как компания когда-то ссылалась на множество веб-сайтов, которые могли бы ответить на запрос, вместо этого она будет использовать искусственный интеллект для обобщения авторитетных источников, предоставляя простой ответ.

Эта функция была широко представлена пользователям из США и должна быть запущена по всему миру к концу года. Но начало у него было плохое. Пользователи поделились примерами неправильных ответов на выходных, в том числе нанесением клея на пиццу, чтобы сыр прилип к своей основе.

Google настаивает на том, что эти случаи не были типичными для того, как функционировал инструмент. «Подавляющее большинство обзоров ИИ предоставляют высококачественную информацию со ссылками для более глубокого изучения в Интернете», — сказал пресс-секретарь. «Многие из примеров, которые мы видели, были необычными запросами, и мы также видели примеры, которые были подделаны или которые мы не смогли воспроизвести».

Инженеры потратили последние дни на ручное изменение запросов, которые стали вирусными в Интернете. Компания заявила, что тщательно протестировала эту функцию в течение последних месяцев и что она основывалась на многолетнем опыте создания самой популярной в мире поисковой системы.

Но беспокойство вызывало не столько количество неловких вопросов, сколько их характер. С момента выпуска ChatGPT более 18 месяцев назад стало широко известно, что системы искусственного интеллекта «галлюцинируют», придумывая факты таким образом, что это обнажает их непонимание. Обзор искусственного интеллекта от Google не столько галлюцинировал, сколько опирался на источники, которые ни один человек не одобрил бы.

Совет есть камни, например, пришел с сатирического новостного сайта The Onion. Рекомендация наносить клей на пиццу была основана на шутке из социальной сети Reddit 11 лет назад. Его настойчивое утверждение о том, что Барак Обама был мусульманином, было основано на неверном толковании академической книги о религии в Америке.

В одном случае, когда Google заявил, что африканской страны не существует, начинающейся на букву К, его ответ, по-видимому, был основан на веб-обсуждении того, как ChatGPT неправильно ответил на тот же вопрос. Другими словами, ИИ теперь использует другие измышления ИИ в качестве евангелия.

Тот факт, что Google, который имеет 25-летний опыт направления людей на лучшие сайты, оказался неспособным отличить авторитетные источники от шуток, может подорвать доверие к ответам компании.

У Google и раньше были промахи с искусственным интеллектом. Ранее в этом году компания была вынуждена приостановить способность своего чат-бота Gemini рисовать изображения людей после того, как система будет генерировать исторически неточные изображения чернокожих нацистов и индейских викингов.

Генеральный директор Сундар Пичаи извинился после того, как бот также занял ряд странных позиций, таких как отказ осудить педофилию и приравнивание Илона Маска к Гитлеру. Microsoft также выдала неточные результаты на основе искусственного интеллекта в своей поисковой системе Bing, которая работает на технологии ChatGPT.

Но Google находится на другом уровне.

По данным Statcounter, доля компании на рынке поисковых систем составляет более 90%. Google является самым популярным веб-сайтом в мире — по умолчанию на iPhone и в браузере Chrome. Его материнская компания, Alphabet, в прошлом году получила 175 миллиардов долларов (137 миллиардов фунтов стерлингов) от продаж, что сделало его самым большим рекламным щитом в мире. Такой масштаб подтолкнул Google к снижению затрат на серверы для доставки ответов с помощью ИИ на 80%, что, по мнению критиков, могло снизить качество ответов.

В отличие от других проблем, связанных с искусственным интеллектом, Google не пошел на попятную, возможно, потому, что знает, что никогда не сможет гарантировать точность. Компания также находится под давлением, опасаясь, что конкуренты ИИ, такие как ChatGPT, могут съесть ее обед, если она не протолкнет ИИ в свои сервисы.

«ИИ угрожает основному предложению поиска, будучи более эффективным, чем процесс поиска, во многих отношениях, но в настоящее время он менее точен для проверки», — говорит Клэр Голубовски из Enders Analysis. «Google изо всех сил пытается найти правильный баланс, прежде чем конкурент откажется от его чрезвычайно ценного поискового продукта».

Но изменение работы поисковой системы Google также привело к опасениям по поводу будущего Интернета.

В течение многих лет у компании был свободный, неписаный контракт с веб-издателями, такими как новостные сайты, форумы и блоги: она собирала у них информацию, а взамен поисковая система отправляла миллионы пользователей к ним. Искусственный интеллект, который напрямую отвечает на вопросы людей, вызвал опасения, что количество кликов от Google резко упадет, что поставит под угрозу бизнес-модели, поддерживающие веб-сайты.

«Это разрушает естественный симбиоз Интернета», — сказал Джеймс Роузвелл из Движения за открытую паутину, группы для маркетинговой индустрии. «Если издатели не могут охватить аудиторию, они не будут создавать контент — это так просто.
«Google использует свою монопольную власть, чтобы попытаться замкнуть открытую сеть, но при этом они угрожают той самой модели, на которой построен интернет».

Google заявил, что «будет по-прежнему сосредоточен на отправке ценного трафика издателям и создателям» и что результаты искусственного интеллекта побуждают пользователей «копать глубже», переходя по ссылкам.

Компания кровно заинтересована в том, чтобы быть правой: если Google перестанет кормить веб-сайты, которые от него зависят, он может в конечном итоге полагаться на все более низкокачественные данные и рекомендовать делать что-то хуже, чем есть камни.