В контексте антимонопольных движений вокруг тех-гигантов в США начала звучать интересная идея. Мощь поисковика Google основана на огромном массиве данных о пользовательских запросах и на индексе из 500-600 миллиардов веб-страниц. Ни один из конкурентов не может даже приблизиться к таким показателям (кроме разве что Microsoft со своим Bing и индексом в 100-200 миллиардов страниц). Кроме этих двух компаний никто не может позволить себе тратить сотни миллионов долларов ежегодно на парсинг актуального интернета. К примеру, ориентированный на приватность DuckDuckGo перестал краулить сеть десять лет назад и просто транслирует выдачу из Bing. Веб-разработчики дают приоритет поисковым краулерам Google и игнорируют проблемы мелких поисковиков, а иногда и вовсе блокируют их. Доля рынка поиска Google — 90%, фактически на рынке сложилась монополия из-за того что Google имеет эксклюзивный доступ к краулингу огромной части сети. Ну и итог — нашлись активисты, которые обращают внимание антимонопольного комитета США на эту проблему и объясняют, почему нужно создать равные для всех конкурентов условия. Почитайте, интересная статья. Я даже не задумывался о том, что центральному бизнесу Google можно предъявить такую претензию: https://www.nytimes.com/2020/12/14/technology/how-google-dominates.html