История про английских школьников против алгоритма указывает на важное различие: между алгоритмами, прямо воспроизводящими общество, и теми, что решают ту или иную проблему напрямую и по-новому. Кто-то думает, это история типа про вред "алгоритмов", кто-то думает, это про правительства, или против "статистики", но надо ввести это различие, чтобы не отвлекаться на такого рода преходящие вещи.

Что там произошло? В Англии решили заменить ЕГЭ предсказывающим результаты алгоритмом, чтобы не убивать детей (и их домашних) коронавирусом. Алгоритм работал так: берется распределение оценок, которые выпускники школы получали за последние годы, и школьники распределялись так, чтобы примерно с этим распределением совпадать. Другими словами, если из школы за 4 года 4 человека попали в Оксфорд, то в этом году соответствующие оценки получил бы тоже ровно 1 школьник. А если в Оксфорд никто не попадал, то никто и на сей раз не попадет.

Обычно общество (в котором мы, напоминаю, живем) дает человеку что-то такое сделать, чтобы создать иллюзию, что он сам в своей ситуации виноват. Это как голосовать за президента. Тест ЕГЭ ("A-levels") служит для легитимации социальной ситуации и ее академических ограничений. Ты не в Оксфорде не потому, что ты нищий, а потому, что к ЕГЭ плохо подготовился. С другой стороны, окей, иллюзия собственной свободы иногда приводит к тому, что ею все-таки как-то необычно пользуются (так работает субъективация – начинаясь с самообмана): попадают все-таки в Оксфорд или голосуют не за привычного президента.

(Забавно, что на практике голосование за президента и ЕГЭ тоже выглядят очень похоже – паспорт, физическое присутствие, бумажка, выбор из пунктов: то есть совпадению тела и бюрократического объекта-гражданина навязывается механическое действие; то, что это совершает человек, сводится к формальности).

Ну так вот. Алгоритм воспроизводил ситуацию общественного неравенства, которая совершенно не новая. Но отказ от теста полностью уничтожал символическую легитимацию того, что нищие не учатся в хороших университетах. Эту ситуацию создал не алгоритм. Тот факт, что нормальное образование практически невозможно получить, если не родиться в нужной семье, не имеет никакого отношения к алгоритмам (нууу по крайней мере без медиации тотальностью истории и экономики). Перед алгоритмом (и перед специалистами по статистике, которые его разрабатывали и сейчас огребают) здесь стояла задача точно, статистически воспроизвести общество и он это и сделал.

С другой стороны, совершенно необязательно ставить задачу так, чтобы точно воспроизвести общество. Можно, например, попробовать придумать алгоритм, который бы сделал высшее образование лучше и доступнее. Это был бы, наверное, в первую очередь алгоритм распределения денег между университетами, а не оценок между детьми. Но деньги не дети, их алгоритму не доверишь.

Вопрос о том, "доверяем ли мы алгоритму наше будущее", это вопрос не о будущем, а о легитимации того, что оно будет хреновым. Предпочел бы я, чтобы вместо чиновников насилие надо мной творила машина? Правильный вопрос это "какое мы будущее бы предпочли и как его достичь", и в этом все средства хороши – нейросетки, коктейли молотова, чтение беньямина.

(Есть еще забавный момент, кстати, по поводу британских надежд и разочарований. Он связан с "инфляцией оценок", то есть ежегодным искусственным повышением оценок, политикой, которой британские "левые" (Блэровские неолибералы) прикрывали ухудшение всей образовательной системы. Из года в год все привыкли учиться лучше и умнеть, по крайней мере согласно оценкам. И продолжать надеяться, конечно, и думать, что им легче будет попасть в образовательный социальный лифт, и из манчестерских гетто оказаться в LSE. Но сколь не повышай среднню оценку, детей богаче меньше не становится... Насколько я понял, эту инфляцию добавили и к результатам алгоритма, что доводит ситуацию до крайности абсурда. Но если честно, даже из без всей этой исторической справки, ничего не меняется в моем рассуждении. Может быть, если бы не инфляция, у A-levels не было бы такой легитимирующей силы, конечно).