По поводу письма 1100+ публичных и непубличных людей за "временную остановку разработки AI". Интересна эта история тем, что мы как человечество вышли на тот уровень прогресса, где уже сами можем не понимать, что будет дальше. Новые технологии всегда не успевали зарегулировать, но сейчас ситуация принципиально различается тем, что мы даже не знаем, как их зарегулировать (кроме остановки и рефлексии над происходящим). Пропасть между самым "необразованным" и самым "образованным" всегда была широка: пока один боялся грома, другой предсказывал существование атомов. Проблема современности в том, что сейчас даже самый "образованный" может потерять этот статус перед AI, потому что AI просто тупо быстрее. "Приостановить" прогресс нельзя, как предлагают в публичном письме. Даже если придет государство и попытается зарегулировать его, то все тайно будут продолжать разработки, никто не захочет терять фору. Капиталистическая конкуренция и желание прибыли в мире AI идёт еще быстрее, как у собак, год за двенадцать. Ирония состоит в том, что мы долго пытались предсказать, что убьет нас: метеорит, вирус или глупость. Теперь хорошим конкурентом к борьбе за вымирание человечества присоединяется жадность. Биология vs Прогресс. Is it the final battle?