Паскаль и AI На фоне подписанного письма в т.ч. многими авторитетными представителями IT бизнеса и науки о просьбе приостановить разработки в области искусственного интеллекта вспоминается мысль о переносе логики Пари Паскаля на развитие AI. Пари Паскаля (картинка 1) – известная логическая конструкция, обосновывающая выгоду веры: 1. Если ты веришь, то в случае наличия божеств у тебя будет бесконечное блаженство после смерти, в случае отсутствия – кратковременное разочарование (или его полное отсутствие) 2. Если ты не веришь и в итоге оказался прав, тебя ждет кратковременное удовлетворение от осознания какой ты умный/ая (или его полное отсутствие), а если нет – вечные страдания. По итогу комбинация "бесконечное блаженство / кратковременное разочарование" кажется лучше, чем "вечные страдания / кратковременное удовлетворение". К реальности эта штука конечно не применима (много вопросов: а каким божествам верить? они ж все карают за веру в оппонентов; вера – она ж должна быть искренней, а то тоже кара; а искренне заставить себя что-то делать вряд ли можно; ну и т.п.), однако применение ее на развитие AI интереснее. Варианты такие (картинка 2): 1. Таки делаем самый умный ИИ. Это суперинтеллект может как уничтожить человечество (бесконечная по величине потеря), так и решить многие проблемы людей (конечные бонусы: лекарства от рака, дифференциация образования, климат т.п.) 2. Ну его нафиг, не делаем. Если окажется, что ИИ нужен был для того, чтобы спасти человечество от неминуемой катастрофы и вымирания (пандемии, огромные астероиды, ядерные войны и т.п.), то это – та же бесконечная по величине потеря. Если же он не пригодится – статус кво. В итоге мы имеем выбор между комбинациями "бесконечная потеря / плюшки" и "бесконечная потеря / статус кво", в котором первый вариант кажется более секси. Что думаете? 👍 – Давайте делать, письмо это – или отстой, или лукавство, или одно из двух 👎 – Делать супер-ИИ точно не стоит, 30 000 умных подписавших призыв людей понимают, о чем говорят