🌃 Ночное чтение. Идея из последней книги Стивена Хокинга «Краткие ответы на большие вопросы». О том, почему нам не стоит торопиться с разработкой искусственного интеллекта.

Наличие развитого интеллекта — вершина человеческой эволюции. Именно интеллект создал человеческую цивилизацию. Теперь на арену выходит искусственный интеллект (ИИ), и от взаимодействия с ним зависит наше будущее.
ИИ можно использовать для улучшения жизни, он способен привести к прорывам в медицине, образовании, распознавании речи и лиц, беспилотном вождении транспортных средств. У него огромный потенциал, но в самом этом потенциале скрыто множество ловушек.
Потенциально ИИ вполне способен взять над человеком власть, причем так, что мы этого даже не заметим. Он может манипулировать политическими лидерами, финансовыми рынками и технологиями. И если сегодня главный вопрос в отношении ИИ состоит в том, кто его контролирует, то в недалеком будущем встанет другой вопрос: можно ли его контролировать вообще.
Превосходя людей, ИИ способен вести себя с ними так, как муравьед с муравьями. Такие опасения были не только у Хокинга. Этого опасаются Илон Маск, Билл Гейтс, Стив Возняк, Ник Бостром и многие другие учёные и предприниматели.
Нужно не просто рассуждать, каким может быть ИИ, но и планировать, каким он должен быть. На каждую высокую технологию должно быть предусмотрено противодействие, чтобы в случае сбоя системы мы могли ее отключить. И это нужно планировать заранее, потому что каждая ошибка может стать последней.

Об ответах на самые сложные вопросы, волнующие человечество долгие тысячелетия, с точки зрения науки, читайте в нашем спринте «Большие вопросы Стивену Хокингу» — https://makeright.ru/library/brief-answers-to-the-big-questions-sprint/