Химики из Collaborations Pharmaceuticals впечатлены своей нейросетью, которую они используют для разработки лекарств. Оказалось, с тем же холодным равнодушием она может дизайнить сильные отравляющие вещества — надо лишь поменять ей настройки вознаграждения. При запуске сети химики сменили наказание за токсичность поощрением, и программа за шесть часов нагенерила им 40 000 разнообразных ядовитых молекул. Как уже известные, так и совершенно новые, даже «более токсичные, чем общеизвестные боевые отравляющие вещества». Авторы признаются: «чем лучше мы можем предсказать токсичность, тем лучше мы можем направить нашу генеративную модель для создания новых молекул в области химического пространства, населенной преимущественно смертельными молекулами». То ли совпадение, то ли и правда тенденция: все чаще ученые открыто демонстрируют опасность своих разработок. Статья в свободном доступе, журнал Nature Machine Intelligence. Все передовые исследования следует считать исследованиями двойного назначения.