Две классные статьи с грядущих ИИ конференций. Про языковую модель, которая умеет перепрограммировать себя, и про новый тип дипфейков, которые появятся в будущем. 🗞 Self-Programming Artificial Intelligence Using Code-Generating Language Models | ICLR ‘23 Модель научили генерировать код и обратили это свойство на код самой модели. Такой ИИ модифицирует сам себя, изменяя архитектуру, вычислительную мощность и динамику обучения. Понятно, что так же он может генерировать код и для других моделей, программируя глубокие нейросети. Картина будущего запутывается. 🗞 On the Horizon: Interactive and Compositional Deepfakes | ICMI ’22 Эрик Хорвиц (Eric Horvitz), главный научный сотрудник Microsoft, о будущем пишет прямо: на горизонте нас ждет усложнение злонамеренных дипфейков. Сегодня это лицо на экране, наложенное с артефактами, завтра это вся сцена, включая мимику, жесты и позу, голос, интонацию, звуки за окном, распознавание речи и генерацию речи. Полный интерактив. Однако это не так впечатлит на фоне иного типа фейков, композиционных, их создают как цепочки мнимых событий, встроенных в череду реальных фактов. Так можно манипулировать мнениями, целями и действиями людей, предлагая им фиктивные объяснения происходящего. Речь об искажении мира, еще более глубоком, чем в сегодняшних медиа. Словом, дипфейки создают ложные истории и атакуют коллективное понимание мировых событий. Хорвиц предостерегает и предлагает решения. Но это, скорее, приглашение подумать, ясно лишь, что ответ должен быть социо-техническим.