Максим Фёдоров о проблемах применения искусственного интеллекта Ректор "Сириуса" и известный специалист по ИИ дал интересное интервью Коммерсанту. Важнейшие тезисы: - проблема неустойчивости решений обученных моделей: жизнь обязательно богаче обучающей выборки, поэтому ошибки по результатам использования ИИ-продуктов гарантированы, вопрос лишь в их времени и частоте, ‐ закладки через данные: угрозы кибербезопасности (например, неожиданный разгон автономного автомобиля, запланированное искажение распознавания лица) теперь могут создаваться манипуляциями на обучающей выборке и присутствовать в том числе в популярных открытых наборах данных, которым поэтому не стоит полностью доверять, - системы социального рейтинга: не просто репрессивны, но ещё и антинаучны, поскольку основаны на ложном предположении о возможности выразить сложную социальную реальность моделью с конечным числом параметров.