Простите, отмечу еще одну работу в области ИИ. Разрабы из DeepMind и Google Brain взялись изучить свою же систему AlphaZero — как она «думает», играя в шахматы. Статья вышла две недели назад в PNAS, среди авторов Демис Хассабис и Владимир Крамник, 14-й чемпион мира по шахматам. Вопрос у них был простой: научилась ли AlphaZero чему-то похожему на человеческое понимание шахмат, несмотря на то, что никогда не видела, как играют люди? Ответ вышел такой: да, судя по всему, играя лишь сама с собой, она сформировала игровые концепции, аналогичные тем, что используют люди-шахматисты; найдено много явных соответствий. А вывод авторы делают такой: сам факт, что ИИ вырабатывает «человеческие» понятия с нуля, не имея априорных знаний и примеров игры шахматистов, позволяет рассчитывать, что и другие ИИ системы могут содержать представления, близкие человеку. ⚖️ Это еще одна попытка атаковать проблему интерпретируемости нейросетей. Мы толком не знаем подлинных возможностей обученных систем — и похоже, они гораздо более способны, чем о них привыкли думать. На это намекает такое явление как Emergent Abilities, когда некоторые свойства отсутствуют в малых ИИ моделях, но внезапно возникают в больших. Эти «скрытые» возможности для нас не предсказуемы. Видимо, что-то важное в работе нейросетей мы пока не понимаем. Вот почему все чаще появляются работы, где ИИ является не инструментом исследования, а объектом — как AlphaZero. 📌 Отличная подборка 137 эмерджентных способностей больших языковых моделей, которые уже обнаружены. Это позволяет ставить новые вопросы (там же).