UX и AI: боевой листок drive.google.com/file/d/…Nbi/view Yann LeCun, лид AI Reserch в Мета и профессор университета Нью-Йорка, выступил с презентацией на тему ошибок ChatGPT и “заземления” языковых моделей. Достаточно противоречивая работа, которая, тем не менее важна для того, чтобы понять новые роли и работы, которые будут в ближайшее время востребованы на рынке. Основная идея заключается в том, что у языковых моделей есть траектории диалога и “корректные” из них занимают существенно малую долю от всех возможных. Нужен человек для контроля, нужны качественно новые задачи для разметчиков данных. Кажется, это классное обоснование новой профессии: LLM возвращают фактические ошибки, логические ошибки, непоследовательность, ограниченность рассуждений, токсичность... У LLM нет знаний о лежащей в основе реальности: у них нет здравого смысла, и они не могут спланировать свой ответ. www-nytimes-com.cdn.ampproject.org/c/s/www…amp.html Осталось несколько месяцев до первых киберпреступлений с чат-гпт. Чат-бот Snapchat, например, посоветовал одному репортеру (который выдавал себя за подростка) о том, как замаскировать запах алкоголя или марихуаны, и дал советы о том, как заняться сексом в первый раз. В статье не звучит - но есть история про переписки с незнакомцами со стороны детей. Чаты многих существующих продуктов сейчас будут под угрозой. www.nature.com/article…-37180-x Языковые модели животных в Nature. Катализация искусственного интеллекта следующего поколения с помощью NeuroAI основано на идее того, что специфический тест Тьюринга для диалогов с животными (животное-компьютер) потенциально более мощная эвристика. Я много раз тут писал, что взаимодействие животное-машина(animal-computer interaction) удивительно продуктивное направление для проектирование цифровых продуктов, но тут речь идет о воплощенном сенсомоторном взаимодействии с миром. Исследовательская группа в лаборатории Колд-Спринг-Харбор под руководством Энтони Задора работает над исследованиями в области оптимального управления, которое у животных поможет решить проблему, с которым не справилась теория обучения с подкреплением. В целом такое повторение у эволюции сомнительно, но дико захватывающе