Чтобы понять модель глубокого обучения, может потребоваться изучить огромную сеть внутренних узлов обработки данных. Джейкоб Андреас, доцент MIT, недавно получивший постоянную должность, разрабатывает другой подход: обучает системы ИИ описывать полученные ими знания в понятной людям форме.
Андреас работает на факультете электротехники и компьютерных наук MIT и входит в состав его Лаборатории компьютерных наук и искусственного интеллекта. Более широкая цель его группы — помочь людям создавать более точные и надёжные модели, подходящие для решения поставленных перед ними задач. По его мнению, сложность вычислений в нейронных сетях требует инструментов, которые позволят представить их в понятной человеку форме.
Как описать то, чему научилась сеть
Одно из направлений работы группы посвящено алгоритмам, с помощью которых большие языковые модели обучаются и обрабатывают информацию. Исследователи разработали методы обучения языковых моделей объяснению работы других нейронных сетей. Это должно помочь учёным предвидеть, как обученная модель может вести себя за пределами лаборатории.
Эти методы позволяют составить описание на естественном языке для каждого узла обработки информации в большой сети. Например, в системе обработки изображений такое описание может указывать на узел, который обнаруживает участки травы рядом с животными. По словам Андреаса, подобные описания служат отправной точкой для изучения более широких вопросов о том, как модели представляют смысл.
Другое направление сосредоточено на алгоритмах обучения моделей машинного обучения и прогнозировании того, как конкретные наборы данных или примеры влияют на их поведение. По словам Андреаса, в этой области до сих пор нет достаточно хорошей научной теории, которая позволяла бы предсказать, что произойдёт при обучении модели на заданном наборе данных.
Он ожидает, что интерпретируемость станет важнее по мере того, как исследователи будут стремиться сделать продвинутые системы, в том числе ИИ-агентов, достаточно безопасными для применения в ситуациях, где цена ошибки высока. Он также обращает внимание на модели, предназначенные для содействия научным открытиям: их могут обучать на больших объёмах лабораторных данных, которые учёные пока плохо понимают. По его словам, добиться того, чтобы такие модели выражали знания, которые не были явно записаны, будет одновременно и сложной задачей, и новой возможностью.
От исследований перевода к преподаванию
Путь Андреаса к исследованиям языка начался в Колумбийском университете, где он изучал информатику и связался с преподавателями, работавшими в области ИИ. Первыми откликнулись исследователи обработки естественного языка. В лаборатории Майкла Коллинза он написал выпускную работу, в которой адаптировал статистические подходы к представлению смысла для использования в системах перевода на основе ИИ.
Получив степень магистра в Кембриджском университете, он продолжил исследования в Калифорнийском университете в Беркли под руководством профессора компьютерных наук Дэна Клейна. Его учёба совпала с переходом в области обработки языка от статистических методов к глубокому обучению. Совместно с исследователями компьютерного зрения он изучал системы, способные генерировать текст, обучаясь понимать визуальную информацию.
В своей диссертации в Беркли он изучал нейронные модульные сети: небольшие компоненты более крупной системы ИИ, которые выполняют такие задачи, как определение местоположения объектов или логические рассуждения. Связанные с этим поисковые исследования интерпретируемости и описаний внутренних состояний моделей впоследствии помогли определить направление работы его группы в MIT. Он вошёл в преподавательский состав MIT в 2019 году, проработав год в стартапе Semantic Machines.
Быстрые изменения в области ИИ влияют и на курсы по обработке естественного языка для студентов и аспирантов, которые Андреас ведёт совместно с коллегами. По его словам, преподаватели каждый год перерабатывают курсы, чтобы не отставать от развития технологий, а большие языковые модели создают дополнительную сложность, поскольку могут выполнять задания, предназначенные для студентов. Он призывает учащихся глубоко изучать основы этой технологии.




Обсуждение