Приближается будущее, в котором искусственный интеллект сможет распознавать по сигналам мозга невысказанную реакцию человека «я не это имел в виду» и самостоятельно корректировать свое поведение.
Исследователи из Корейского института передовых технологий разработали технологию, которая с помощью мозговых волн выявляет когнитивное несоответствие между человеком и искусственным интеллектом, позволяя системам ИИ корректировать свои действия в режиме реального времени в соответствии с целями человека. Ожидается, что это достижение ускорит переход от ИИ, который следует четким инструкциям, к ИИ, способному определять намерения человека.
Чтобы искусственный интеллект мог естественным образом взаимодействовать с людьми, он должен точно понимать, чего на самом деле хочет человек. Однако до сих пор системы искусственного интеллекта в основном определяли намерения человека по наблюдаемым внешним признакам, таким как речь, действия или жесты.
Проблема в том, что одно и то же действие может отражать разные цели, а одна и та же цель может быть достигнута разными действиями. Например, когда человек берет чашку, может быть непонятно, собирается ли он из нее пить или хочет передать ее кому-то. С другой стороны, если цель человека — просто утолить жажду, то для достижения этой цели можно предпринять несколько разных действий: потянуться за чашкой, взять бутылку с водой или попросить кого-то принести напиток. Из-за этой двусторонней «неоднозначности цели и действия» пользователям часто приходится исправлять ситуацию с помощью дополнительных команд или действий, когда ИИ неправильно понимает намерения человека.
Чтобы решить эту проблему, исследовательская группа сосредоточилась на сигналах «ошибки прогнозирования», которые неосознанно возникают в мозге, когда человек сталкивается с неожиданной ситуацией. Проще говоря, команда использовала мгновенную реакцию мозга «это не то, что я имел в виду», когда ИИ выполняет неверное действие или преследует неверную цель.
Исследователи выделили два типа реакций мозга. Первый — это ошибка прогнозирования вознаграждения (reward prediction error, RPE), которая возникает, когда ИИ неправильно понимает конечную цель человека. Вторая — это ошибка прогнозирования состояния (state prediction error, SPE), которая возникает, когда цель верна, но процесс или метод действия отличаются от того, что ожидал человек.
Команда исследователей в режиме реального времени измеряла сигналы электроэнцефалографии (ЭЭГ) у людей, наблюдавших за тем, как ИИ выполняет задачи. Они обнаружили, что мозг генерирует разные сигналы в зависимости от того, неправильно ли ИИ понял саму цель или выбрал неверный метод для достижения правильной цели. Исследователи также выявили характерные паттерны мозговых волн, которые возникали при одновременном возникновении обоих типов ошибок.
Применив глубокое обучение к этим сигналам мозга, команда разработала технологию, которая может определять по одной только электроэнцефалограмме, как человек интерпретирует поведение ИИ. Другими словами, даже если человек не говорит «это неправильно», ИИ может распознать, сигнализирует ли человеческий мозг о том, что «цель неверна» или «метод неверен».
Затем команда предложила алгоритм синергии человека и ИИ на основе нейронного согласования ценностей, который в режиме реального времени передает расшифрованные сигналы мозга обратно ИИ, чтобы тот мог корректировать свое поведение.
Когда ИИ обнаруживает сигнал SPE, он интерпретирует ситуацию как «желаемая цель верна, но метод выбран неверно» и корректирует свою стратегию действий. Когда ИИ обнаруживает сигнал RPE, он понимает, что «сама цель была истолкована неверно», и снова пытается понять, что на самом деле имел в виду человек.
Результаты моделирования показали, что предложенный метод адаптируется быстрее, чем существующие подходы, даже в неопределенных ситуациях, например когда цель человека внезапно меняется или отсутствуют некоторые нейронные сигналы.
Ключевое значение этого исследования заключается в том, что оно демонстрирует возможность самокоррекции систем искусственного интеллекта за счет считывания бессознательной реакции мозга человека «я имел в виду не это», без необходимости постоянно повторять «сделай вот так» или «это неправильно».
По мере развития технологии ее можно будет применять к физическим роботам с искусственным интеллектом в домах и на производстве, что позволит им более естественно понимать намерения пользователя и соответствующим образом корректировать свои действия. Эту технологию можно использовать в автономных транспортных средствах, которые быстро реагируют на действия водителя, в медицинских и реабилитационных роботах для пациентов, испытывающих трудности с речью или передвижением, а также в образовательных системах искусственного интеллекта, которые адаптируются к когнитивному состоянию учащегося.
В конечном счете исследование представляет собой новую модель взаимодействия человека и ИИ, которая выходит за рамки ИИ, действующего только по прямому указанию, и позволяет ИИ реагировать на действия человека и соответствующим образом подстраиваться.