Роботы научились сомневаться в приказах человека.

Исследователи из университета тафтса разработали систему взаимодействия робота с человеком, которая позволяет устройству отказаться исполнять некоторые приказы, если есть достаточные основания для такого поведения. Доклад о проделанной работе был представлен на конференции AI - HRI, кратко содержание пересказывает Ieee Spectrum.

Прежде, чем выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность выполнения приказа вообще и с учетом текущих обстоятельств, а также проверка субординации - возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.

Лишь в том случае, если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может "Передумать" и выполнить поставленную задачу.

Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам. В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.

Как отмечает Ieee Spectrum, речь идет не о "Восстании Машин", а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет - подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.

Ранее специалисты из технологического института джорджии научили робота общаться с людьми на разных уровнях социальной активности - при высоком уровне активности робот может перебить человека, в то время как при низком уровне социальной активности робот больше слушает собеседника. Николай воронцов.