Роботов научили ставить приказы людей под сомнение.

Новыми успехами в области ИИ может похвастаться университет тафтса. Была разработана специальная программа, которая ставит под сомнение целесообразность выполнения роботом тех или иных приказов.

Концептуально новая технология не нова: ранее нечто подобное использовалось при разграничении доступа и при передаче данных в вычислительных системах. Однако сейчас для демонстрации впервые был использован небольшой человекоподобный робот. Получив приказ, он не сразу бросается его выполнять
. Сначала машина анализирует свои навыки и физические возможности выполнить указание. Кроме этого рассматривается положение робота в системе отношений "Начальник - Подчиненный": робот "думает", должен ли он вообще выполнять этот приказ. Чтобы это случилось, отдавший распоряжение должен обладать соответствующими полномочиями.

В том случае, если робот не способен выполнить команду, он уведомляет об этом человека, отдавшего ее. После этого робот может уточнить данные, "Передумать" и все-таки выполнить поставленную задачу. Было представлено несколько видео. На первых двух робот не мог выполнить приказ с самого начала, однако, получив уточняющие данные, все же смог исполнить их. На последнем видео робот отказался выполнить указание, так как оператор не имел необходимых полномочий.

Очевидно, новая разработка не сделает революции в мире искусственного интеллекта, но еще один шаг на пути к созданию полноценного ИИ все же был сделан. Того самого ИИ, которого так опасаются сильные мира сего, в числе которых Билл Гейтс, Илон маск и Стивен хокинг.