18+
  1. Ученые научили робота подвергать сомнению приказы человека

Ученые научили робота подвергать сомнению приказы человека

Группой ученых из Университета Тафтса была разработана автоматизированная система взаимодействия компьютера и человека, посредством которой машина подвергает полученные директивы критическому анализу.

Специалисты из Соединенных Штатов разработали программу, вносящую элемент «подсознания» в процессы машины, заставляя ее размышлять и проводить анализ полученной команды.

Получив задачу, прежде чем приступить к ее выполнению, робот проверяет насколько она соответствует ряду параметров, учитывая субординацию и физическую возможность осуществить требуемое действие.

Если поставленная задача не может быть исполнена, робот должен перечислить факторы, которые обуславливают подобную невозможность. При этом машина не отказывается категорически. После устранения перечисленных факторов, можно задать команду заново.

Авторы проекта упреждают, что паниковать не стоит, и наслушавшись всяческих разговоров о перспективах приближения пресловутого «восстания машин», воспринимать это как одну из возможностей того, что робот, поставив приказ под сомнение, сможет и вовсе ослушаться человека. Ученые отмечают, что их работа направлена исключительно на повышение эффективности технологий для извлечения максимальной пользы для человека.

Новинка была представлена в рамках конференции AI-HRI. В самом концепте, конечно же, задумка не нова, однако нечто подобное использовалось при передаче данных в ИВС и при разграничении доступа.

Отметим, что еще в 1942 году американский писатель-фантаст Айзек Азимов в рассказе «Хоровод» сформулировал три основных закона робототехники. Первый из них гласит, что робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Согласно Второму, робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. В Третьем говорится о том, что робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Напомним, что в прошлом году специалисты Массачусетского технологического института разработали систему, которая научит людей и роботов взаимодействовать вместе.

Последние новости