В современном мире искусственный интеллект широко используется для автоматизации огромного количества процессов, имеющих очень сложную технологию и большой объем действий. Ученые из разных стран постоянно создают новые системы на основе искусственного интеллекта, а также усовершенствуют и усложняют алгоритмы их действий. Столь быстрое развитие этих систем требует создания механизма остановки искусственного интеллекта в тех случаях, когда его действия начнут угрожать жизни и здоровью людей.
Разработчики Google из подразделения под названием Deepmind провели ряд исследований и пришли к заключению, что единственным решением при отключении искусственного интеллекта является наличие специальной кнопки, нажатие на которую полностью остановит его работу. Все исследования проводились на базе эксперимента с простой системой искусственного интеллекта, которая предназначалась для игры в Тетрис. На определенном этапе, когда уровень игры становился очень сложным для системы, она понимала, что для того, чтобы не проиграть, ей стоит просто нажать на кнопку паузы.
По словам Ника Бострома, основателя Института будущего человечества, представители которого также принимали участие в исследованиях, такое развитие искусственного интеллекта является наиболее безобидным. Также он заявил, что если не разработать механизм контроля функционирования таких систем, то искусственный интеллект сможет развиться намного больше, чем человек, и тогда люди ему будут попросту не нужны.
Уже сейчас разработчики пытаются ограничить уровень развития искусственного интеллекта путем создания в его программе кода, который в нужный момент остановит процесс самообучения. Однако не исключено, что до того, как сработает программный предохранитель, система успеет развиться до такого уровня, когда она сможет просто обойти это ограничения. Поэтому представители Google Deepmind считают, что кроме программной системы остановки необходимо разработать аппаратный тормоз.
По словам разработчиков, аппаратный метод должен позволять отключать всю систему нажатием только одной кнопки, причем знать принцип работы и иметь к ней доступ должен только человек, который эксплуатирует эту систему искусственного интеллекта.
