Среди прочего, разработанная Microsoft система смогла решить задачу расположения объектов в физическом мире, для чего требуется понимание действующих в нем законов. По команде ученых система воспользовалась языком программирования TiKZ, чтобы создать программу, которая способна нарисовать единорога. Когда ученые удалили фрагмент кода, ответственный за изображение рога единорога, и попросили систему изменить программу так, чтобы она снова нарисовала единорога, она решила и эту задачу.
Система смогла оценить риск развития диабета на основе возраста, пола, веса, роста и анализов крови человека. Она смогла написать письмо в поддержку электрона как кандидата в президенты США, озвучив его голосом Махатмы Ганди (Mahatma Gandhi). Она также смогла написать сократовский диалог, в котором исследовались злоупотребления и опасности больших языковых моделей. Решая эти задачи, система продемонстрировала понимание таких областей, как политика, физика, история, информатика, медицина и философия, сумев объединить свои знания.
Публикация Microsoft спровоцировала одну из самых острых дискуссий в технологической сфере – то, что один сочтет признаком разума ИИ, другой может легко объяснить без ссылок на разум.
В прошлом году Google уволил ученого, который утверждал, что аналогичная система искусственного интеллекта является разумной.
Тем не менее, некоторые эксперты считают, что за последний год новая система ИИ в своем развитии приблизилась к тому, что нельзя объяснить. Ее ответы стали похожи на те, которые способен дать человек, а идеи, которые она стала выражать, не были заложены в ней изначально.
Microsoft реорганизовал несколько исследовательских лабораторий, чтобы включить в них группы ученых, занимающихся изучением ИИ. Одну из них возглавит профессор Принстонского университета Себастьян Бубек, соавтор статьи об ИИОН.
Около пяти лет назад Google, Microsoft и OpenAI начали создавать большие языковые модели. Эти системы месяцами анализируют огромные массивы текстов, в т.ч. книги, статьи из Википедии и чаты. Выявляя закономерности, они научились генерировать собственные тексты, в т.ч. курсовые работы, стихи, и писать компьютерные коды. Они даже могут поддерживать беседу.
Ученые Microsoft работали с технологией GPT-4 от OpenAI, которая считается самой мощной из этих систем. В частности, по их команде GPT-4 написала математическое доказательство существования бесконечного множества простых чисел, представив его в виде зарифмованного текста. В течение нескольких месяцев Бубек с коллегами документировали сложное поведение GPT-4, и пришли к выводу, что она демонстрирует «глубокое понимание» человеческих концепций и навыков.
Как оказалось, GPT-4 анализирует, синтезирует и оценивает текст гораздо лучше, чем генерирует его, говорит глава исследовательской группы Microsoft Питер Ли.
Создание системы, принцип работы которой будет схож с человеческим мозгом или даже превосходить его, может изменить мир. При этом это также таит в себе опасности.
В то же время новая концепция может оказаться несостоятельной, что поставит крест на репутации ученых, занимающихся ИИОН. Некоторые эксперты расценили работу Microsoft как попытку сделать громкие заявления, относящиеся к технологии, принцип работы которой никто до конца не понимает. Ученые утверждают, что ИИОН требует знакомства с физическим миром, на которое GPT-4 в теории не способен.
Поскольку ученые Microsoft тестировали раннюю версию GPT-4, присутствующие в работе утверждения не могут быть проверены сторонними экспертами. Microsoft уточняет, что общедоступная система не такая мощная, как версия, которую они тестировали.
Элисон Гопник, профессор психологии, входящая в исследовательскую группу по ИИ в Калифорнийском университете в Беркли, считает, что такие системы, как GPT-4, без сомнения, являются мощными, но нельзя понять, является ли генерируемый этими системами текст результатом действия того, что можно уподобить человеческому разуму или здравому смыслу. «Постоянно сравнивать ИИ и человека – это просто неверный способ рассуждения об этих вещах», – уверена она.
