В открытом письме от Института будущего жизни Маск, сооснователь Apple Стив Возняк и кандидат в президенты 2020 года Эндрю Янг призвали лаборатории искусственного интеллекта прекратить разработку и обучение более мощных моделей, чем GPT-4, последней версии большой языковой модели, разработанной американским стартапом OpenAI.
«Современные системы ИИ становятся конкурентоспособными по отношению к человеку при выполнении общих задач, и мы должны спросить себя: Должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? - говорится в письме. - Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге превзойдут, перехитрят, сделают нас устаревшими и заменят нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?».
В письме добавляется: «Такие решения не должны быть переданы неизбираемым технологическим лидерам».
Институт будущего жизни — это некоммерческая организация, базирующаяся в Кембридже, штат Массачусетс, которая выступает за ответственное и этичное развитие искусственного интеллекта. Среди ее основателей - космолог Макс Тегмарк из Массачусетского технологического института и соучредитель Skype Яан Таллин.
Институт заявил, что призывает все лаборатории ИИ «немедленно приостановить на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4».
GPT-4, который был выпущен в начале этого месяца, считается гораздо более совершенным, чем его предшественник GPT-3.
«Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий», - добавляется в письме.
ChatGPT, популярный чат-бот с искусственным интеллектом, ошеломил исследователей своей способностью давать человекоподобные ответы на запросы пользователей. К январю ChatGPT собрал 100 миллионов ежемесячных активных пользователей всего за два месяца после запуска, что делает его самым быстрорастущим потребительским приложением в истории.
Технология обучается на огромных объемах данных из Интернета и используется для создания самых разных произведений - от поэзии в стиле Уильяма Шекспира до составления юридических заключений по судебным делам.
Однако специалисты по этике ИИ выражают обеспокоенность по поводу потенциальных злоупотреблений технологией, включая плагиат и дезинформацию.
В письме Института будущего жизни технологические лидеры и ученые заявили, что системы ИИ, обладающие конкурентоспособным по отношению к человеку интеллектом, представляют «глубокий риск для общества и человечества».
OpenAI, которую поддерживает Microsoft, по сообщениям, получила инвестиции в размере 10 миллиардов долларов. Microsoft также интегрировала технологию обработки естественного языка GPT компании в свою поисковую систему Bing.
Впоследствии Google анонсировал свой собственный конкурирующий продукт разговорного ИИ для потребителей под названием Google Bard.
Маск ранее говорил, что считает ИИ одним из «самых больших рисков» для цивилизации.
Генеральный директор Tesla и SpaceX стал соучредителем OpenAI в 2015 году вместе с Сэмом Альтманом и другими, однако в 2018 году он вышел из совета директоров OpenAI и больше не имеет доли в компании.
В последнее время он неоднократно критиковал организацию, заявляя, что, по его мнению, она отклоняется от своей первоначальной цели.
Регуляторы также пытаются разобраться с инструментами ИИ, поскольку технология развивается быстрыми темпами. В среду правительство Великобритании опубликовало «белую книгу» по ИИ, предоставив различным регулирующим органам возможность контролировать использование инструментов ИИ в своих отраслях, применяя существующие законы.
