Король Великобритании Карл III на следующей неделе проведет встречу с руководителями крупнейших мировых компаний в сфере искусственного интеллекта. Саммит пройдет во дворце Дамфрис-Хаус в Шотландии под эгидой Фонда Дитчли. Ожидается участие представителей Nvidia, Anthropic, Google DeepMind и OpenAI. Британские власти представит заместитель министра по делам бизнеса по вопросам ИИ Канишка Нараян.
Что на повестке
Как сообщает The Times, во вступительном слове Карл III призовет участников к открытому обсуждению развития искусственного интеллекта. Одной из тем станет выработка общих принципов использования ИИ, которые должны учитывать интересы человека и способствовать развитию общества.
Участникам саммита также предложат подписать хартию, закрепляющую общий набор принципов в сфере искусственного интеллекта. В документе предполагается сделать акцент на сохранении человеческого достоинства и использовании технологий для благополучия людей и планеты.
Призывы к замедлению
Встреча пройдет на фоне растущей обеспокоенности в отрасли. Ранее генеральный директор Anthropic Дарио Амодей опубликовал эссе, в котором призвал индустрию замедлить темпы улучшения возможностей моделей ИИ, чтобы меры безопасности успевали за развитием технологии. Он предупредил, что без сдерживания через шесть-двенадцать месяцев автономные агенты могут представлять серьезную угрозу, включая масштабные кибератаки.
Его поддержали глава OpenAI Сэм Альтман и Илон Маск . Дискуссия обострилась после того, как исследователь из команды безопасности Anthropic Джейкоб Коксон публично уволился, заявив, что люди, работающие над ИИ, «искренне напуганы» скоростью прогресса.
Что это значит
Саммит под патронажем короля это попытка вывести дискуссию о безопасности ИИ на уровень, где коммерческие интересы компаний сталкиваются с запросом общества на контроль. Хартия, которую предложат подписать лидерам индустрии, не будет иметь юридической силы, но задаст моральные рамки.
Для России эта новость важна в контексте собственных разработок. Вопрос о том, как регулировать системы, способные к самосовершенствованию, становится глобальным вызовом. Пока Британия собирает лидеров индустрии под сводами дворца, Россия остается вне этого диалога, но последствия принятых там решений будут ощущаться и на нашем рынке.
