США выделили деньги на создание ИИ, которому можно доверить решения, от которых зависит человеческая жизнь

США выделили деньги на создание ИИ, которому можно доверить решения, от которых зависит человеческая жизнь
Американское агентство DARPA выделило исследователям Университета штата Нью-Мексико $600 тысяч на разработку новой архитектуры ИИ. Она должна объединить скорость нейросетей с математической проверкой логических выводов.

Американское Агентство перспективных оборонных научно-исследовательских проектов (DARPA) направило 600 тысяч долларов исследователям Университета штата Нью-Мексико на разработку искусственного интеллекта, выводы которого можно будет проверять с помощью формальной логики. Проект рассчитан на два года и должен помочь решить одну из главных проблем современных нейросетей: они способны быстро анализировать огромные объёмы информации, но далеко не всегда могут подтвердить правильность своих ответов.

О выделении гранта университет сообщил 20 ноября 2026 года. Работу возглавили профессора компьютерных наук Сон Тран и Стилянос Василеу. Их команда сотрудничает с исследовательскими группами Университета штата Аризона и Университета Небраски в Омахе. По данным университета, проект вошёл в число десяти исследовательских команд, получивших финансирование в рамках соответствующего направления DARPA.

Официальное сообщение Университета штата Нью-Мексико.

Почему современные нейросети недостаточно надёжны

Большие языковые модели и другие системы машинного обучения умеют распознавать закономерности, анализировать тексты, изображения и данные, а также генерировать ответы. Однако их способность убедительно формулировать выводы не означает, что эти выводы всегда верны.

Нейросеть может допустить ошибку, неправильно интерпретировать исходные данные или предложить решение, которое выглядит логичным, но не выдерживает строгой проверки. В обычном разговоре подобная неточность может оказаться несущественной. Совсем другие последствия возможны, если искусственный интеллект используется при проектировании сложного оборудования, управлении автономными системами или анализе медицинских данных.

Проблема заключается не только в том, чтобы добиться от ИИ более высокой точности. Необходимо научиться проверять, на каких основаниях система пришла к конкретному выводу и соблюдала ли она заданные правила.

Нейросеть объединят с математической логикой

Проект американских исследователей называется SPARTA. Его задача - соединить два подхода к искусственному интеллекту, которые традиционно развивались отдельно друг от друга.

Первый - машинное обучение. Именно к этому направлению относятся современные нейросети, способные находить сложные закономерности в больших массивах данных. Их сильная сторона - гибкость и скорость обработки информации.

Второй - автоматизированное логическое рассуждение. Такие системы работают с формализованными правилами, ограничениями и логическими связями. Они позволяют проверять, следует ли определённый вывод из заданных условий, а в некоторых случаях - строить математическое доказательство.

Исследователи хотят объединить преимущества обоих подходов. Нейросеть будет обеспечивать способность распознавать закономерности и работать с неоднозначной информацией, а логические механизмы - помогать проверять выводы и обосновывать их в рамках заданных правил.

Речь идёт не просто о том, чтобы заставить чат-бота подробнее объяснять свои ответы. Важная особенность проекта - возможность использовать формальные доказательства, которые можно проверить независимо от самой модели.

Такую архитектуру предусматривает программа CLARA на официальном сайте DARPA.

Почему этим заинтересовалось оборонное агентство США

Программа CLARA расшифровывается как Compositional Learning-And-Reasoning for Automated Complex Systems Engineering. Её цель - разработать методы, позволяющие тесно интегрировать машинное обучение и автоматизированное логическое рассуждение.

В DARPA считают, что простое добавление внешних проверочных механизмов к готовой нейросети не решает проблему надёжности. Необходима более глубокая интеграция двух технологий, при которой логическая проверка становится частью архитектуры системы.

Сфера потенциального применения не ограничивается военными разработками. В описании программы агентство также упоминает автономные системы, управление и командные комплексы, логистику, медицину, финансы, право и научно-техническое проектирование.

Именно в таких областях цена ошибки может быть особенно высокой. Например, автономная система должна не только распознавать ситуацию, но и действовать в соответствии с ограничениями безопасности. В медицине важно понимать, на каких данных основана рекомендация, а в промышленности - проверять, не нарушает ли автоматизированное решение установленные технические требования.

Что именно предстоит сделать исследователям

Команда Университета штата Нью-Мексико получила два года на разработку методов, которые позволят эффективно соединять машинное обучение с логическими программами. В проекте участвуют специалисты из трёх университетов, поэтому работа предполагает объединение разных исследовательских компетенций.

Один из ключевых вопросов - вычислительная сложность. Формальная логика позволяет строго проверять выводы, однако сложные задачи могут требовать слишком много вычислительных ресурсов. Если проверка будет занимать чрезмерно много времени, использовать такую систему в практических приложениях окажется затруднительно.

Поэтому разработчикам предстоит найти баланс между строгостью доказательств, скоростью работы и возможностью применять созданные методы к разным задачам.

Важно понимать, что грант не означает появления готовой технологии. Университет получил финансирование на фундаментальные исследования. Пока речь идёт о разработке методов и архитектуры, а не о сертифицированной системе, которой уже можно доверить управление самолётом, медицинскую диагностику или другие критически важные решения.

Почему это важно для будущего искусственного интеллекта

Современная гонка ИИ постепенно выходит за пределы соревнования по размеру моделей и скорости генерации ответов. Одним из центральных вопросов становится доверие: насколько человек может проверить результат работы системы, особенно когда от него зависят безопасность, деньги или здоровье.

Если исследователям удастся объединить гибкость нейросетей с формальной проверкой логических выводов, это может изменить подход к созданию систем для критически важных отраслей. Разработчикам не придётся полагаться исключительно на статистическую точность модели или пытаться исправлять её ошибки уже после получения результата.

Однако между исследовательской концепцией и массовым внедрением остаётся значительное расстояние. Предстоит выяснить, насколько хорошо такие архитектуры справляются с реальными сложными задачами, как быстро выполняют проверку и можно ли масштабировать их без потери надёжности.

Проект SPARTA показывает, в каком направлении ищут решение одной из главных проблем искусственного интеллекта. Следующий этап развития нейросетей может определяться не только тем, насколько убедительно они отвечают, но и тем, насколько строго можно проверить основания для их выводов.

Ранее в разделе

Tesla вложит €3 млрд в немецкий завод: компания готовится выпускать до миллиона роботакси в год ИИ требует всё больше серверов, но производителям начинает не хватать комплектующих Подводный робот с ИИ собрал минералы на глубине более 4 километров в Тихом океане

Нашли ошибку?