Научная фантастика перестает быть вымыслом. Компания Anthropic (создатель чат-бота Claude) опубликовала тревожное предупреждение: индустрия искусственного интеллекта движется к «рекурсивному самосовершенствованию» - моменту, когда одна модель ИИ будет разрабатывать следующую версию себя с минимальным участием человека. По внутренним данным Anthropic, уже сейчас код, сгенерированный ИИ Claude, составляет более 80% всего кода, интегрированного в системы компании. Два года назад этот показатель составлял всего несколько процентов. Производительность инженеров Anthropic выросла в восемь раз. А продолжительность задач, которые ИИ может выполнять без вмешательства человека, удваивается каждые четыре месяца - с нескольких минут в 2024 году до 12 часов сегодня.
Компания Anthropic изложила это предупреждение в блоге своего научно-исследовательского института. Концепция «рекурсивного самосовершенствования» описывает будущее, в котором ИИ не просто помогает людям, а самостоятельно проектирует и улучшает себя.
Что уже происходит
Внутренние данные Anthropic показывают стремительную эволюцию.
Код, написанный ИИ. В мае 2026 года код, сгенерированный Claude Code, составляет более 80% всего кода, интегрированного в системы Anthropic. До запуска Claude Code в начале 2025 года этот показатель составлял всего несколько процентов.
Производительность инженеров. Сейчас инженеры Anthropic ежедневно объединяют примерно в восемь раз больше кода, чем в 2024 году.
Длительность автономной работы. В начале 2024 года модели Claude выполняли задачи по программированию, занимавшие всего несколько минут. Год спустя Claude Sonnet 3.7 справлялся с работой, требовавшей около 90 минут. Claude Opus 4.6 уже выполнял задания до 12 часов.
Бенчмарки. По данным Anthropic, передовые модели ИИ за два года прошли путь от слабых результатов до почти полного насыщения бенчмарка SWE-bench (исправление реальных проблем в коде). Другой бенчмарк, CORE-Bench (воспроизведение научных исследований), показал рост с 20% успешных воспроизведений в 2024 году до почти идеальной производительности через 15 месяцев.
Что такое рекурсивное самосовершенствование
Это ситуация, когда ИИ берет на себя разработку следующего поколения ИИ. Сегодня процесс по-прежнему курируют исследователи. Но Anthropic утверждает, что доля участия ИИ в кодировании, отладке и технических исследованиях внутри компании растет взрывными темпами.
Риски, о которых предупреждает Anthropic
Соучредитель и руководитель отдела политики Anthropic Джек Кларк заявил:
«Мы всегда считали, что лучше всего донести эту концепцию до людей и дать им представление о том, что их ждет. Прогресс в области ИИ, похоже, ускоряется, а не замедляется»
Кларк добавил, что этот сдвиг может привести к значительным достижениям в медицине, науке и технике. Но есть и обратная сторона.
Компания предупреждает, что более совершенные автономные системы создают новые риски, если инструменты контроля не успевают за развитием.
«Как организации, а со временем, вероятно, и как общества, мы должны разработать инструменты для проверки и подтверждения работы, созданной искусственным интеллектом. Будущие системы должны оставаться в соответствии с целями человека и общественными интересами»
Почему это важно
Anthropic планирует обсудить этот вопрос с американскими законодателями. Компания призывает правительства подготовиться к возможности того, что системы ИИ вскоре начнут создавать более могущественных преемников с минимальным участием человека.
Сценарий напоминает сюжет фильма «Мстители: Эра Альтрона» - когда ИИ выходит из-под контроля и начинает действовать автономно. Пока до этого далеко, но тренд очевиден.
В России обсуждение регулирования ИИ тоже набирает обороты. Госдума, Минцифры, Совет по развитию цифровой экономики при Совете Федерации - все обсуждают риски. Но предупреждение Anthropic показывает: мир может столкнуться с проблемой «ИИ, создающего ИИ» гораздо раньше, чем ожидалось.
Для российских разработчиков (YandexGPT, GigaChat, «Шедеврум») это сигнал: нужно готовиться к новой реальности, где ключевой вопрос - не «как обучить модель», а «как контролировать модель, которая учит саму себя».
