Разработчики из Anthropic делегируют все большую часть цикла создания ИИ самим нейросетям. В перспективе это может привести к рекурсивному самосовершенствованию — способности ИИ автономно разрабатывать своего преемника.
По данным Anthropic Institute, инженеры компании уже отправляют в продакшен в 8 раз больше кода за квартал, чем в период с 2021 по 2025 год.
Технология обещает прорыв в науке и медицине, однако несет риск потери контроля. Если системы смогут полностью собирать своих преемников, методы их мониторинга, защиты и формирования безопасного поведения станут критически важными.
