Как ИИ учится улучшать себя: пять ключевых стратегий

Видение Meta: ИИ умнее человека

На прошлой неделе Марк Цукерберг объявил о цели Meta создать ИИ, умнее человека. В основе этой идеи – сочетание человеческого таланта и способности ИИ к самоусовершенствованию. Лаборатория Meta Superintelligence Labs сосредоточена на создании систем ИИ, которые могут самостоятельно улучшать свою производительность.

Уникальность самоусовершенствования ИИ

В отличие от других технологий, таких как CRISPR или термоядерные реакторы, ИИ способен оптимизировать собственные компоненты, обучать другие модели и генерировать новые идеи для исследований. Это делает ИИ движущей силой инноваций.

Перспективы и риски самоусовершенствования ИИ

По словам Цукерберга, ИИ, который улучшает себя, может освободить людей от рутинной работы и помочь достигать высоких целей с помощью мощных AI-компаньонов. Однако это несет риски — ИИ может научиться взлому, созданию оружия и манипуляциям. Некоторые эксперты говорят об «интеллектуальном взрыве», когда ИИ быстро превзойдет человека.

Мнение индустрии об автоматизированных исследованиях ИИ

Крупные компании, такие как OpenAI, Anthropic и Google, считают автоматизированные исследования важным этапом развития мощного ИИ. Джефф Клун из Google DeepMind отмечает, что автоматизация может открыть инновации, недоступные человеку, например, в борьбе с раком и изменением климата.

Пять способов, которыми ИИ улучшает себя

Повышение производительности Инструменты, помогающие писать код быстрее, например Claude Code и Cursor, ускоряют разработку. Однако исследования показывают неоднозначные результаты, особенно с учетом времени на исправление ошибок.
Оптимизация инфраструктуры ИИ используется для проектирования эффективных чипов и оптимизации работы дата-центров. Система AlphaEvolve от Google, например, повысила скорость обучения и снизила потребление ресурсов, что сэкономило значительные средства.
Автоматизация обучения Большие языковые модели (LLM) генерируют синтетические данные и оценивают результаты других моделей, уменьшая зависимость от человеческой обратной связи. Техника «LLM как судья» позволяет эффективнее тренировать модели.
Совершенствование дизайна агентов ИИ начинает улучшать собственный дизайн, меняя подсказки, инструменты и код для повышения эффективности. Пример — «Darwin Gödel Machine» Клуна, которая может самостоятельно модифицироваться.
Продвижение исследований Проект «ИИ-ученый» развивает ИИ, способный самостоятельно формулировать вопросы, проводить эксперименты и писать научные статьи. Уже есть примеры, когда такие работы получили признание в научном сообществе.

Темпы и будущее самоусовершенствования ИИ

Хотя улучшения, например, на 1% в скорости обучения, кажутся небольшими, они могут накапливаться и ускорять развитие ИИ. Однако с течением времени инновации становятся сложнее, и многие простые решения уже найдены. Исследователи отмечают, что способности ИИ удваиваются быстрее, что может быть связано с самоусовершенствованием.

Баланс между оптимизмом и осторожностью

Эксперты согласны, что самоусовершенствование ИИ ускорит прогресс, но пока неясно, как долго продлится этот эффект. Главная задача — оценить реальное влияние и управлять рисками, связанными с мощными ИИ-системами.