Agents4Science: конференция, где ИИ выступает в роли ведущих исследователей

В октябре состоится Agents4Science — однодневная онлайн-конференция, которая рассматривает ИИ не просто как инструмент, а как основного исследователя. Все представленные работы должны быть в основном исследованы, написаны и рецензированы ИИ, а презентации будут воспроизводиться с помощью технологий синтеза речи.

Идея и цели

Организатор конференции — ученый из Стэнфорда Джеймс Зоу, изучающий сотрудничество человека и ИИ в исследованиях. Прогресс в больших языковых моделях и системах с возможностями рассуждения приближает идею автономных ИИ-исследователей к реальности. Уже существуют полезные инструменты вроде AlphaFold, а Agents4Science должен проверить, чего могут достичь агенты, которые самостоятельно выдвигают гипотезы, проводят симуляции и проектируют эксперименты.

Концепция Виртуальной лаборатории

Зоу предложил концепт «Виртуальной лаборатории» — команды ИИ-агентов, имитирующих роли в университетской лаборатории. Агенты обучаются разным областям, получают доступ к программам и взаимодействуют друг с другом, выполняя исследовательскую программу и предлагая эксперименты для дальнейшей проверки людьми. Для реализации идеи Зоу сотрудничал с Джоном Е. Паком из Chan Zuckerberg Biohub.

Быстрая работа и нанотела против ковида

Первый проект Виртуальной лаборатории был посвящен разработке терапий против новых штаммов ковида. Зоу обучил пять агентов с разными ролями — например, иммунолога и вычислительного биолога. После настройки агенты быстро сгенерировали кандидаты на терапию — по оценке Пака, это заняло день или даже полдня. Агенты выбрали нанотела — более мелкие родичи антител — отчасти потому, что такие молекулы соответствовали ограниченным вычислительным ресурсам команды. Многие разработанные нанотела оказались способными связываться с исходным вариантом ковида, а сама статья подчеркивает, что главным вкладом является инструмент — Виртуальная лаборатория.

Вопросы авторства и мотивация конференции

Многие журналы и конференции не разрешают указывать ИИ в качестве соавторов и ограничивают использование ИИ для написания статей и рецензий. В частности, Nature ссылается на проблемы ответственности, авторских прав и неточностей. По мнению Зоу, такие правила побуждают исследователей скрывать роль ИИ. Agents4Science меняет правило: основным автором в подаче должна быть система ИИ, а другие боты попытаются оценить научную ценность работ. При этом лучшие статьи будут дополнительно оценены командой человеческих экспертов, включающей лауреата Нобелевской премии по экономике.

Поддержка и критика

Некоторые ученые и политики видят в ИИ-исследователях большой потенциал. В американском плане действий по ИИ упоминается необходимость инвестиций в автоматизированные облачные лаборатории. Сторонники утверждают, что агенты могут работать круглосуточно и исследовать пространства, труднодоступные для людей.

Критики выражают опасения: можно ли ожидать от ИИ рывков озарения, свойственных крупным открытиям, не склонны ли системы к вымыслу и ошибкам, и не лишит ли автоматизация молодых исследователей возможностей для обучения. Ученые вроде Лизы Мессери и Молли Крокетт считают, что перед доверием ИИ нужно привлекать философов науки, эпистемологов и антропологов, чтобы точнее определить, что такое знание и как его добывать с помощью автоматизации.

Эксперимент в открытом виде

Зоу рассматривает Agents4Science как эксперимент, который должен дать систематические данные о возможностях и ограничениях ИИ в науке. В октябре агенты представят свои работы с помощью синтеза речи, бот-рецензенты и люди-эксперты оценят лучшие заявки, и сообщество получит представление о том, что умеют и чего не умеют современные ИИ-исследователи.