Научные открытия – это один из самых сложных человеческих процессов. Сначала ученые должны разобраться в существующих знаниях и найти в них значимый пробел. Затем они должны сформулировать исследовательский вопрос, разработать и провести эксперимент, чтобы получить ответ. После чего нужно проанализировать и интерпретировать результаты эксперимента, что может привести к новым вопросам.


Можно ли автоматизировать такой сложный процесс? Компания Sakana AI Labs анонсировала создание “ИИ-ученого” – системы искусственного интеллекта, которая, по их утверждениям, способна совершать научные открытия в области машинного обучения полностью автоматически.

Система использует генеративные большие языковые модели (LLM), подобные тем, что стоят за ChatGPT и другими чат-ботами с искусственным интеллектом. Она может генерировать идеи, выбирать перспективные, кодировать новые алгоритмы, строить графики результатов и писать статьи, резюмирующие эксперимент и его результаты, включая ссылки.

Как компьютер может “заниматься наукой”?
Но интересно ли это?
Искусственный интеллект может быть плохим судьей в отношении ИИ-вывода
Инструменты ИИ для поддержки ученых, а не для их замены
Исследования в области ИИ могут усугубить существующие проблемы
Наука основана на доверии
Разработчик утверждает, что их “ИИ-ученый” может пройти весь жизненный цикл научного эксперимента по 15 долларов за статью – меньше, чем стоит обед ученого-человека.

Это громкие заявления. Так ли это на самом деле? И даже если это так, станет ли армия ИИ-ученых, генерирующих исследовательские статьи с нечеловеческой скоростью, хорошей новостью для науки?

Как компьютер может “заниматься наукой”?
Большая часть научных исследований ведется открыто, и практически все научные знания записаны где-то (иначе у нас не было бы способа их “знать”). Миллионы научных статей свободно доступны онлайн в различных репозиториях.

LLM, обученные на этих данных, улавливают язык науки и ее закономерности. Поэтому, возможно, не так уж удивительно, что генеративная LLM может создать что-то похожее на хорошую научную статью – ведь она усвоила множество примеров, которые может копировать.

Менее ясно, может ли система искусственного интеллекта создавать интересные научные статьи. И ключевым моментом здесь является новизна.

ИИ
Но интересно ли это?
Ученые не хотят, чтобы им рассказывали о том, что и так уже известно. Скорее, они хотят узнавать новое, особенно то, что значительно отличается от уже существующих знаний. Это требует оценки масштаба и ценности вклада.

Система Sakana пытается решить проблему новизны двумя способами. Во-первых, она оценивает новые идеи для статей по степени их сходства с существующими исследованиями. Все, что слишком похоже, отклоняется.

Во-вторых, система вводит этап “рецензирования” – с помощью другой LLM оценивается качество и новизна сгенерированной статьи. Опять же, существует множество примеров рецензирования онлайн, которые могут помочь оценить статью. LLM тоже их усвоили.

Искусственный интеллект может быть плохим судьей в отношении ИИ-вывода
Отзывы об ИИ Sakana неоднозначны. Некоторые считают, что он генерирует “бесконечный научный мусор”.

Даже собственная система оценки разработчика оценивает статьи как, в лучшем случае, “слабые”. По мере развития технологии ситуация, вероятно, улучшится, но остается вопрос, имеют ли какую-нибудь научную ценность эти автоматизированные научные статьи.

Способность LLM оценивать качество исследований – тоже открытый вопрос. Моя собственная работа показывает, что LLM не очень хорошо справляются с оценкой риска смещения в медицинских исследованиях, хотя и здесь, возможно, ситуация улучшится со временем.

“ИИ-ученый” автоматизирует открытия в области вычислительных исследований, что намного проще, чем в других отраслях науки, требующих обязательного проведения физических экспериментов. Эксперименты Sakana проводятся с кодом, который также является структурированным текстом, который LLM может генерировать.

Инструменты ИИ для поддержки ученых, а не для их замены
Исследователи в области ИИ разрабатывают системы для поддержки науки уже десятилетиями. Учитывая огромное количество опубликованных исследований, даже поиск публикаций, относящихся к конкретному научному вопросу, может быть непростой задачей.

Специализированные поисковые инструменты используют искусственный интеллект, чтобы помочь ученым найти и обобщить существующие исследования. Инструменты анализа текста углубляются в статьи, чтобы идентифицировать ключевые моменты, такие как специфические генетические мутации и заболевания, а также установленные связи между ними. Это особенно полезно для сбора и систематизации научной информации.

Машинное обучение также используется для поддержки синтеза и анализа медицинских доказательств. Резюме, сравнивающие и сопоставляющие утверждения в статьях, помогают в проведении обзоров литературы.

Все эти инструменты направлены на то, чтобы помочь ученым более эффективно выполнять свою работу, а не заменить их.

Исследования в области ИИ могут усугубить существующие проблемы
Хотя Sakana AI заявляет, что не видит упадка роли человека-ученого, видение компании “полностью управляемой ИИ научной экосистемы” будет иметь серьезные последствия для науки.

Одна из проблем заключается в том, что, если ИИ-генерированные статьи зальют научную литературу, будущие ИИ-системы могут быть обучены на ИИ-выводе и подвергнуться моделированию коллапса. Это означает, что они будут все менее эффективными в новаторстве.

Однако последствия для науки распространяются далеко за пределы влияния на ИИ-научные системы сами по себе.

В науке уже есть недобросовестные люди, в том числе “фабрики по производству статей”, генерирующие фальшивые статьи. Эта проблема только усугубится, когда научную статью можно будет создавать за 15 долларов и с помощью нечеткой начальной подсказки.

Необходимость проверки ошибок в океане автоматически сгенерированных исследований может быстро превысить возможности реальных ученых. Система рецензирования, вероятно, уже сломана, а добавление в нее еще большего количества сомнительного качества исследований не исправит ситуацию.

Наука основана на доверии
Наука фундаментально основана на доверии. Ученые подчеркивают целостность научного процесса, чтобы мы могли быть уверены, что наше понимание мира (а теперь и мира машин) верно и улучшается.


Научная экосистема, в которой ИИ-системы являются ключевыми игроками, поднимает фундаментальные вопросы о значении и ценности этого процесса, а также о том, какой уровень доверия мы должны иметь к ИИ-ученым.

Но хотим ли мы такой научной экосистемы?

https://etm-club.site/novyj-ii-uchenyj-sobiraetsya-nachat-generirovat/