Развитие ИИ в области проектирования микрочипов ставит перед нами дилемму: можем ли мы доверять системам, которые не до конца понимаем?
Традиционно при разработке чипов ученые и инженеры работают с известными шаблонами и схемами. Новое исследование, опубликованное в Nature Communications, предлагает иной подход: проектирование схем и компонентов с помощью глубокого обучения. Используя искусственный интеллект (ИИ), исследователи из Принстонского университета и IIT Madras продемонстрировали метод «обратного проектирования», при котором сначала задаются желаемые свойства, а затем на их основе создается дизайн.



Полученные схемы работают на удивление хорошо, но есть одна загвоздка: никто толком не понимает, почему они так хорошо работают.

«Люди не могут их понять, но они работают лучше», — говорит Каушик Сенгупта, ведущий исследователь и профессор электротехники и вычислительной техники в Принстоне.

ИИ у руля
Метод, основанный на ИИ, был сосредоточен на проектировании беспроводных чипов, которые чрезвычайно важны для высокочастотных приложений, таких как сети 5G, радарные системы и передовые сенсорные технологии. Эти схемы лежат в основе инноваций во всем, от радаров до автономных транспортных средств, но их разработка идет крайне медленно. Инженеры обычно начинают с предопределенных шаблонов и вручную оптимизируют или улучшают конструкции путем итеративного моделирования и тестирования.

Этот метод трудоемкий и сложный. Он также требует высокой квалификации, что ограничивает возможности и скорость улучшения. Вот тут-то и появляется новое исследование.

В то время как предыдущий метод был «снизу вверх», новый подход работает «сверху вниз». Вы начинаете с размышлений о том, какие свойства вам нужны, а затем выясняете, как их достичь.


Конструкция ИИ отличается необычными и эффективными схемами. Автор: Эмир Али Карахан, Принстонский университет.
Исследователи обучили сверточные нейронные сети (CNN) — тип модели ИИ — понимать сложную взаимосвязь между геометрией схемы и ее электромагнитным поведением. Эти модели могут предсказывать, как будет работать предлагаемая конструкция, часто используя совершенно иные типы конструкций, чем те, к которым мы привыкли.

В исследовании был представлен ряд примеров использования, от простых однопортовых антенн до сложных многопортовых радиочастотных (РЧ) структур, таких как фильтры или делители мощности. ИИ спроектировал компактные антенны, которые работают на двух разных частотах, улучшая производительность многодиапазонных устройств. За считанные минуты он синтезировал фильтры с точными полосовыми характеристиками, задача, которая раньше занимала дни или недели.

Совершенно новые концепции
«Мы создаем сложные структуры, которые выглядят случайными, и при подключении к схемам они обеспечивают ранее недостижимую производительность», — говорит Сенгупта.

Конструкции были неинтуитивными и сильно отличались от тех, что создавались человеческим разумом. Тем не менее, они часто предлагали значительные улучшения.

«Классические конструкции тщательно соединяют эти схемы и электромагнитные элементы, чтобы сигнал проходил по чипу так, как нам нужно. Изменяя эти структуры, мы добавляем новые свойства», — сказал Сенгупта. «Раньше у нас был ограниченный способ делать это, но теперь возможностей гораздо больше».

Черный ящик
Насколько нам комфортно работать с этими конструкциями, которые мы не до конца понимаем? Что произойдет, если что-то пойдет не так?

Несомненно, ИИ будет играть все более важную роль в том, как мы проектируем вещи, и чипы не являются исключением. Однако по большей части мы до сих пор не понимаем, как ИИ приходит к своим решениям. Это затрудняет для инженеров полное понимание или прогнозирование поведения этих схем во всех условиях. Такой «черный ящик» может привести к непредвиденным сбоям или уязвимостям, особенно в критически важных приложениях, таких как медицинские устройства, автономные транспортные средства или системы связи.


Кроме того, если возникают ошибки, отслеживание и устранение проблемы может оказаться сложнее, чем в системах, разработанных вручную. На практическом уровне чрезмерная зависимость от ИИ может подорвать фундаментальные знания и навыки инженеров-конструкторов, создавая пробел в экспертизе в случае отказа или недоступности технологии. Но уже без сомнения ясно, что мы движемся к новой эре проектирования. Будем надеяться, что это эра, в которой люди все еще держат бразды правления.

Исследование опубликовано в Nature Communications.

https://etm-club.site/ii-proektiruet-mikrochipy-kotorye-my-ne-ponimae/



Искусственный интеллект может решать неразрешимые задачи, но люди не смогут понять результаты



Искусственный интеллект обещает ускорить научные открытия, но если ученые не будут осторожны, общественное доверие может быть подорвано.

Искусственный интеллект (ИИ) занял центральное место в фундаментальной науке. Пять лауреатов Нобелевских премий 2024 года по химии и физике объединяет одна общая черта: искусственный интеллект. Действительно, многие ученые, включая Нобелевские комитеты, приветствуют ИИ как преобразующую силу в науке.

Как сказал один из лауреатов, потенциал ИИ для ускорения научных открытий делает его «одной из самых преобразующих технологий в истории человечества». Но что эта трансформация будет на самом деле означать для науки?

Искусственный интеллект обещает помочь ученым делать больше, быстрее и с меньшими затратами. Но он также несет в себе множество новых проблем, и если ученые бросятся внедрять ИИ, они рискуют превратить науку в нечто, выходящее за рамки общественного понимания и доверия и не отвечающее потребностям общества.


Эксперты уже выявили как минимум три иллюзии, которые могут ввести в заблуждение исследователей, использующих искусственный интеллект.

Первая — это «иллюзия глубины объяснения». Тот факт, что модель ИИ, такая как AlphaFold (которая получила Нобелевскую премию по химии за предсказание структуры белка), преуспевает в прогнозировании явления, не означает, что она может точно его объяснить. Исследования в области нейробиологии уже показали, что модели ИИ, разработанные для оптимизированного прогнозирования, могут привести к ошибочным выводам об основных нейробиологических механизмах.

Вторая — это «иллюзия широты исследования». Ученые могут думать, что они исследуют все проверяемые гипотезы в своих исследованиях, тогда как на самом деле они рассматривают лишь ограниченный набор гипотез, которые можно проверить с помощью ИИ.

Наконец, «иллюзия объективности». Ученые могут полагать, что модели ИИ свободны от предвзятости или что они могут учесть все возможные человеческие предубеждения. В действительности, однако, все модели ИИ неизбежно отражают предубеждения, присутствующие в их обучающих данных и намерениях их разработчиков.

Одна из основных причин растущей привлекательности ИИ в науке — его потенциал производить больше результатов, быстрее и с гораздо меньшими затратами.

Крайним примером этой тенденции является машина «Ученый искусственный интеллект», недавно разработанная Sakana AI Labs. Видение компании заключается в разработке «полностью управляемой ИИ системы для автоматизированных научных открытий», где каждая идея может быть преобразована в полноценную исследовательскую работу всего за 15 долларов США, хотя критики уже заявили, что система производит «бесконечную научную чепуху».

Действительно ли мы хотим будущего, где исследовательские работы можно создавать всего несколькими щелчками мыши, просто чтобы «ускорить» производство науки? Это грозит затопить научную экосистему статьями, не имеющими смысла и ценности, еще больше нагружая и без того перегруженную систему рецензирования. Мы можем оказаться в мире, где наука, какой мы ее знали, погребена под шумом контента, сгенерированного ИИ.

Отсутствие контекста
Расцвет ИИ в науке происходит в то время, когда общественное доверие к науке и ученым все еще довольно высоко, но мы не можем принимать его как должное. Доверие — это сложная и хрупкая вещь.

Как мы узнали во время пандемии COVID-19, призывы «доверять науке» могут оказаться недостаточными, поскольку научные данные и вычислительные модели часто оспариваются, они неполны или открыты для различных интерпретаций.

Однако мир сталкивается с множеством проблем, таких как изменение климата, утрата биоразнообразия и социальное неравенство, которые требуют государственной политики, разработанной с учетом экспертных оценок. Эти оценки также должны учитывать конкретные ситуации, собирая информацию из различных дисциплин и жизненного опыта, которые должны интерпретироваться через призму местной культуры и ценностей.

Как утверждалось в докладе Международного научного совета, опубликованном в 2023 году, наука должна признавать нюансы и контекст для восстановления общественного доверия. Если мы позволим ИИ формировать будущее науки, это может подорвать с трудом завоеванный прогресс в этой области.

Если мы позволим ИИ взять на себя ведущую роль в научных исследованиях, мы рискуем создать монокультуру знаний, которая отдает приоритет тем видам вопросов, методов, перспектив и экспертов, которые лучше всего подходят для ИИ.

Это может отдалить нас от трансдисциплинарного подхода, необходимого для ответственного ИИ, а также от нюансированных публичных рассуждений и диалога, необходимых для решения наших социальных и экологических проблем.

искусственный интеллект

В начале 21 века некоторые утверждали, что у ученых появился обновленный социальный контракт, в котором ученые сосредоточивают свои таланты на самых насущных проблемах нашего времени в обмен на государственное финансирование. Цель состоит в том, чтобы помочь обществу двигаться к более устойчивой биосфере — экологически безопасной, экономически жизнеспособной и социально справедливой.

Подъем ИИ предоставляет ученым возможность не только выполнять свои обязанности, но и оживить сам контракт. Однако научному сообществу необходимо сначала решить некоторые важные вопросы, касающиеся использования ИИ.

Например, является ли использование ИИ в науке своего рода «аутсорсингом», который может поставить под угрозу целостность финансируемых государством работ? Как с этим следует поступить?

Как насчет растущего воздействия ИИ на окружающую среду? И как исследователи могут соответствовать ожиданиям общества, интегрируя искусственный интеллект в исследовательский процесс?

Идея преобразования науки с помощью ИИ без предварительного заключения этого социального контракта рискует поставить телегу впереди лошади.

Если позволить ИИ формировать наши исследовательские приоритеты без участия различных голосов и дисциплин, это может привести к несоответствию тому, что действительно нужно обществу, и к неэффективному распределению ресурсов. Наука должна приносить пользу всему обществу. Ученым необходимо вести реальные разговоры о будущем ИИ в своем профессиональном сообществе и с заинтересованными сторонами в области исследований.

Эти дискуссии должны затрагивать аспекты этого обновленного социального контракта, отражая общие цели и ценности.

Настало время активно изучить различные варианты будущего, которые искусственный интеллект открывает или блокирует для науки, и установить необходимые стандарты и руководящие принципы для ответственного использования его потенциала.
https://etm-club.site/iskusstvennyj-intellekt-mozhet-reshat-nerazres/