Что наша жизнь? ‘Игра!‘- любили петь герои старых кинофильмов. Герои вымышленные, но мудрые, ведь, смотря на безумства этого мира, не могут не возникать сомнения в его реальности. Чем больше присматриваешься к ней, тем больше возникает ощущение, что реальность движется по вполне чёткому сценарию, слабо зависящему от наших действий. И начинают терзать смутные сомнения в реальности нашей реальности. Возникает подозрение, что эта реальность вовсе не реальность, а виртуальность, генерируемая неизвестно чем и подчиняющаяся неизвестно какой логике.

Чтобы убедиться в обоснованности наших подозрений, рассмотрим несколько фактов из нашей реальности. Мы рассмотрим факты и только факты. Но, как и полагается всем философствующим Хомо, мы подберем только те факты, которые ложатся в нашу теорию и злостно проигнорируем все остальные. Мы даже дадим ответы на всякие заковыристые вопросы оппортунистов, не желающих признавать прогрессивные идеи.

Читать далее

https://habr.com/ru/post/693284/?utm_source=habrahabr&utm_medium=rss&utm_campaign=693284

В этом обзоре мы рассмотрим, как методы LIME и SHAP позволяют объяснять предсказания моделей машинного обучения, выявлять проблемы сдвига и утечки данных, осуществлять мониторинг работы модели в production и искать группы примеров, предсказания на которых объясняются схожим образом.

Также поговорим о проблемах метода SHAP и его дальнейшем развитии в виде метода Shapley Flow, объединяющего интерпретацию модели и многообразия данных.

Читать далее

https://habr.com/ru/post/599573/?utm_source=habrahabr&utm_medium=rss&utm_campaign=599573

Это эссе содержит обширный обзор весьма узкой темы: интерпретируемости машинного обучения. Пост не претендует на исчерпывающую полноту, я ставил своей целью рассмотреть концептуальные фреймворки, существующие исследования и направления их развития.

Я придерживаюсь категоризации, использованной в работе Lipton et al.'s Mythos of Model Interpretability, которую считаю наилучшей статьей, проясняющей различные дефиниции интерпретируемости. Мы рассмотрим множество способов формализовать значение «интерпретируемости». В широком смысле интерпретируемость отвечает на вопрос «как». Она призвана дать понятие о нашей модели и объяснить, каким образом эта модель принимает те или иные решения. Ниже каждый раздел концептуализируется на основе конкретного вопроса, который можно поставить к нашей модели машинного обучения, опираясь на конкретное определение интерпретируемости. Если все это для вас в новинку, объясню для начала, почему нас вообще должна волновать интерпретируемость.

Читать далее

https://habr.com/ru/post/569442/?utm_source=habrahabr&utm_medium=rss&utm_campaign=569442

Распознавание изображений (т. е. классификация того, какой объект отображается на изображении) является основной задачей в области компьютерного зрения, так как она позволяет использовать различные последующие приложения (автоматическая маркировка фотографий, помощь слабовидящим людям и т. д.) и стала стандартной задачей, по которой можно проводить сравнение алгоритмов машинного обучения (ML). Алгоритмы глубокого изучения (DL) за последнее десятилетие стали наиболее конкурентоспособными алгоритмами распознавания образов. Однако по умолчанию это алгоритмы «чёрного ящика»: трудно объяснить, почему они делают конкретный прогноз. Почему это является проблемой? Пользователи моделей ML часто хотят иметь возможность интерпретировать, какие части изображения привели к прогнозу алгоритма, по многим причинам:

• Разработчики машинного обучения могут анализировать интерпретации к отладочным моделям, идентифицировать заблуждения и прогнозировать, обобщается ли модель на новые изображения.


• Пользователи моделей машинного обучения могут больше доверять модели, если модели объясняют, почему был сделан конкретный прогноз.


• Законодательное регулирование относительно ML, такое как GDPR, требует некоторых алгоритмических решений, которые можно объяснить с человеческой точки зрения.

Мотивированные такими условиями, в течение последнего десятилетия исследователи разработали множество различных методов для открытия «чёрного ящика» глубокого обучения с целью сделать базовые модели более объяснимыми. Некоторые методы специфичны для определённых видов алгоритмов, в то время как другие являются общими. В этой статье представлен обзор методов интерпретации, изобретённых для распознавания образов, а также примеры и код, чтобы попробовать их самостоятельно с помощью Gradio. Автор статьи Али Абдалла — сооснователь Gradio и инженер по машинному обучению. До этого он работал в Tesla, iRobot и MIT. Он опубликовал несколько научных статей  и участвовал во многих проектах с открытым исходным кодом.
Приятного чтения!

https://habr.com/ru/post/540302/?utm_source=habrahabr&utm_medium=rss&utm_campaign=540302

Визуальная интерпретация Екатеринбург
подробнее тут - https://adg.ru/


Компания «ADG»
Телефон: +7(499)113-2062,

WhatsApp:+7(499)113-2062.
https://adg.ru/

Визуальная интерпретация Новосибирск
подробнее тут - https://adg.ru/


Компания «ADG»
Телефон: +7(499)113-2062,

WhatsApp:+7(499)113-2062.
https://adg.ru/

Визуальная интерпретация Иркутск
подробнее тут - https://adg.ru/


Компания «ADG»
Телефон: +7(499)113-2062,

WhatsApp:+7(499)113-2062.
https://adg.ru/

Визуальная интерпретация СПб
подробнее тут - https://adg.ru/


Компания «ADG»
Телефон: +7(499)113-2062,

WhatsApp:+7(499)113-2062.
https://adg.ru/

Визуальная интерпретация Новосибирск - http://vk.com/wall-201045772_213

Визуальная интерпретация Екатеринбург - http://vk.com/wall-201045772_214

Визуальная интерпретация СПб - http://vk.com/wall-201045772_211

Визуальная интерпретация Новосибирск - http://vk.com/wall-201045772_213

Визуальная интерпретация СПб - http://vk.com/wall-201045772_211

Визуальная интерпретация Иркутск - http://vk.com/wall-201045772_212

Визуальная интерпретация Екатеринбург - http://vk.com/wall-201045772_214

Визуальная интерпретация Екатеринбург - http://vk.com/wall-201045772_214

Визуальная интерпретация Екатеринбург - http://vk.com/wall-201045772_214

Визуальная интерпретация Екатеринбург - http://vk.com/wall-201045772_214

Визуальная интерпретация Новосибирск - http://vk.com/wall-201045772_213

Визуальная интерпретация Новосибирск - http://vk.com/wall-201045772_213

Визуальная интерпретация Новосибирск - http://vk.com/wall-201045772_213

Визуальная интерпретация Новосибирск - http://vk.com/wall-201045772_213

Визуальная интерпретация СПб - http://vk.com/wall-201045772_211

Визуальная интерпретация СПб - http://vk.com/wall-201045772_211

Визуальная интерпретация Иркутск - http://vk.com/wall-201045772_212

Визуальная интерпретация Екатеринбург - http://vk.com/wall-201045772_214