Случайны выбор дневника Раскрыть/свернуть полный список возможностей


Найдено 51 сообщений
Cообщения с меткой

нейронная сеть - Самое интересное в блогах

Следующие 30  »
rss_rss_hh_new

Метод безъитеративного обучения однослойного персептрона с линейной активационной функцией

Среда, 12 Июля 2017 г. 23:39 (ссылка)

В этой статье не будет ни одной строчки кода, тут будет просто теория метода

обучения нейронных сетей, который я разрабатываю последние пол-года. Реализацию метода планирую в следующей статье.


Перспективы безъитеративного обучения нейронных сетей очень велики, это, потенциально, самый быстрый способ обучения НС. Начать цикл работ по безъитеративному обучению я хочу с самого простого случая(где упрощать уже некуда). А именно, с обучения однослойного персептрона с линейной активационной функцией. Функция ошибки для одного нейрона задана как:

$f_{los}(W)=\sum_{i=1}^n[y_i-(\sum^m_{j=i}w_j\cdot x^i_j)]^2$





Где $W = \{w_1,...w_k\};$, m — количество входов в нейронной сети, n — мощность обучающей выборки, которая состоит из пар: выходного идеального значения «y» для каждого нейрона и входного вектора «x». Так же стоит отметить, что обучать каждый нейрон можно по отдельности.

Сеть будет обучена, если: $f_{los}(W) \rightarrow min$, т.е. если ошибка будет минимальной.



Учитывая, что функция активации линейна, а уравнение функции ошибки квадратичное, то очевидно что максимума такая функция не имеет, а следовательно условие при котором $\frac{\partial f_{los}(W)}{\partial w_i} = 0$, это условие минимума. Давайте для начала определим эту производную и приравняем её к 0.

$\frac{\partial f_{los}(W)}{\partial w_j} = -2\cdot \sum_{i=1}^{n}(y_i-\sum _{j=1}^mw_j\cdot x_j^i)x_k^i = 0 ;$





После ряда преобразований получаем:

$\sum_{j=1}^m(w_j\cdot \sum_{i=1}^{n}x_j^i\cdot x^i_k)=-\sum_{i=1}^{n}x_k^i\cdot y_i;$





Где k — номер уравнения в системе.



Для завершения обучения нам нужно рассчитать вектор весов W. Не сложно заметить что последнее выражение, если его записать для каждого уравнения, представляет собой СЛАУ относительно W. Для решения этой системы я выбрал метод Крамера(метод Гаусса быстрее работает, но он не такой наглядный). Каждый вес нейрона можно записать как:

$\\w_j=\frac{det(A_j)}{det(A)}; \\A= \begin{pmatrix} a_{11} ..... .... a_{1m}\\ ..... ....\\ .. ... .. ..\\ a_{m1} ..... .... a_{mm} \end{pmatrix}; \\B=\begin{pmatrix} b_1\\ ..\\ ..\\ b_m \end{pmatrix}; \\a_{kj} = \sum_{i=1}^nx_j^i\cdot x^i_k; \\b_k = -\sum_{i=1}^ny_i\cdot x^i_k;$





Здесь матрица $A_j$ это матрица «A» в которой j-й столбец заменен на вектор B. Это обучение одного нейрона, в силу того, что нейроны никак не связаны между собой можно обучать их параллельно, независимо друг от друга.



P.S. Если есть замечания по статье, пишите, всегда рад конструктивной критики.




Как Вы считаете, такой метод стоит развивать или нет?




























Проголосовало 3 человека. Воздержалось 4 человека.





Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.


Original source: habrahabr.ru (comments, light).

https://habrahabr.ru/post/332936/

Метки:   Комментарии (0)КомментироватьВ цитатник или сообщество
SoXiE

Recolor.ml как игрушка

Понедельник, 08 Мая 2017 г. 16:10 (ссылка)

Как сделать из чёрно-белого фото цветное? Раскрасить?


Вот эти дни вокруг 9 мая по зомбоящикам крутят раскрашенные ч/б киноленты, и невольно приходит вопрос, а такой ли конский бюджет у наших фондов, чтобы тратить корейские человеко-часы на раскрашивание плёнок? Хорошо, эта мысль пришла сегодня, а вчера я таки брожжением поднял пост, где 5 лет назад бился о вопрос расцвечивания чёрно-белых фотокарточек, что вдруг мол где-то в сульфидах плёнки затесалась информация о цвете, и вуаля. Мы живём в такое забавное время, где искуственный интеллект и неровные нейронные сети умеют всё, стилизуя банальнейшие виды в стиль Пикассо и Кандинского, так почему же не...?


И таки да. Существовал сервис Recolor.ml, нейронная сеть, раскраска черно-белых фотографий, причём запущенная на каком-то чуть ли не домашнем сервере русскоговорящим человечком, которая слегла через день ввиду большого моментального спроса. Сервис не был монетизирован, и был медленным и бесплатным. А жаль, я думал появятся десятки клонов, ведь каждый задрот может поставить себе Debian с запущенной нейросетью по готовому дистрибутиву. Но нет, сколь не искал - интернет молчит.


Ладно, делюсь секретной действующей ссылкой http://hi.cs.waseda.ac.jp:8082/, япоши подняли у себя нейронную сеть и она достаточно быстра. Вот фотокарточка из предыдущего поста, пропущенная через машину. Всё правильно сделано, без украшательств как в AKVIS Coloriage, наличники и резьба синими не были в то время.


036 RE (331x512, 64Kb)

Вот ещё результаты работы алгоритма и нейронной сети. Издалека (для этого там стоит ограничение на размер выходного фото) видно цветастость фотокарточки, изначально бывшей чёрно-белой, снятой на исходную ч/б плёнку. Красный цвет у сети не в приоритете, хотя большинство оттенков он угадывает верно, без подсказок оператора, даже машинку покрасил в нужный цвет.


Тетюши (344x512, 56Kb)Красновидово (331x512, 68Kb)

Вот ещё пример, где то же место 27 лет спустя, с той же плёнки. Таких адовых туч в тот день не было, это дефект плёнки, однако трава в июле действительно выцветшая, а Волга синеватая.


Красновидово 1989 (512x327, 63Kb)
Красновидово 2016 (512x512, 46Kb)

Ну, даже скормить нейронке психодел, изъятый с надломленной плёнки, где засвечено два кадра на одном, он всё равно вычленяет нужные оттенки.


Психодел (512x332, 56Kb)

Зачастую, когда сеть не может отгадать, что в кадре, она лишь тонирует кадр пятнами, где порой модные в 1980-х химические кудри становятся зеленью, но лица всё равно видит. Опять повторюсь, красный цвет не в фаворе, вишня преимущественно чёрная выходит, да и многое зависит от самой плёнки, кривая восприятия цветов. Вообще, я очень косо смотрю в сторону ч/б съёмки в наши дни, как и 10 лет назад, как и на аватары в соцсетях, находя следующие аргументы:


- Ч/б фото прошлого обязаны монохромностью только цене и распространённостью, цветную фотосъёмку проводил ещё Прокудин-Горский, и ч/б съёмка была неким дешёвым эрзацем, типа поларойда и нынешних селфи на невероятно ущербные фронтальные камеры эй-фонов и иных клонов, моментальностью и всегда доступной плёнкой, инфраструктурой по проявке или наборам для домашней проявки. То есть, исключительно аргумент технико-экономического прогресса и распространенности.


- Ч/б фото как стиль появилась именно из вышеуказанного аргумента, когда талант есть, кадр есть, а средств нет, художникам приходилось искать и изгаляться в приёмах фото вприсядку, чтобы кадр имел ценность и насыщенность.
- Ч/б фото есть средоточие на содержании, а не форме, что есть плюс для запоминания лиц и фотороботов, этакой криминалИСТИческий подход, паспортно-протокольные фото.


- На сознание населения давит очень много всяких дурацких проблем, из-за чего жизнь им кажется серой без наркотиков, и они начинают жрать всякие лизергины, чтоб хоть в голове, но поцветастей было. И видимо им привычнее видеть ч/б. Опять же, у меня преобладает красный цвет на авиках, потому что я люблю вblёбblвaться, чтобы картинка сразу бросалась в глаза, раздражала, бесила, но обращала внимание.


- Ну, аргумент про полноцветность и наличие большего количества информации, доступной человечьим органам при несовершенном мозге (который не чует ИК/УФ/СВЧ), и выбрасывать эту инфу грешно. Единственное оправдание разумному снижению цветности нахожу в том, что вот есть дети, у которых ощущенческий максимализм зашкаливает, им нужно чтоб игрушки были кричащих безвкусных тонов, чтобы музыка была громче и дурнее, чтобы клоуны вели себя буйнее, интонации идиотичнее, вкусы острее, то есть, чтобы какофония цвела и пахла. И вот эти выпады взрослым человеком воспринимаются с большим трудом.


По всему вышесказанному, как и 10 лет назад, я заявляю, что ч/б фото с появлением цветной плёнки/цифры в доступности - моветон, дурновкусие и ретроградство. Засылка фотокарточек на этот япошин ресурс с сопутствующим просмотром, между делом, навела меня на очередное подтверждение правоты своих ощущений, куда как более чувственный пост в приватной зоне.


Заливайте скорее свои ч/б фотоархивы в япошин ресурс, пока он не загнулся, ибо за год это первый найденный.

Метки:   Комментарии (1)КомментироватьВ цитатник или сообщество
Лакшери-роботы

Анализ и поиск видеоинформации

Суббота, 17 Декабря 2016 г. 19:24 (ссылка)


По мере того, как объёмы БД, содержащих оцифрованные face-изображения, возрастали, возник вопрос о правовом регулировании их сбора и использования. Существует Конвенция Совета Европы № 108 от 28.01.81 "О защите личности в отношении автоматизированной обработки персональных данных". Ключевое слово здесь - "автоматизированных". Согласно закона РФ "Об информации, информатизации и защите информации", персональные данные (ПД) - это сведения о фактах, событиях и обстоятельствах жизни гражданина, позволяющие идентифицировать его личность. Казалось бы, это определение не относит face-изображение к ПД, однако, будучи оцифрованным и введённым в качестве ключевого в систему поиска видеоинформации, изображение становится файлом, входящим в состав сведений, представленных в форме видеоизображений с, возможно, кадрами о частной жизни человека. И это ограничило бы применение поисковых систем видеоинформации, особенно, творческими работниками.


ana_star (475x326, 138Kb)


Чтобы снять часть ограничений в свободе информационного обмена, Европейские парламент и Совет приняли Директиву 95/46/ЕС "О защите физических лиц в отношении обработки персональных данных и о свободном обращении этих данных", требующую, в числе прочего, от государств-участников установить специальные исключения во внутренних законодательствах для обработки ПД, осуществляемой исключительно в целях журналистики или в целях художественного или литературного творчества (при условии, если право на частную жизнь сочетается с правом на свободу слова). Это допущение позволило распространить действие Директивы, в отличие от Конвенции, не только на автоматизированные ПД, но и на обрабатываемые иными средствами (manual data) - поскольку различие носило очень условный характер, особенно, ввиду аналогий между нейрокомпьютингом (адаптивность, способность к обучению и обобщению, устойчивость к неточной обучающей информации) и человеческим мышлением. Но нейрокомпьютинг не мог решать задачу рыночной экономики: капитализировать ПД (например, распознавание образов не всегда имеет рыночное обоснование: как, например, формализовать понятие "проводить взглядом"?), тогда как те, для кого Директива установила специсключения, это делали на практике.


Обучение нейросистемы строится на отбрасывании неверных решений - таких, как решение служащих изучать в рабочее время порносайты. Программа "Антиэректор" (в основе таких программ - заведомо неполная таблица преобразования образов - см. рис.), блокирующая доступ учрежденческих ПК к эротике, самообучающаяся: если появляется поза (например, "Е"), которой нет в библиотеке запретов, поза автоматически заносится в библиотеку. 


У журналистов (в частности, папарацци) при капитализации ПД максимальный риск сочетается с минимальной прибылью. В кино же налицо художественная спекуляция на частной жизни известных людей. Так, Шерилин Фенн исполнила роль Элизабет Тейлор в фильме "Лиз: история Элизабет Тейлор". Тейлор протестовала, чувствуя: Шенн выбрана не только из-за внешнего сходства (ср. "В" и "Г"), но и из-за скандальной репутации. Так и было: фильм вышел в прокат как "Элизабет и её мужчины", а заданный публике экранный стандарт стал помогать прокату эротических лент с мордашками в типаже "Тейлор-Фенн" ("Д" - обложка видеофильма "Бабник-7"). Сходство же спецификации "Тейлор-Фенн" с экранными персонажами других стран (ср. "Г" и "Ж") помогло прокату и на тех рынках. Зомбирование аудитории на определённый экранный стандарт - это, научно говоря, процедура определения весовых коэффициентов синаптических связей. Протест Тейлор - это попытка не стать очередной спецификацией "открытого стандарта", тем более, не будучи формально "патентодержателем".


Если каждое из множества лиц принять за нейрон, то, согласно алгоритму Кохонена, в процессе обучения сети (видеопрокатной) веса связей изменяются не у всех нейронов, а лишь у того, входной сигнал (промоушн) которого наиболее силён. Для рассматриваемого стандарта входной сигнал создал первый русский кинематографист (если считать, что выставки художников-передвижников были предтечей кинопроката) И. Н. Крамской - мэтр передвижничества, начинавший как ученик странствующего фотографа. Жизнь художников-передвижников как в смысле поиска типажей, так и в смысле женского внимания мало отличалась от киношных командировок - и, в то же время, им не навязывался экранный стандарт красоты. Свои впечатления Крамской на закате жизни просуммировал в "Неизвестной" ("А"), ставшей тем открытым стандартом, с которым позже совпала Элизабет Тейлор. До Тейлор версиями "Неизвестной" стали схожие с ней звёзды немого кино (а затем и звукового - Эва Гарднер - "Б"), в чью компанию попала и внешне похожая лицом на "Неизвестную" исполнительница танца живота Мата Хари: её сценический образ стал "фабрикой грёз" настолько, что воспалившееся воображение поклонников превратило её в королеву шпионажа. Впоследствии адаптивный поиск актрисы на роль Маты Хари привёл к Сильвии Кристель ("Эммануэль") - тот же типаж "Тейлор-Фенн", но более тонкие черты лица: следование открытому стандарту не противоречит алгоритмам поисковых машин, работающих по характерным чертам лица, в которых машина измеряет расстояния и углы в области "глаз-нос-рот". Почему же высокие идеи и директивы Евросоюза служат, в конечном счете, коммерческим целям? Объяснение - в аналогии математического нейрона с биологическим нейроном: пороговая функция отражает активность сомы.


Нейронная сеть - это вычислительная структура, состоящая из множества простых вычислителей, связанных по какой-либо из топологий. Модель нейрона - это бинарный пороговый элемент, вычисляющий взвешенную сумму входных сигналов и формирующий выходной сигнал, если сумма превышает определённый входной порог, Положительные веса соответствуют возбуждающим связям, отрицательные - тормозящим.


А сома - это совокупность клеток живого существа, в которую не входят лишь ответственные... за половые функции. Этот пробел и восполнили продюсеры порнофильмов, составляющие досье на двойников экранных звёзд (спецификации стандарта выбираются по длительности пребывания на экране), чтобы нанимать их для съёмок "видеовиагры". А. П. Барсуков, журнал "ТКТ" № 6, 2000 г.


 


АКТУАЛЬНО: "Черный ящик" в автомобиле: помощник или надзиратель?  - http://www.liveinternet.ru/users/albrs/post402370094/


 


Экран (кино или телевизионный) - самый надёжный формирователь трансграничных и трансвременных "линий красоты". Эти "линии красоты" и будут базой данных для суперкомпьютера-аукциониста. Помимо обозначенной в  вышеприведённой статье "линии красоты", существуют еще несколько, сформированных общностью типажей: "Софи Марсо - Екатерина Климова - Дженифер Энистон", "Орнела Мути - Анастасия Мельникова (экс-телеведущая Российского ТВ)", "Нонна Терентьева - Шарлиз Терон", "Софи Лорен - Майя Менглет", "Жанна Болотова - Эля Болгова", "Ли́на Бракни́те (Суок в фильме "Три толстяка", Дубравка) - Татьяна Ленчина (сотрудница PR-агентства) - Екатерина Гусева - Барбара Брыльска - Анна Снаткина", "Марика Рёкк - Кетрин Зета-Джонс - Валерия Семёнова (архивист ЦГАЗ - Центральный Государственный архив звукозаписей)", "Вера Марецкая - Елена Аржаник - Юлия Маврина" - Дарья Повереннова, "Ирина Азопкова (журналист) - Милен Демонжо", "Хэди Ламарр - Елена Панова - Екатерина Редникова", "Джина Лоллобриджида - Ольга Фадеева", "Татьяна Овсиенко - Любава Грешнова", "Зента (Санта) Бергер - Наталья Фатеева", "Джессика Бил - Елена Корикова". "Ольга Остроумова - Наталья Лапина - Ольга Павловец", "Карина Разумовская - Элизабет Арнуа", "Люсьена Овчинникова - Мария Моргун", "Кэтрин Белл - Алика Смехова - Анастасия Цветаева", "Наталья Дворецкая - Елизавета Боярская", "Яна Райская - Лада Челнокова (оператор звукозаписи ЦГАЗ СССР)", "Гвинет Пэлтроу - Ольга Серова (редактор журнала ТКТ)", "Присцилла Пресли - Елена Старостина (телеведущая)", "Николь Кидман - Марина Кулигина (сотрудница ЦНФ)", "Наталья Данилова - Анна Гусева (референт ЦГАЗ)", "Ирина Салтыкова - Олеся Судзиловская", "Ким Бессинджер -Тамара Акулова", "Любовь Полищук - Настя Каменских", "Софико Чиаурели - Алла Демидова - Лада Негруль - Ирина Танчарова (оператор ЦГАЗ)", "Джессика Бил - Кристина Бабушкина", "Ирина Алфёрова - Елена Дудина", "Виоланте Плачидо - Ирина Акулова"
Метки:   Комментарии (0)КомментироватьВ цитатник или сообщество
Аноним

Среда, 01 Декабря 1970 г. 03:00 (ссылка)

Комментарии ()КомментироватьВ цитатник или сообщество
Аноним

Среда, 01 Декабря 1970 г. 03:00 (ссылка)

Комментарии ()КомментироватьВ цитатник или сообщество
Аноним

Среда, 01 Декабря 1970 г. 03:00 (ссылка)

Комментарии ()КомментироватьВ цитатник или сообщество
Аноним

Среда, 01 Декабря 1970 г. 03:00 (ссылка)

Комментарии ()КомментироватьВ цитатник или сообщество
Сергей_Удачин

Нейронную сеть научили писать картины

Среда, 02 Сентября 2015 г. 15:18 (ссылка)

http://earth-chronicles.ru/news/2015-09-02


нейр1 (600x394, 226Kb)

Учёные Тюбингенского университета в Германии представили алгоритм для нейронной сети, который позволяет воспроизводить любые изображения в стиле того или иного художника. Нейросеть способна скопировать технику Винсента Ван Гога, Эдварда Мунка и Пабло Пикассо, сообщает The Washington Post.
Читать далее...
Метки:   Комментарии (1)КомментироватьВ цитатник или сообщество
Аноним

Среда, 01 Декабря 1970 г. 03:00 (ссылка)

Комментарии ()КомментироватьВ цитатник или сообщество
Аноним

Среда, 01 Декабря 1970 г. 03:00 (ссылка)

Комментарии ()КомментироватьВ цитатник или сообщество
Ирцейс

Анорексия, ожирение и нейронные сети

Суббота, 09 Августа 2014 г. 11:13 (ссылка)


Аномалии в пищевом поведении, которые могут привести к клинической худобе или клиническому ожирению, происходят в одних и тех же нейронных структурах; разница заключается лишь в настройке нейронов друг относительно друга.

Аномалии в пищевом поведении3 (639x382, 180Kb)

Хотя проблема избыточного веса привлекает к себе неизмеримо больше внимания, чем чрезмерная худоба, учёные имеют есть все основания думать, что и ожирение, и анорексия случаются из-за неполадок в одном и том же нервном механизме. 

Читать далее

Метки:   Комментарии (1)КомментироватьВ цитатник или сообщество

Следующие 30  »

<нейронная сеть - Самое интересное в блогах

Страницы: [1] 2 3 ..
.. 10

LiveInternet.Ru Ссылки: на главную|почта|знакомства|одноклассники|фото|открытки|тесты|чат
О проекте: помощь|контакты|разместить рекламу|версия для pda