среда, 24 октября 2007 г.

Пройдя через лес ...

Извените, пост вышел длинный ... )

У меня в университете есть один замечательный преподаватель - настоящий, старой закалки - такой, у которого всю ленту сидишь с полу-открытым ртом, слушаешь и не можешь оторваться. Не знаю человека, который относился бы к ней неуважительно. Так вот, у нее есть одна замечательная фраза, которую может кто-то уже слышал:"... а то вы за деревьями не разглядите лес ...".
Она говорит так когда разьясняет нам что-нибудь, чтобы мы не потерялись в каком-нибудь особенно заковыритом моменте.
Но я и сам натыкаюсь на такие вещи довольно часто. Особенно когда начинаешь учить что-то совсем новое, а материал не то чтобы подан плохо - он просто вообще сложный для восприятия. И первые моменты ты просто продираешься через скопления формул и заковыристых определний из которых постоянно пытаешься выдрать хоть какой-нибудь смысл, да еще так, чтобы он связался с тем, что ты прочел 4мя строчками выше ...

Но если тебе повезет, и какой-нибудь образ, приведенный автором, или схема общей структуры, как бы это сказать, встанет на свое место у тебя в голове - испытываешь удивтительное, ни на что не похожее, ощущение - картинка на секунду складывается и ты сидишь и боишься пошевелиться, думаешь медленно, осторожно - перевариваешь новый образ, чтобы вдруг не разрушить эту хрупкую секунду прозрачности. И ведь такое бывает очень часто - ты испытал это самое ощущение, попытался его как следует покрутить в голове и снова запутался - и снова начинаешь продираться, перечитывать - и совершенно не факт, что прояснение повториться ...

Но если вдруг, тебе улыбнется интелектуальная удача, и ты не просто сможешь прозреть, но и зафиксировать все это в голове, а потом развить понимание и уловить всю модель/систему/Идею целиком - ощущаешь еще более сильное, еще более редкое чувство ...
совсем не похожее на другие ощущения. Такого не бывает ни в одной другой области знаний - только в точных науках и даже, наверное, только в физике и математике. В остальных областях все по своему - а потому все иначе. Там тоже яркое ощущение, но оно другое.
И вот в такие моменты ты начинаешь понимать, что на самом деле Музыка математики - не вымысел - ее очень, очень сложно почувствовать, но уж если удалось - это просто невозможно передать ... это ни с чем не сравнимая красота идеи ... или даже не так - Красота Идеи ... она не просто одаряет тебя своей грацией, не просто восхищает лаконичностью - это возбужденное понимание, что - "и ведь действительно - все вписывается", нет ни одной детали модели, которая бы торчала в сторону, все на своих местах. Ты как-будто собирал из позолоченных деталек саксофон, собрал, дунул в него - а он вдруг взял и заиграл ... и ведь все это невероятное чудо не остается само по себе - понятая и "пережитая" идея тут же взрывается в голове десятками разных "а ведь из этого можно получить ... ", "а что если сделать вот так ..." и ты начинаешь буквально бурлить маленькими всплесками задумок - руки тянуться что-нибудь сделать.. и сколько бы ни было на часах - ты можешь даже не надеятся лечь спать и заснуть - само по себе слово "замотивированный" просто не может даже на треть описать эту силу ощущений .......... в общем это очень, очень красиво. Ты действительно, как будто прошел через темный, дремучий лес, выбрался на опушку и как раз в этот момент, словно вознаграждение - взошло солнце ...

Я сам не очень хороший математик. Я все таки больше программист и вто эта красота математических моделей дается мне давольно редко. Некоторые из моих друзей наоборот ощущают ее намного чаще, но у меня такие ситуации можно перечесть по пальцам за все годы обучения в университете. И вот сегодня снова было что-то похожее. Как часто уже было - я начал совсем новую тему. Т.е я конечно слышал о нейронных сетях и знал о них в общем смысле - настолько чтобы поддержать разговор, буде такой состоится. А сегодня, в силу темы диплома, засел уже всерьез. И вот - мне понравилось ... я снова ощутил это ... и мне захотелось как-то поделиться. Вот тут-то как раз снова вспоминается аналогия с лесом, а с ней и трудности. Дело в том, что очень сложно передать эту красоту идеи. Если прост описать ее словами, то люди смотрят на тебя с жалостью и ласково гладят по голове. Ну как, как спрашивается объяснить постороннему человеку, что сама только схема постороения постсинапсических нейронов в неокогнитроне вызывает у тебя такое возбуждение от понимания, какую необъятную громадину вещей и применений это дает .. ?? И я не подбирал специально умные слова - это все действительно так звучит. Я не пытался поумничать - просто когда ты начинаешь учить с самого начала и постепенно примеряешься, там в голове, с терминами, то они становятся привычными и ты перестаешь обращать на них внимание - ты видишь не длинные слова, а смысл который они несут. Никого ведь не пугает слово термометр ... ? так чем, извените меня, хуже неокогнитрон .. чуть больше букв .. ну не смешите - мы же все взрослые люди ... )
И вот, столкнувшись с такой сложностью, я захотел объясниться как-нибудь совсем иначе. Я все таки хочу передать ту идею, которая меня так обрадовала. Я не буду применять почти никаких терминов, не буду вывешиать с непривычки отталкивающие схемы. Просто расскажу на примере. На живом примере. А вы уж потерпите меня немного и не бросайте читать прямо здесь .. просто дочитайте до конца ...

Давайте сначала разберемся с вопросом, зачем вообще нужна Нейронная сеть(дальше просто назовем ее Нсеть - чтобы не пугаться. . )))
Ответим н6а него в очень, очень узком смысле, чтобы тоже значит не пугаться.
Вот допустим происходит новый набор в айсек. И группа людей смотрит на фрешек и по каким-то признакам разбивает их на 2(для простоты) подгруппы - подходит/не подходит.
Вот в частности такую задачу может решить Нсеть. Для этого ее сначала нужно научить. Вот подходит например Яна Герасимова к Артему Неверову и говорит "вот смотри - ты эту фрешку взял бы в айсек ?" "Тот отвечает - да мол, мордашка симпотная" "Яна говорит - нет не правильно - мордашка симпотная ,но английский - 4 из 100 - не подходит". Т.е на самом деле эксперт Яна выдала узлу Нсети Артему знание о том, что если парметр мордашка = 1(симпотная) а параметр английский=4(хреновый), то конечный ответ Артема как узла НСети = 0 (не подходит). И так Яна повторяет например 100 раз на разных людях типа там
{мордашка=0,англ=100,ответ=1}
{мордашка=1 англ=100, ответ ясень пень 1 )) }
{мордашка=1, англ=3,ответ=эх..., 0}. Э
...
Артем запоминает, научается - и теперь Яна может отойти и предоставить ему на основе запомненных знаний самому выбирать людей.
Это все так и называется - обучение с экспертом ... самый простой способ обучения Нсети. И сеть тоже самая простая.
А теперь, не вдаваясь больше в отдельные подробности, рассказываю о неокогнитроне. Саначало само слово чтобы не бояться ...
Когнитрон - от англ "recognition" - распознание - потому что модель сети строили по прототипу строения части человеческого мозга. Есть у нас мозговые клетки, которые отвечают сугубо за зрение и примитивную реакцию на увиденное. Называеются они вместе зрительная кора потому, как - часть коры головного мозга (здравствуй биология 8 класс )))
Частичка нео - новый приклеилась потому, что до этого соответственно был просто когнитрон ... а потом он обновился .. ))
итак вернемся снова к набору в айсек:
Хитрая Яна решила перестраховаться и вместо того, чтобы все про всех решил один Артем, она сильно усложнила процесс:
1) взяла всех людей из набора Артема (бубны).
2) Повесила к каждому из них в пару по человеку из набора киборгов
Из этих пар получился 1й слой НСети
3) взяла отвтетсвенным за каждую пару назначила кого-то из EB (они состваят 2ой слой Нсети)
4) объснила всем чего нужно делать:
- бубны на основании своих знаний пропускают всех как считают нужным к своей паре киборгу
- каждый киборг знает только один вариант какой человек может попасть в айсек и строго никого кроме него не пропускает
- кажджый член EB пропускает любого, кого пропустил хоть какой-нибудь из подчиненных ему киборгов
- если от члена EB к Яне приходит человек, который по ее мнению в айсеке быть не должен, то она посылает его обратно по цепочке, которой он прошел, чтобы все в этой цепочке посмотрели "Вот таких мы не берем" и самое главное это понял самый первый слой - бубны.

Вот мы по сути и нарисовали в голове неокогнитрон с обратным распространением ошибки. Весь кошмар заключается в том, что для того чтобы вся эта бодяга работала нужно огромное количество киборгов - у каждого один шаблон. А вместе огромное кол-во шаблонов. А вот вся прелесть заключается в том, что какие бы новенькие не появились - они все равно в результате будут отобраны верно.
А теперь на секнду представьте, что мы говорим не о новеньких в айсеке, а о фотографиях сотрудников фирмы и внимание - видеокамере(не фотокамере) на системе пропуска только сотрудников. И хотя чтобы правильно научить сеть прийдется прогнать через базу много много раз лица всех сотрудников и правильно ее колибровать, но зато если правильно все сделать, то потом на реально рабочем режиме утром с утра сотрудник может прийти с бодуна, может строить рожи, может даже прыгать преде камерой(представьте себе, как изменяется изображение в камере, когда улыбающийся человек скачет перед камерой и сравните его со статичной грустной фоткой) - его все равно правильно опознает система!. И это при том, что даже фотографии хранить не нужно. Система уже обучилась - она сама !!! понимает, т.е сама принимает решение, кого пропустить, а кого нет.
Не знаю .. я вот сам читаю что написал .. ну вроде как не получается у меня передать всего того, что вертиться в голове. Ну чтож - я старался ...

Еще забавно можно прочесть о Нсетях вообще вот здесь ..

ПС Если решите считать мнея психом - я не обижусь .. ))

5 комментариев:

Julia Khimchak комментирует...

Занимательно было. А ты с примата на кого перевелся и как теперь обзываешься?:)

* Ёж * комментирует...

ну факультет остался тот же, я только направление сменил ... так что я все еще примат .. ))

bunn комментирует...

ШО ЗА ПРИГНОБЛЕННЯ ПАНІВНОГО КЛАСУ?
:) 1 слой бубнів, як перший, мої вуха ще сносно прийняли, але 1 слой - як нижчий відмовляються розуміти...в нас довгі не тіки вуха, але й рука, Шарко! май на увазі!

ПіС: набір Нєвєрова - не бубни. Бубни це мій набір...склєротік

ПіС2: пост ржачний :)

bunn комментирует...

опс....не рука, а руки...тіпу для симетрії прилабала другу

* Ёж * комментирует...

Наука не знает страха перед угрозами .. )))

А вообще да - две руки куда сподручнее .. ))