Алгоритм обучения биологических нейронных сетей ...

Здесь находятся темы форума, утратившие актуальность

Модератор: Администраторы

Алгоритм обучения биологических нейронных сетей ...

Сообщение Snike » Ср апр 19, 2006 15:01:24

Вопрос скорее к нейрохирургам и нейрофизиологам. Объясните, пожалуйста, как происходит процесс обучения реальных биологических нейронных сетей. Допустим на примере образования условного рефлекса. Случайное ли это образование новых нейронов и случайная ли это установка связей между ними? Наиболее известная теория обучения – это теория Д. Хэбба, но это было в 1949 году (более 50 лет назад)!!! Что известно сейчас?

Более конкретно:
- Какая часть мозга отвечает за создание новых нейронов в случае их нехватки и как она работает (если такой части нет, то как это происходит?)?
- По какому принципу образуются связи между нейронами (известно, что они могут разрываться и соединяться)?

Может у кого-нибудь есть своя теория?
Snike
Редкий гость
 
Сообщения: 4
Зарегистрирован: Ср апр 19, 2006 14:13:14

Сообщение Гость » Ср апр 19, 2006 15:35:37

Snike писал(а):Случайное ли это образование новых нейронов и случайная ли это установка связей между ними?

ИМХО, поскольку мышление заранее не знает в какой мир оно родится, оно должно быть подготовлено для обучения любому из миров, для которых интеллект человека "заточен" эволюцией. Для этого мне видится 2 варианта:
1. Изначально нейроны объединены по максимально выверенным путям, моделируя тем самым ту константную часть мышления, которая не меняется (в существовании таковой у меня есть серьёзные сомнения). Но судя по младенцам, кроме как сосать грудь и орать, они больше ничего не умеют.
Далее. В процессе жизни эта система достраивается путём добавления связей и/или элементов. Но в таком случае возникает парадокс между причиной и следствием. Если связи/элемента в уме не было, а факт восприятия нового (и следовательно необходимость в заучивании, запоминании этого) есть, значит в уме уже есть механизм для восприятия этого нового, а значит достраивать ничего не надо. Что противоречит исходному.
2. Изначально соединение нейронов представляет собой максимально хотическую систему, которая упорядочивается по мере взаимодействия с миром. И в этой своей самоорганизации, под влиянием восприятия мира, находят свою жизнь все феномены мышления. В частности феномен предсказания.

Вторая точка зрения мне более близка, особенно учитывая то, что есть сведения об укреплении и отмирании синапсов в процессе развития и обучения ребёнка. Вот например ССЫЛКА
Гость
 

Сообщение Snike » Чт апр 20, 2006 12:05:23

Андрей писал(а):ИМХО, поскольку мышление заранее не знает в какой мир оно родится, оно должно быть подготовлено для обучения любому из миров, для которых интеллект человека "заточен" эволюцией. Для этого мне видится 2 варианта:
1. Изначально нейроны объединены по максимально выверенным путям, моделируя тем самым ту константную часть мышления, которая не меняется (в существовании таковой у меня есть серьёзные сомнения). Но судя по младенцам, кроме как сосать грудь и орать, они больше ничего не умеют.
Далее. В процессе жизни эта система достраивается путём добавления связей и/или элементов. Но в таком случае возникает парадокс между причиной и следствием. Если связи/элемента в уме не было, а факт восприятия нового (и следовательно необходимость в заучивании, запоминании этого) есть, значит в уме уже есть механизм для восприятия этого нового, а значит достраивать ничего не надо. Что противоречит исходному.
2. Изначально соединение нейронов представляет собой максимально хотическую систему, которая упорядочивается по мере взаимодействия с миром. И в этой своей самоорганизации, под влиянием восприятия мира, находят свою жизнь все феномены мышления. В частности феномен предсказания.

Вторая точка зрения мне более близка, особенно учитывая то, что есть сведения об укреплении и отмирании синапсов в процессе развития и обучения ребёнка. Вот например ССЫЛКА


Ну допустим, но как обучение то происходит? В каком случае один нейрон связывается с другим? Конкретнее...
Snike
Редкий гость
 
Сообщения: 4
Зарегистрирован: Ср апр 19, 2006 14:13:14

Сообщение Гость » Чт апр 20, 2006 12:42:08

Snike, прошу воздержаться от цитирования постов целиком.
Спасибо.
Гость
 

Сообщение Гость » Чт апр 20, 2006 14:15:53

Snike писал(а):Ну допустим, но как обучение то происходит? В каком случае один нейрон связывается с другим? Конкретнее...

В наивной невинности этих вопросов скрыта вся сущность интеллекта. Поэтому надо ответить подробно.
1. Вся сущность интеллекта заключается в том, чтобы предсказывать продолжение текущей ситуации и действовать таким образом, чтобы сохранить и преумножить эту предсказуемость в мире.
2. Предсказание должно "привязываться" к желаниям интеллекта и к возможностям организма. Поэтому обучение должно строится на взаимоувязывании таких категорий как восприятие, предсказание и воля.
3. Предсказать что-то можно только при наличии повторяемости, последовательности, периодичности. Это значит, что именно такого рода информацию должно поставлять восприятие для предсказывающего механизма.
4. И воля, в свою очередь, должна быть способна "продукт" предсказывающего механизма превратить в движения мышц. Посмотрим детальнее. Для управления мышцами нужно вырабатывать 2 рода сигналов тормозящие и возбуждающие (тут надо аккуратно рассуждать, т.к. вполне может быть, что одни и те же сигналы могут быть как тормозящими так и возбуждающими в зависимости от интенсивности сигналов. Нужны опытные данные для ободнозначивания.)
5. Из пункта 4 и 2 следует, что в восприятии тоже должны быть 2 вида взаимокомпенсирующих вида информации. И они есть! Отношения типа дать/взять. Свойства любого явления "дающести" и "берущести" (слова мои, просьба не судить строго).
6. Таким образом мозг, система нейронов - это система интерфейса между дающими/берущими свойствами воспринимаемой ситуации и тормозящими/возбуждающими действиями мышц. Во взаимном балансирующем увязывании этих сигналов в контексте удовлетворения системных желаний организма и состоит суть обучения.
Более детально пока расписать не могу.

P.S. Я Вам предлагаю цитировать только ту мысль, которую Вы хотите откомментировать. Так место экономится и читать удобнее.
Гость
 

Сообщение Snike » Чт апр 20, 2006 14:53:20

Андрей писал(а):1. Вся сущность интеллекта заключается в том, чтобы предсказывать продолжение текущей ситуации и действовать таким образом, чтобы сохранить и преумножить эту предсказуемость в мире.

О каком интеллекте вы говорите? О естественном?
Главная задача интеллекта - как можно более эффективно удовлетворять свои потребности (сознательные или бессознательные). По этому, в общем виде, главное - это ОБУЧЕНИЕ.

Остальное без комментариев.

Меня интересует физиологическая (практическая) сторона обучения нейронных сетей в биологическом мозге. Повторяю:
- Какая часть мозга отвечает за создание новых нейронов в случае их нехватки и как она работает (если такой части нет, то как это происходит?)?
- По какому принципу образуются связи между нейронами (известно, что они могут разрываться и соединяться)?
Snike
Редкий гость
 
Сообщения: 4
Зарегистрирован: Ср апр 19, 2006 14:13:14

Сообщение Гость » Чт апр 20, 2006 15:35:34

Snike писал(а):О каком интеллекте вы говорите? О естественном?

О том, который можно хоть как-то изучать. О естественном конечно. А что бывает ещё какой-то? Противоестественный? :)

Snike писал(а):Главная задача интеллекта - как можно более эффективно удовлетворять свои потребности

Эта формулировка слишком общая и оторвана от мира, в котором интеллект действует. Надо это Ваше выражение цели представить в виде взаимодействия интеллекта с миром, тогда Вы поймёте, что "удовлетворение потребностей" это именно "предсказание мира".

Snike писал(а):По этому, в общем виде, главное - это ОБУЧЕНИЕ.

Это односторонний взгляд на вопрос, на мой взгляд. "Обучение" в Вашем понимании это что? Ведь обучиться узнавать молоко и обучиться поднимать предмет это обучения разных систем интеллекта. Обучение восприятия и обучение воли, соответственно. Поэтому процесс обучения - это процесс взаимоувязывания воли и восприятия в контексте (как Вы верно отметили) удовлетворения желаний.

Snike писал(а):Остальное без комментариев.

Ничего не поняли или не согласны по внешним признакам?

Snike писал(а):Какая часть мозга отвечает за создание новых нейронов в случае их нехватки и как она работает (если такой части нет, то как это происходит?)?

Все клетки в организме, в том числе и нервные, размножаются путём деления. Вероятно есть какой-то регулирующий механизм (возможно горманальный), который отстанавливает это деление при достижении определённой массы клеток мозга. Специальных устройств "знающих" как строить мозг вероятно нет. Само развитие мозга заключается, насколько мне известно, только в укреплении и отмирании синапсов (связей между нейронами). Кроме того рекомендую Вам обратить внимание на клетки глии (клетки-субстрат, в которых нейроны расположены как изюм в пироге), возможно они участвуют в регулирующих функциях самого мозга.

Snike писал(а):По какому принципу образуются связи между нейронами (известно, что они могут разрываться и соединяться)?

Дендриты (входы), насколько опять же мне известно, растут так, чтобы создать макс связей с соседями. Никакого особого порядка скорее всего там нет. Как растут аксоны (выходы) я не знаю. Возможно именно в схеме соединения акоснов находит отражение специализация мозга по отделам. Одно точно: у одного нейрона один аксон.
Укрепление и отмирание синапсов зависит от того как часто протекает по ним сигнал. т.е. от того, с какими ситуациями в мире сталкивается интеллект. Поэтому можно сказать, что система синаптических связей формируется миром, адекватна миру. Мир учит интеллект. Мир тренирует интеллект под себя.
Гость
 

Сообщение Snike » Чт апр 20, 2006 16:29:47

Андрей писал(а):
Snike писал(а):Главная задача интеллекта - как можно более эффективно удовлетворять свои потребности

Эта формулировка слишком общая

Согласен :)
Андрей писал(а):"удовлетворение потребностей" это именно "предсказание мира".

Это уже вытекающее. Главное чтобы он мог этому научиться. Но разговор не об этом...
Андрей писал(а):
Snike писал(а):Какая часть мозга отвечает за создание новых нейронов в случае их нехватки и как она работает (если такой части нет, то как это происходит?)?

Все клетки в организме, в том числе и нервные, размножаются путём деления. Вероятно есть какой-то регулирующий механизм (возможно горманальный), который отстанавливает это деление при достижении определённой массы клеток мозга. Специальных устройств "знающих" как строить мозг вероятно нет. Само развитие мозга заключается, насколько мне известно, только в укреплении и отмирании синапсов (связей между нейронами). Кроме того рекомендую Вам обратить внимание на клетки глии (клетки-субстрат, в которых нейроны расположены как изюм в пироге), возможно они участвуют в регулирующих функциях самого мозга.
Snike писал(а):По какому принципу образуются связи между нейронами (известно, что они могут разрываться и соединяться)?

Дендриты (входы), насколько опять же мне известно, растут так, чтобы создать макс связей с соседями. Никакого особого порядка скорее всего там нет. Как растут аксоны (выходы) я не знаю. Возможно именно в схеме соединения акоснов находит отражение специализация мозга по отделам. Одно точно: у одного нейрона один аксон.
Укрепление и отмирание синапсов зависит от того как часто протекает по ним сигнал. т.е. от того, с какими ситуациями в мире сталкивается интеллект. Поэтому можно сказать, что система синаптических связей формируется миром, адекватна миру. Мир учит интеллект. Мир тренирует интеллект под себя.

А давайте на примере...?! Возьмем условный рефлекс. Собаку стали постоянно кормить после того как включали лампочку. Как нейроны узнали, что им нужно связаться с такой-то частью мозга, чтобы образовать устойчивую связь? Хотя ранее такие связи отсутствовали. Как нейроны находящиеся в зрительной части, узнали что им нужно связаться с нейронами отвечающими за выработку слюны?
Snike
Редкий гость
 
Сообщения: 4
Зарегистрирован: Ср апр 19, 2006 14:13:14

Сообщение tumick » Чт апр 20, 2006 17:20:23

Snike писал(а):Как нейроны узнали, что им нужно связаться с такой-то частью мозга, чтобы образовать устойчивую связь? Хотя ранее такие связи отсутствовали. Как нейроны находящиеся в зрительной части, узнали что им нужно связаться с нейронами отвечающими за выработку слюны?


На эту тему уж столько книг издано, что жизни не хватит все прочитать...
Попробуйте спросить у Нейронуса на его форуме. Если будет в хорошем настроении - ответит кратко, понятно и по сути :)
Мозг - это такой орган, с помощью которого мы думаем, что мы думаем.
Аватара пользователя
tumick
Серьёзный посетитель
 
Сообщения: 149
Зарегистрирован: Пт мар 10, 2006 12:27:57
Откуда: Киев

Сообщение Гость » Чт апр 20, 2006 17:56:39

Snike писал(а):А давайте на примере...?! Возьмем условный рефлекс. Собаку стали постоянно кормить после того как включали лампочку. Как нейроны узнали, что им нужно связаться с такой-то частью мозга, чтобы образовать устойчивую связь? Хотя ранее такие связи отсутствовали. Как нейроны находящиеся в зрительной части, узнали что им нужно связаться с нейронами отвечающими за выработку слюны?

Пример - это самое лучшее :)
Предположим, что собака и я ведём себя приблизительно одинаково в плане формирования рефлексов. Буду судить по себе.
Что я воспринимаю при таком эксперименте.
- голод (если я не голоден, то никакая лампочка не вызовет во мне слюну)
- чувствую лампочку
- чувствую вкус еды
Далее. Слюна выделяется на еду в любом случае. Это врождённая связь между областью "еда" (грубо говоря) и слюнными железами.
Далее. Если воспринимается периодичная лампочка при периодичной еде при периодичном голоде, в аппарате перцепции периодически будет возникать устойчивые активные области, которые будут существовать синхронно, одновременно.
Считать, что связь между ними формируется в процессе обучения, я думаю, не очень верно. Если связи между ними нет, то области никогда и не "узнают" о том, что они существуют (воспринимаются) одновременно, синхронно. Значит и запоминания никакого не сможет быть. Значит полагаем, что связь есть. Далее, этой связи нужно стать просто более прочной и активной. Именно это, вероятно, и достигается путём повторений.
Далее просто. При активации одной (любой) области, активизируются и все остальные, связанные с ней. Выделяется слюна. Таким образом ключевые идеи обучения - синхронность (одновременность(привет Тумику ;)), повторяемость, наличие априорных связей.
Именно так, ИМХО, формируется понятие любого объекта или закона.
Последний раз редактировалось Гость Сб апр 22, 2006 2:20:36, всего редактировалось 1 раз.
Гость
 

Re: Алгоритм обучения биологических нейронных сетей ...

Сообщение Neuronus » Сб апр 22, 2006 1:33:06

Snike писал(а): как происходит процесс обучения реальных биологических нейронных сетей...


Не претендую на истину в последней инстанции.
В процессе формирования условного рефлекса, не происходит создания новых нейронов, скорее только увеличиваются дендритные контакты. Так известно, что после обучения мышей плаванию, наблюдалось увеличение дендритных связей на моторных нейронах.

В случае "нехватки нейронов", в том месте где их нехватает появляется некоторое количества определенных веществ (назовем их типа сигнал). По этому сигналу, зачатки нейронов (нейробласты) начинают мигрировать из области их "хранения" в область нехватки. Прибыв на место, под действием того же сигнала и других ферментов (результата работы нейронов в области "нехватки") зачатки нейробласты начинают дифференцироваться в конкретные типы нейронов и встраиваться в совместную работу с теми нейронами которые объявили о "нехватке". Этот процесс происходит постоянно и не связан непосредственно с обучением или формированием условных рефлексов. Скорее, при локальной гибели нейронов в каком-то месте, происходит такое "латание дыр". Например, после употребления алкоголя, нейроны умирают в гораздо больших количествах чем ежедневно (если не пить). После того, как на их место пришли нейробласты, они начинают превращаться в недостающие взрослые нейроны. Однако, какими нейронами станут нейробласты, "говорят" соседние клетки (которые объявили недостачу). После этого, новые нейроны включаются в работу и имеют уже ярковыраженную "потребность" к алкоголю.

Для начала достаточно.
P.S.
Специалисты, поправьте пожалуйста, если ошибаюсь.
P.P.S.
На форуме: http://www.neuronus.spb.ru/forum/posts/list/64.page
Вам также готовы отвечать, но уже более подробно.
Знания, не рождённые опытом, бесплодны и полны ошибок.
Аватара пользователя
Neuronus
Заинтересованный
 
Сообщения: 34
Зарегистрирован: Сб апр 22, 2006 0:55:23
Откуда: Россия, Санкт-Петербург

Re: Алгоритм обучения биологических нейронных сетей ...

Сообщение tumick » Сб апр 22, 2006 10:34:36

Neuronus писал(а):В случае "нехватки нейронов", в том месте где их нехватает появляется некоторое количества определенных веществ (назовем их типа сигнал). По этому сигналу, зачатки нейронов (нейробласты) начинают мигрировать из области их "хранения" в область нехватки. Прибыв на место, под действием того же сигнала и других ферментов (результата работы нейронов в области "нехватки") зачатки нейробласты начинают дифференцироваться в конкретные типы нейронов и встраиваться в совместную работу с теми нейронами которые объявили о "нехватке".


В своё время Гладун В.П. применил точно такой же принцип в модельках. Называлось это "растущие пирамидальные семантические сети". Есть ряд вполне удачных экспертных систем на этой платформе. Ну и, по понятным причинам, дальше этого дело не пошло :)
Мозг - это такой орган, с помощью которого мы думаем, что мы думаем.
Аватара пользователя
tumick
Серьёзный посетитель
 
Сообщения: 149
Зарегистрирован: Пт мар 10, 2006 12:27:57
Откуда: Киев


Вернуться в Архив тем

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 1


cron


Rambler's Top100 Каталог ресурсов ListTop.Ru Каталог сайтов Союз образовательных сайтов Parenting.ru - Родители семья дети ребенок

     Сайт "Искусственный интеллект" - программирование ИИ от разработчика: общение, статьи, ссылки.