Искусственные и естественные нейронные сети новое

Из простого сравнения современных средств вычислительной техники (или, как сейчас общепринятым считается термин «информационные технологии», т.е. на английском «information technology», или совсем кратко «IT») с устройством мозга любого биологического существа, естественно, и человека возникает лично для меня ряд вопросов.
1). Почему в наших мозгах нет арифметических и логических устройств, присущих любой современной вычислительной системе, построенных на базе схем «И», «ИЛИ», триггеров, регистров, сумматоров, дешифраторов и прочих разных счетчиков, а только нейроны?
2). Экспериментально установлено, что биологический нейрон имеет так называемую зону рефрактерности. Другими словами, это временной промежуток, в течение которого нейрон не реагирует на изменение воздействий на свои входы (синапсы). Если не знаете, то это время измерено и составляет примерно 1 миллисекунду, т.е. максимальная частота переключения биологического нейрона не превышает 1 кГц.
Куда там бедному ему до частот современных процессоров (до десятков ГГц)!
А с другой стороны, куда там этим самым современным процессорам до нашего мозга!
Вот, что интересно!
Теперь попробуйте представить себе следующее.
См. http://proza.ru/2018/12/03/419
СОЗДАТЕЛЬ(И) или по моей терминологии ПЕРВЫЙ(Е) для осуществления своего проекта (имеются ввиду ПРИРОДА и ЧЕЛОВЕК) провели огромнейшую теоретическую и экспериментальную работу, прежде чем реализовывать этот проект, что называется в "железе". Наверное, не зря у НИХ получилось именно то, что получилось.
Теперь надо заметить следующее.
Когда нейробиологи определились со структурой биологического нейрона, то, естественно, «технари» немедленно стали думать о том, как бы эти все открытия приспособить для реализации в технике.
Кстати, для интересующихся структурой и функционированием биологического нейрона имеется много литературы, поэтому подробно на этом я останавливаться не буду.
Надо сказать, что господствующей теорией в области нейрофизиологии в то время (примерно 20-50 - годы прошлого века) была теория нашего незабвенного Нобелевского лауреата И.П. Павлова об условных (приобретенных) и безусловных (данных при рождении) рефлексах.
Он также выдвинул идею под названием «рефлекторная дуга».
В чем смысл этой идеи?
Биологический организм, получая некую информацию из внешней среды, посредством передачи через другие нейроны, каким-то образом обрабатывает полученную информацию и далее отправляет уже обработанную информацию в исполнительные органы.
Имеется достаточно большое количество литературы, в которой все на эту тему подробно изложено.
На основании своих исследований с собаками он также выдвинул идею о том, что надо внешние воздействия разделять на возбуждающие и тормозящие.
Мол, когда возбуждающие по некоей силе воздействия превышают силу воздействия тормозящих, то тогда соответствующая рефлекторная дуга срабатывает.
Вся эта теория и была положена в основу построения и функционирования искусственных нейронов, т.е. некоей аппаратной технической реализации, что называется в «железе».
Далее кратко попытаюсь обрисовать существующее положение в области современных искусственных нейронных сетей (ИНС).
В подавляющем большинстве современных ИНС их структурной единицей является искусственный нейрон следующей «конструкции».
У него имеется некоторое количество входов (в биологии - синапсов) и один единственный выход (в биологии – аксон), принимающий только два значения «1» или «0» (в биологии – возбужден или не возбужден).
Сигналы, поступающие на входы нейрона, внутри него умножаются на некие весовые коэффициенты, физический или биологический смысл которых заключается в следующем. Знак этого коэффициента, если он «плюс», то возбуждает, если «минус», то тормозит. А величина показывает значение или вес (по современному - рейтинг) этого входного сигнала.
Далее все эти умноженные на весовые коэффициенты сигналы суммируются и поступают на вход некоего порогового устройства, реализующего так называемую функцию активации, которая работает следующим образом. На ее выходе, т.е. аксоне, появляется «1», если сумма взвешенных входных сигналов превышает её заранее установленный порог, и «0», если не превышает.
Таким образом, практически скопировано устройство биологического нейрона в концепции И.П. Павлова.
Далее углубляться в дебри современных ИНС с точки зрения целей данной заметки не имеет смысла, а для особо любознательных читателей повторюсь насчет огромного количества литературы на эту тему.
Теперь попробую сформулировать два главных для меня вопроса.
Первый.
До сих пор, по крайней мере, насколько мне известно, в структуре биологического нейрона не обнаружено никаких умножителей, сумматоров и пороговых устройств.
Так на самом деле как же биологический нейрон работает?
Второй.
Вспомним про рефлекторную дугу (см. выше: «…каким-то образом обрабатывает полученную информацию»).
Так каким же образом нейроны обрабатывают полученную информацию?

Продолжение может последовать, а может и не последовать.


Рецензии
1) "Почему в наших мозгах нет арифметических и логических устройств, присущих любой современной вычислительной системе, построенных на базе схем «И», «ИЛИ», триггеров, регистров, сумматоров, дешифраторов и прочих разных счетчиков, а только нейроны?" - потому, что мозг настроен на самопрограммирование. Кто должен был писать, отлаживать, сопровождать программы, управляющие всеми триггерами и сумматорами? Нейронный компьютер устроен принципиально иначе. Полученные извне возбуждения циркулируют по нейронной сети так, что похожие чем-то сигналы проходят по одному маршруту, а разные - по разным. Важное, полезное сохраняется благодаря ответным импульсам.
2) Отдалённо это напоминает дугу Павлова, но состоит не из двух-трёх узлов, а из миллионов. Количество переходит в качество.

Валентин Кононов   17.03.2019 12:32     Заявить о нарушении
Ну, коль скоро, Вы все знаете, мне больше нечего Вам сообщить.
Желаю здоровья и творческих успехов.

Сергей Толочанов   17.03.2019 12:38   Заявить о нарушении
Вам тоже счастья, здоровья и успехов.
Всё знает Бог, но что знаю - тем поделюсь. Спрашиавйте!

Валентин Кононов   17.03.2019 23:00   Заявить о нарушении
Если не возражаете, то хотел у Вас запросить некоторые уточнения по Вашему ответу.
1). "...потому, что мозг настроен на самопрограммирование."
Кто его настроил на это самое "самопрограммирование"?
Сам по себе "настроился" что ли?
2). "Кто должен был писать, отлаживать, сопровождать программы, управляющие всеми триггерами и сумматорами?"
А действительно, КТО?

Сергей Толочанов   18.03.2019 08:35   Заявить о нарушении
Откровенно говоря, я думал, что Вы у меня спросите насчет возможного продолжения моей заметки, но так как Вы считаете, что спрашивать должен я, то могу только повторить: мне у Вас спрашивать нечего.
Могу только предложить ознакомиться с другими моими работами на эту тему:
http://www.trinitas.ru/rus/doc/0016/001d/00162355.htm
http://www.trinitas.ru/rus/doc/0023/001a/00231065.htm
Что будет не понятно, СПРАШИВАЙТЕ. Попробую растолковать.

Сергей Толочанов   18.03.2019 09:22   Заявить о нарушении
Доброго времени суток!
Вот, извините, цитата из моего опуса (http://www.proza.ru/2019/03/14/2212) "Дело в том, что при образовании систем происходит естественный отбор: неустойчивые изотопы, молекулы, звёздные и планетные системы, нежизнеспособные организмы, биоценозы, общественные структуры и т.п. быстро погибают, а системы высших уровней строятся из того, что выжило, доказало свою устойчивость."
2)." "Кто должен был писать, отлаживать, сопровождать программы, управляющие всеми триггерами и сумматорами?"
А действительно, КТО?"
Есть Господь Бог или нет его - не царское дело программы писать. Всё решается просто: не умеешь добыть еду - погибнешь с голоду, не умеешь убежать/спрятаться/ отбиться - съедят, не вступишь в половой контакт - не оставишь потомство. Поэтому жизнеспособны только виды, имеющие "правильные гены", неудачные мутации быстро вымываются.
Откуда берутся удачные? Сет Ллойд пишет, что сексуальный способ размножения, позволяющий перепробовать множество сочетаний родительских геномов, близких к оптимальным, совершил революцию - улучшения стали накапливаться намного быстрее. То есть удачные мутации бывали всегда, но скрещивание ускорило их аккумуляцию.
Впрочем, Вас интересует конструкция. Не силён в биологии, но по сути: генная информация считывается белками и определяет структуру организма, и, в частности, мозга. У примитивных организмов это почти чистая дуга Павлова: если вход удовлетворяет условиям, определяемым инстинктом, совершается заданное им действие. Но даже простейшим инстинктов недостаточно, ведь все жизненные ситуации в ген не уместятся. Поэтому по мере совершенствования организмов и увеличения объёма мозга число инстинктивных дуг увеличивалось: одно и то же действие стало обрабатываться не одной, а несколькими группами нейронов и действие стало определяться "голосованием" - одна группа "скептична", другая - "агрессивна" и т.п. В какой-то момент добавилась память, в которой сохраняется информация, накопленная организмом - она модифицирует действие групп нейронов. Например, пчела, найдя кормовую точку, не только запоминает маршрут к ней, но и передаёт его другим. Запомнив её танец и расшифровав его, другие пчёлы летят тем же маршрутом. Птицы учат птенцов летать, волчица - волчат охотиться. Для этого уже нужно (само)обучение: дуга Павлова условного рефлекса формируется подобно дуге безусловного путём проб и ошибок. Увеличивается число ступеней - появляются промежуточные выходы с возможностью выбора: если первичная обработка требует активности, второй этап определяет её тип из одного набора, пассивная стратегия также может выбираться, уже из другого набора.
1) "Кто его настроил на это самое "самопрограммирование"?
Сам по себе "настроился" что ли?"
Сам. Сложность мозга человека позволила создавать многоступенчатые "дуги", точнее, уже сети. И узлами сетей становились термины, понятия. "В начале было слово" - но был уже большой мозг, было умение делать орудия труда и т.д., условия ещё почти такие же, как у животных, но позволившие научиться называть. Научившись говорить и называть, человек начал "самопрограммироваться".
То есть природа приготовила мозг и простейшую рефлекеторную дугу.
Благодаря естественному отбору мозг увеличивался, дуги удлинялись и усложнялись, появились понятия - и программы стали ветвистыми, стала возможной рекурсия. Всё путём проб и ошибок, на основании ранее достигнутого и под контролем естественного отбора!
По второму Вашему замечанию. Статья "ОРГАНИЗАЦИЯ ОБРАБОТКИ ИНФОРМАЦИИ НА ОСНОВЕ НОВОЙ ПАРАДИГМЫ НЕЙРОННОЙ СЕТИ" заканчивается предложением, насколько можно понять, заменить классический аналог нейрона, используемый в ИНС, на табличный. Судя по ссылке на первую статью, выигрыш ожидается за счёт декомпозиции. Не готов оценить результат, тем более, что Вы остановились на половине пути. Но на вскидку: а) перестройка таблицы требует особую управляющую структуру, как её организовать и согласовать со структурой сети? б) если бы такая структура была лучше, природа, скорее всего, её уже нашла бы, возможность была (в смысле времени). А так - доработайте, давайте попробуем провести эксперимент, могу помочь.
Всего доброго.

Валентин Кононов   19.03.2019 00:46   Заявить о нарушении
Я подумаю. Хотя по разным обстоятельствам публиковать продолжение именно сейчас особой охоты нету.

Сергей Толочанов   19.03.2019 08:54   Заявить о нарушении
Если Вам стал интересен мой подход к ИНС, то у меня к Вам просьба. Может Вам удастся найти ответ на для меня принципиальный и практически ключевой вопрос:
- Что происходит с биологическим нейроном в течение зоны рефрактерности, т.е. когда он целую миллисекунду (!) не реагирует на внешние воздействия?

Сергей Толочанов   19.03.2019 09:56   Заявить о нарушении
Доброго дня.
Не знаю, скажу честно.В интернете ничего на эту тему не видно?
Возможно, задержка намеренная, поскольку слишком быстрая реакция может приводить к неустойчивости.

Валентин Кононов   19.03.2019 12:11   Заявить о нарушении
"Но на вскидку: а) перестройка таблицы требует особую управляющую структуру, как её организовать и согласовать со структурой сети?"
А волны-частицы Кобозева на что?

Сергей Толочанов   19.03.2019 12:17   Заявить о нарушении
По моему предположению как раз в течение зоны рефрактерности и происходит перепрограммирование или замена "таблицы" внутри нейрона.
Как-то так.
Естественно, насколько я знаю, современной науке сей механизм не известен.
Я и не преследую цель - узнать этот механизм, т.к. достаточно трезво оцениваю свои возможности в этом. Я предполагаю применить чисто информационные идеи функционирования системы "мозг и ЦНС, с одной стороны и частиц-волны Кобозева, с другой" для некоей их реализации в "железе".
Но, повторюсь. На данном временном этапе дальше публиковаться не очень хочется, причем не только и не столько в меркантильном плане.

Сергей Толочанов   19.03.2019 13:03   Заявить о нарушении
Волны-частицы Кобозева, насколько я понимаю, это извне организма? Как они помогут "реализации в железе"? Кто их излучает?
Насколько я понял из словарей и учебников, рефрактерность - следствие определённого устройства клеточной мембраны. Сработала клетка - ей надо отдохнуть, набраться сил. Мембрана её защищает. Да и устойчивость системы выше, если не реагировать десять раз на один длительный сигнал.
Один мой однокурсник писал для диплома программу самонаведения ракеты на движущуюся цель и жаловался, что ракета всё время уходит вперёд, начинает кувыркаться - слишком сильно реагирует на движение цели. Сейчас я бы посоветовал ему ввести небольшие временнЫе задержки, чтобы она полностью отрабатывала предыдущий импульс прежде, чем получит следующий.

Валентин Кононов   19.03.2019 21:24   Заявить о нарушении
"Волны-частицы Кобозева, насколько я понимаю, это извне организма? Как они помогут "реализации в железе"? Кто их излучает? "
Тут может быть два варианта.
1). По аналогии с безусловным рефлексом программа (таблица) может быть неизменной или постоянной (ПЗУ).
2). Менять таблицу можно и не при помощи частиц-волн, а аппаратно от некоего HOST-компьютера, который в данном случае можно рассматривать как источник, имитирующий излучение этих самых частиц -волн.
При определенной синхронизации можно обеспечить некую очередность работы ансамбля нейронов, типа: в одном идет обновление таблицы, другой или другие работают в"боевом" режиме.
Кто излучает эти волны в Природе? Это вопрос вопросов. Я не думаю, что кто-нибудь в ближайшее время получит ответ на этот вопрос.
Если, конечно, ПЕРВЫЕ или ВТОРЫЕ по каким-то причинам не поделятся этими знаниями с нами, как неким продуктом их (ПЕРВЫХ) деятельности.
Так что, тут уместно упоминание эпиграфа из моей заметки:
"Невозможно понять целое будучи его частью".

Сергей Толочанов   19.03.2019 21:57   Заявить о нарушении
Рефрактерность наступает не тогда, когда кто-то захочет клетку перепрограммировать, а тогда, когда она сработала, выдала потенциал действия. И опять скажу - не царское это дело клетки настраивать. Нейронная сеть самообучаема по своему строению. ИНС самонастраиваются без "Первых" и "Вторых". Системы, не способные обеспечить своё существование, обречены.

Валентин Кононов   19.03.2019 22:16   Заявить о нарушении
В принципе я Вам почти все свои соображения высказал. Давайте возьмем паузу.

Сергей Толочанов   20.03.2019 08:35   Заявить о нарушении
Извините, что вмешиваюсь в вашу паузу, но у меня информация, которая может быть полезной по вопросу «Кто программировал» – и как? Непосредственно после рождения ребенка (и еще какое-то время – сутки? неделя?) его нервные клетки «обнажены», то есть реагируют на малейшее раздражение. Не помню медицинских терминов, но мне кажется, что это связано как-то с рефрактерностью, – вернее, сокращением или отсутствием периода.
Ник.

Ник Пичугин   22.03.2019 11:09   Заявить о нарушении
Привет,Ник!
"Непосредственно после рождения ребенка (и еще какое-то время – сутки? неделя?) его нервные клетки «обнажены», то есть реагируют на малейшее раздражение. Не помню медицинских терминов, но мне кажется, что это связано как-то с рефрактерностью, – вернее, сокращением или отсутствием периода."

Мысль интересная. Правда, мне об этом ничего не известно. Могу, что называется с ходу, высказать свои некие предположения по этому вопросу.
1). ВСЕ нервные клетки принципиально не могут быть "обнажены", т.к. согласно И.П. Павлову есть названные им безусловными некие рефлексы, обеспечивающие различные жизненно важные функции организма (дыхание, сердцебиение, сосательный рефлекс и многое другое).
2). По поводу рефрактерности. Я почти полностью согласен с Валентином Кононовым в части того, в течение этой самой зоны рефрактерности происходит просто восстановление электрохимического состояния нейрона для последующего восприятия следующих воздействий.
Почему "почти"?
Просто я ПРЕДПОЛОЖИЛ, что кроме этого самого восстановления, еще происходит перепрограммирование или "замена таблицы" внутри нейрона. Не более того.
3). Будучи технарем, я имею своей локальной целью придумать ИНС, основанную на новой парадигме.
У меня имеются основные постулаты такого построения, частично изложенные в переписке с Валентином (надеюсь, что он не будет обижен моей некоей фамильярностью).
Но, повторюсь. Не хочется это все публиковать при нынешнем положении.

Сергей Толочанов   22.03.2019 11:33   Заявить о нарушении
Я уточню эту информацию. (Примерно помню, в каких материалах она мне встречалась и где хранится.) Но не обещаю, что это будет быстро.
По поводу самой публикации, раз уж я влез и комментирую. Есть впечатление, что мозг работает и как (линейная) ИС, и обрабатывает информацию как-то иначе; ну, возможно, волновыми пакетами - или просто волнами, я не знаю. Что такое "ритмы мозга"? Никакой волновой информатики наука пока не создала, поэтому мы и не понимаем принципы его работы.

Ник Пичугин   22.03.2019 11:52   Заявить о нарушении
Скорее всего так.

Сергей Толочанов   22.03.2019 11:56   Заявить о нарушении
На это произведение написаны 2 рецензии, здесь отображается последняя, остальные - в полном списке.