входами нейрона что является
Логика мышления. Часть 1. Нейрон
Года полтора назад я выкладывал на Хабр цикл видеолекций с моим видением того как работает мозг и каковы возможные пути создания искусственного интеллекта. За прошедшее с тех пор время удалось существенно продвинуться вперед. Что-то получилось глубже понять, что-то удалось смоделировать на компьютере. Что приятно, появились единомышленники, активно участвующие в работе над проектом.
В настоящем цикле статей планируется рассказать о той концепции интеллекта над которой мы сейчас работаем и продемонстрировать некоторые решения, являющиеся принципиально новыми в сфере моделирования работы мозга. Но чтобы повествование было понятным и последовательным оно будет содержать не только описание новых идей, но и рассказ о работе мозга вообще. Какие-то вещи, особенно в начале, возможно покажутся простыми и общеизвестными, но я бы советовал не пропускать их, так как они во многом определяют общую доказательность повествования.
Общее представление о мозге
Нервные клетки, они же нейроны, вместе со своими волокнами, передающими сигналы, образуют нервную систему. У позвоночных основная часть нейронов сосредоточена в полости черепа и позвоночном канале. Это называется центральной нервной системой. Соответственно, выделяют головной и спинной мозг как ее составляющие.
Спинной мозг собирает сигналы от большинства рецепторов тела и передает их в головной мозг. Через структуры таламуса они распределяются и проецируются на кору больших полушарий головного мозга.
Проекция информации на кору
Кроме больших полушарий обработкой информации занимается еще и мозжечок, который, по сути, является маленьким самостоятельным мозгом. Мозжечок обеспечивает точную моторику и координацию всех движений.
Зрение, слух и обоняние обеспечивают мозг потоком информации о внешнем мире. Каждая из составляющих этого потока, пройдя по своему тракту, также проецируется на кору. Кора – это слой серого вещества толщиной от 1.3 до 4.5 мм, составляющий наружную поверхность мозга. За счет извилин, образованных складками, кора упакована так, что занимает в три раза меньшую площадь, чем в расправленном виде. Общая площадь коры одного полушария – приблизительно 7000 кв.см.
В итоге все сигналы проецируются на кору. Проекция осуществляется пучками нервных волокон, которые распределяются по ограниченным областям коры. Участок, на который проецируется либо внешняя информация, либо информация с других участков мозга образует зону коры. В зависимости от того, какие сигналы на такую зону поступают, она имеет свою специализацию. Различают моторную зону коры, сенсорную зону, зоны Брока, Вернике, зрительные зоны, затылочную долю, всего около сотни различных зон.
Зоны коры
В вертикальном направлении кору принято делить на шесть слоев. Эти слои не имеют четких границ и определяются по преобладанию того или иного типа клеток. В различных зонах коры эти слои могут быть выражены по-разному, сильнее или слабее. Но, в общем и целом, можно говорить о том, что кора достаточно универсальна, и предполагать, что функционирование разных ее зон подчиняется одним и тем же принципам.
Слои коры
Можно представить себе кору головного мозга как большое полотно, раскроенное на отдельные зоны. Картина активности нейронов каждой из зон кодирует определенную информацию. Пучки нервных волокон, образованные аксонами, выходящими за пределы своей зоны коры, формируют систему проекционных связей. На каждую из зон проецируется определенная информация. Причем на одну зону может поступать одновременно несколько информационных потоков, которые могут приходить как с зон своего, так и противоположного полушария. Каждый поток информации похож на своеобразную картинку, нарисованную активностью аксонов нервного пучка. Функционирование отдельной зоны коры – это получение множества проекций, запоминание информации, ее переработка, формирование собственной картины активности и дальнейшая проекция информации, получившейся в результате работы этой зоны.
Существенный объем мозга – это белое вещество. Оно образовано аксонами нейронов, создающими те самые проекционные пути. На рисунке ниже белое вещество можно увидеть как светлое заполнение между корой и внутренними структурам мозга.
Распределение белого вещества на фронтальном срезе мозга
Используя диффузную спектральную МРТ, удалось отследить направление отдельных волокон и построить трехмерную модель связанности зон коры (проект Connectomics (Коннектом)).
Представление о структуре связей хорошо дают рисунки ниже (Van J. Wedeen, Douglas L. Rosene, Ruopeng Wang, Guangping Dai, Farzad Mortazavi, Patric Hagmann, Jon H. Kaas, Wen-Yih I. Tseng, 2012).
Вид со стороны левого полушария
Вид сзади
Вид справа
Кстати, на виде сзади отчетливо видна асимметрия проекционных путей левого и правого полушария. Эта асимметрия во многом и определяет различия в тех функциях, которые приобретают полушария по мере их обучения.
Нейрон
Основа мозга – нейрон. Естественно, что моделирование мозга с помощью нейронных сетей начинается с ответа на вопрос, каков принцип его работы.
В основе работы реального нейрона лежат химические процессы. В состоянии покоя между внутренней и внешней средой нейрона существует разность потенциалов – мембранный потенциал, составляющий около 75 милливольт. Он образуется за счет работы особых белковых молекул, работающих как натрий-калиевые насосы. Эти насосы за счет энергии нуклеотида АТФ гонят ионы калия внутрь, а ионы натрия — наружу клетки. Поскольку белок при этом действует как АТФ-аза, то есть фермент, гидролизующий АТФ, то он так и называется — «натрий-калиевая АТФ-аза». В результате нейрон превращается в заряженный конденсатор с отрицательным зарядом внутри и положительным снаружи.
Схема нейрона (Mariana Ruiz Villarreal)
Поверхность нейрона покрыта ветвящимися отростками – дендритами. К дендритам примыкают аксонные окончания других нейронов. Места их соединений называются синапсами. Посредством синаптического взаимодействия нейрон способен реагировать на поступающие сигналы и при определенных обстоятельствах генерировать собственный импульс, называемый спайком.
Передача сигнала в синапсах происходит за счет веществ, называемых нейромедиаторами. Когда нервный импульс по аксону поступает в синапс, он высвобождает из специальных пузырьков молекулы нейромедиатора, характерные для этого синапса. На мембране нейрона, получающего сигнал, есть белковые молекулы – рецепторы. Рецепторы взаимодействуют с нейромедиаторами.
Химический синапс
Рецепторы, расположенные в синаптической щели, являются ионотропными. Это название подчеркивает тот факт, что они же являются ионными каналами, способными перемещать ионы. Нейромедиаторы так воздействуют на рецепторы, что их ионные каналы открываются. Соответственно, мембрана либо деполяризуется, либо гиперполяризуется – в зависимости от того, какие каналы затронуты и, соответственно, какого типа этот синапс. В возбуждающих синапсах открываются каналы, пропускающие катионы внутрь клетки, — мембрана деполяризуется. В тормозных синапсах открываются каналы, проводящие анионы, что приводит к гиперполяризации мембраны.
В определенных обстоятельствах синапсы могут менять свою чувствительность, что называется синаптической пластичностью. Это приводит к тому, что синапсы одного нейрона приобретают различную между собой восприимчивость к внешним сигналам.
Одновременно на синапсы нейрона поступает множество сигналов. Тормозящие синапсы тянут потенциал мембраны в сторону накопления заряда внутри клети. Активирующие синапсы, наоборот, стараются разрядить нейрон (рисунок ниже).
Возбуждение (A) и торможение (B) ганглиозной клетки сетчатки (Николлс Дж., Мартин Р., Валлас Б., Фукс П., 2003)
Когда суммарная активность превышает порог инициации, возникает разряд, называемый потенциалом действия или спайком. Спайк – это резкая деполяризация мембраны нейрона, которая и порождает электрический импульс. Весь процесс генерации импульса длится порядка 1 миллисекунды. При этом ни продолжительность, ни амплитуда импульса не зависят от того, насколько были сильны вызвавшие его причины (рисунок ниже).
Регистрация потенциала действия ганглиозной клетки (Николлс Дж., Мартин Р., Валлас Б., Фукс П., 2003)
После спайка ионные насосы обеспечивают обратный захват нейромедиатора и расчистку синаптической щели. В течение рефрактерного периода, наступающего после спайка, нейрон не способен порождать новые импульсы. Продолжительность этого периода определяет максимальную частоту генерации, на которую способен нейрон.
Спайки, которые возникают как следствие активности на синапсах, называют вызванными. Частота следования вызванных спайков кодирует то, насколько хорошо поступающий сигнал соответствует настройке чувствительности синапсов нейрона. Когда поступающие сигналы приходятся именно на чувствительные синапсы, активирующие нейрон, и этому не мешают сигналы, приходящие на тормозные синапсы, то реакция нейрона максимальна. Образ, который описывается такими сигналами, называют характерным для нейрона стимулом.
Конечно, представление о работе нейронов не стоит излишне упрощать. Информация между некоторыми нейронами может передаваться не только спайками, но и за счет каналов, соединяющих их внутриклеточное содержимое и передающих электрический потенциал напрямую. Такое распространение называется градуальным, а само соединение называется электрическим синапсом. Дендриты в зависимости от расстояния до тела нейрона делятся на проксимальные (близкие) и дистальные (удаленные). Дистальные дендриты могут образовывать секции, работающие как полуавтономные элементы. Помимо синаптических путей возбуждения есть внесинаптические механизмы, вызывающие метаботропные спайки. Кроме вызванной активности существует еще и спонтанная активность. И наконец, нейроны мозга окружены глиальными клетками, которые также оказывают существенное влияние на протекающие процессы.
Долгий путь эволюции создал множество механизмов, которые используются мозгом в своей работе. Некоторые из них могут быть поняты сами по себе, смысл других становится ясен только при рассмотрении достаточно сложных взаимодействий. Поэтому не стоит воспринимать сделанное выше описание нейрона как исчерпывающее. Чтобы перейти к более глубоким моделям, нам необходимо сначала разобраться с «базовыми» свойствами нейронов.
В 1952 году Аланом Ллойдом Ходжкином и Эндрю Хаксли были сделаны описания электрических механизмов, которые определяют генерацию и передачу нервного сигнала в гигантском аксоне кальмара (Hodgkin, 1952). Что было оценено Нобелевской премией в области физиологии и медицины в 1963 году. Модель Ходжкина – Хаксли описывает поведение нейрона системой обыкновенных дифференциальных уравнений. Эти уравнения соответствуют автоволновому процессу в активной среде. Они учитывают множество компонент, каждая из которых имеет свой биофизический аналог в реальной клетке (рисунок ниже). Ионные насосы соответствуют источнику тока Ip. Внутренний липидный слой клеточной мембраны образует конденсатор с емкостью Cm. Ионные каналы синаптических рецепторов обеспечивают электрическую проводимость gn, которая зависит от подаваемых сигналов, меняющихся со временем t, и общей величины мембранного потенциала V. Ток утечки мембранных пор создает проводник gL. Движение ионов по ионным каналам происходит под действием электрохимических градиентов, которым соответствуют источники напряжения с электродвижущей силой En и EL.
Основные компоненты модели Ходжкина — Хаксли
Естественно, что при создании нейронных сетей возникает желание упростить модель нейрона, оставив в ней только самые существенные свойства. Наиболее известная и популярная упрощенная модель – это искусственный нейрон Маккалока — Питтса, разработанный в начале 1940-х годов (Маккалох Дж., Питтс У., 1956).
Формальный нейрон Маккалока — Питтса
На входы такого нейрона подаются сигналы. Эти сигналы взвешенно суммируются. Далее к этой линейной комбинации применяется некая нелинейная функция активации, например, сигмоидальная. Часто как сигмоидальную используют логистическую функцию: 
Логистическая функция
В этом случае активность формального нейрона записывается как
В итоге такой нейрон превращается в пороговый сумматор. При достаточно крутой пороговой функции сигнал выхода нейрона – либо 0, либо 1. Взвешенная сумма входного сигнала и весов нейрона – это свертка двух образов: образа входного сигнала и образа, описываемого весами нейрона. Результат свертки тем выше, чем точнее соответствие этих образов. То есть нейрон, по сути, определяет, насколько подаваемый сигнал похож на образ, записанный на его синапсах. Когда значение свертки превышает определенный уровень и пороговая функция переключается в единицу, это можно интерпретировать как решительное заявление нейрона о том, что он узнал предъявляемый образ.
Реальные нейроны действительно неким образом похожи на нейроны Маккалока — Питтса. Амплитуды их спайков не зависит от того, какие сигналы на синапсах их вызвали. Спайк, либо есть, либо его нет. Но реальные нейроны реагируют на стимул не единичным импульсом, а импульсной последовательностью. При этом частота импульсов тем выше, чем точнее узнан характерный для нейрона образ. Это означает, что если мы построим нейронную сеть из таких пороговых сумматоров, то она при статичном входном сигнале хотя и даст какой-то выходной результат, но этот результат будет далек от воспроизведения того, как работают реальные нейроны. Для того чтобы приблизить нейронную сеть к биологическому прототипу, нам понадобится моделировать работу в динамике, учитывая временные параметры и воспроизводя частотные свойства сигналов.
Но можно пойти и другим путем. Например, можно выделить обобщенную характеристику активности нейрона, которая соответствует частоте его импульсов, то есть количеству спайков за определенный промежуток времени. Если перейти к такому описанию, то можно представить нейрон как простой линейный сумматор.
Линейный сумматор
Сигналы выхода и, соответственно, входа для таких нейронов уже не являются дихатомичными (0 или 1), а выражаются некой скалярной величиной. Функция активации тогда записывается как
Линейный сумматор не стоит воспринимать как что-то принципиально иное по сравнению с импульсным нейроном, просто он позволяет при моделировании или описании перейти к более длинным временным интервалам. И хотя импульсное описание более корректно, переход к линейному сумматору во многих случаях оправдан сильным упрощением модели. Более того, некоторые важные свойства, которые трудно разглядеть в импульсном нейроне, вполне очевидны для линейного сумматора.
ВВЕДЕНИЕ В КОГНИТИВНЫЕ НЕЙРОНАУКИ. Глава 3. Нейроны и связи между ними.
Глава 3. Нейроны и связи между ними.
Что мы знаем о процессах, происходящих на уровне нейронов? Можем ли мы сейчас построить непротиворечивую теорию относительно событий на этом уровне?
Основными клетками мозга являются нейроны, высококонсервативные с эволюционной точки зрения. Они сохранялись в относительно неизменном виде в течение многих сотен миллионов лет, и даже очень разные виды животных имеют одинаковые типы нейронов. Со многих точек зрения нейроны не отличаются от остальных клеток, но есть то, что выделяет их среди остальных: специализация на электрохимической сигнализации, благодаря которой они способны принимать входящий сигнал на дендритах и посылать электрохимический сигнал вдоль аксона. Весь мозг можно рассматривать как сверхсложную структуру, состоящую из связанных между собой нейронов.
Дендритами и аксонами называют выросты тела нейрона; один нейрон может иметь до десяти тысяч дендритов и один аксон.
Потенциал действия (ПД) проходит по аксону значительно медленнее, чем электрический ток в компьютере, однако многие задачи наш мозг выполняет гораздо лучше современных компьютеров. В настоящее время компьютеры далеко отстоят от человека в задачах восприятия, языковой коммуникации, семантической памяти, контроля движения и творчества.
Нейробиология концентрирует внимание на связи и взаимодействии нейронов. Рассмотрение таких связей удобно начинать как раз с генерализованного нейрона.
Классические нейроны соединяются при помощи синапсов, которые могут быть возбуждающими и тормозящими.
Активность нейрона опосредована десятками факторов — циклом сна и бодрствования, доступностью предшественников нейромедиаторов и многими другими. Все эти факторы влияют на вероятность прохождения сигнала между двумя нейронами и могут быть представлены в виде синаптических весов. Таким образом, все разнообразие нейронов можно с успехом представить в виде интегративного нейрона, а все способы межнейронной коммуникации — в форме вероятности прохождения сигнала между нейронами.
Существует по меньшей мере шесть основных нейромедиаторов и не менее тридцати «менее важных», в основном являющихся нейропептидами.
Даже дендриты отдельной клетки, по всей видимости, способны к обработке информации. Имеются также данные, что способна принимать участие в обработке информации и нейроглия — поддерживающая ткань нервной системы.
На настоящий момент известно о существовании в некоторых частях взрослого головного мозга стволовых клеток. Образование новых синапсов идет в течение всей жизни; для образования новых синапсов отростки дендритов способны образовываться за несколько минут.
1.3. Обработка информации нейронами.
Искусственные нейронные сети использовались для моделирования многих функций мозга — распознавания элементов изображений, управления роботами, обучения и улучшения функционирования на основе опыта.
Во многих случаях такие сети выполняли задачи лучше, чем компьютерные программы, основанные на логике и математике.
Так же, они помогают нам понять принципы работы реальных нейронных сетей в мозге.
Нейросети помогают нам понять работу нервной системы.
Так искусственные нейросети могут служить моделями для изучения реальных структур в мозге.
Мы ограничимся рассмотрением синапсов только двух типов — возбуждающего (повышающего вероятность прохождения ПД (Потенциал действия) на постсинаптическом нейроне) и тормозящего (понижающего такую вероятность).
Глутамат — наиболее распространенный медиатор в ЦНС — является возбуждающим.
ГАМК (гаммаАминоМасляная кислота) является наиболее распространенным тормозным медиатором.
В нервной системе распространены массивы нейронов, часто именуемые картами.
2.1. Упрощенный случай: рецепторы, пути и контуры.
Каждый сенсорный нерв может содержать несколько параллельных каналов, каждый из которых проводит несколько различающуюся информацию. Так, зрительный тракт имеет канал передачи цвета, называемый мелкоклеточным, и канал передачи формы и размеров объекта, называемый крупноклеточным.
Точно так же соматосенсорные пути сочетают каналы передачи прикосновения, давления, боли и некоторые другие.
Большинство сенсорных волокон оканчиваются в таламусе, где они передают сигнал нейронам, оканчивающимся в коре.
(рис. 3.10 и 3.11) 
Таким образом, в большинстве сигнальных путей существуют петли обратной связи — такие, как в нейросети с двумя или более слоями.
С этой точки зрения мозг представляется системой воздействующих друг на друга массивов и сетей.
Массивы нейронов представляет собой двумерную сеть нейронов.
Когда массивы соответствуют пространственной организации той или иной структуры, их называют картами.
В мозге имеет место как временное, так и пространственное кодирование, наряду со многими другими способами кодирования и обработки информации.
Пространственные карты являются наиболее наглядной формой пространственного кодирования.
Таким образом, даже информация от не ассоциированных с пространством органов чувств обрабатывается массивами и картами нейронов.
Наш мозг организует огромные количества входящей информации так, чтобы отражать положение окружающих объектов. Моторная кора, как вы можете догадаться, также выглядит как непропорциональная карта скелетных мышц тела.
Главным вопросом относительно сенсорики на сегодняшний день яляется вопрос о том, как осуществляется высокоуровневая обработка воспринятой информации. И модель нейросетей предоставляет один из возможных ответов.
Мозг постоянно корректирует работу моторных систем на основании сенсорной информации и адаптирует сенсорные системы при помощи моторной активности.
Сенсорные системы можно представить в виде иерархических систем, состоящих из иерархических систем низшего порядка, начиная с рецепторов и постепенно переходя ко все более сложным объектам.
Идет непрерывный обмен информацией между двумя системами в процессе цикла от восприятия до действия, начиная с наинизшего и заканчивая высшими уровнями планирования, мышления и анализа возможного развития событий
(рис. 3.20 Иерархическая система из области архитектуры).
В схеме иерархической системы обработки информации, каждый массив нейронов назван картой; карты существуют на разных уровнях, и сигнал может идти вверх, вниз и к другой карте того же уровня.
При рассмотрении электрической активности десятков миллиардов нейронов мозг поневоле начинает казаться огромным оркестром, а не одним инструментом. За сотни миллионов лет эволюции в мозге появились нейроны с самыми разными видами временного и пространственного кодирования (блок 3.1).
В путях следования информации имеется множество точек выбора, с которых она может быть направлена по нескольким различным путям или быть передана на уровень выше или ниже.
Если вернуться к ступенчатой пирамиде, то такой разветвленный путь похож на путь человека к вершине: он может достигнуть ее прямым или окружным путем.
Зрительная картина мира подвержена постоянным изменениям. Однако мозг тем не менее ведет обработку таких изменений. Животное не может позволить себе не заметить хищника, прячущегося в траве, только потому, что сейчас закат, или потому, что на него падает тень.
Для того чтобы выжить, мы должны были иметь превосходную зрительную систему.
Вот, например, кошка, выслеживающая жертву, может осматривать дерево только одним глазом, тогда как другой глаз остается пассивным. Это приводит к явлению бинокулярной конкуренции — конкуренции между зрительными входами от разных глаз.
Многие животные получают от разных глаз совершенно разные входы — такие животные, как кролики и олени, вообще не имеют участков перекрытия полей зрения, поэтому для них явление бинокулярной конкуренции невозможно.
Мозг постоянно имеет некоторые ожидания относительно встречаемых им внешних условий. Спускаясь по лестнице в темноте, мы ожидаем, что под ногой будет ступенька.
При анализе неоднозначно трактуемых объектов ожидание обусловливает выбор наиболее приемлемого варианта трактовки. Многие слова в языке имеют больше одного значения, поэтому, даже читая это, вы вынуждены иметь дело с неоднозначностями. Мозг опирается не только на входящую информацию — он имеет множество причин выбора того или иного варианта, основанных на предсказании результата и ожидании.
Селективное внимание позволяет нам динамически изменять свои сенсорные предпочтения, а долговременная память увеличивает силу синапсов, ответственных за точное восприятие.
Многие ученые считают, что всю кору целиком, наряду с сопутствующими областями, такими как таламус, следует рассматривать как одну функциональную единицу. Ее часто называют таламокортикальной системой.
Одним из основных свойств поведения животных является способность адаптироваться.
Основным свойством мозга, таким образом, является приспособляемость. Однако какие изменения в структуре самого мозга приводят к такой приспособляемости?
Для этих целей гораздо лучше подходят методы визуализации структур мозга, получившие интенсивное развитие в два прошедших десятилетия.
Хотя большая часть методов визуализации ориентирована на конкретную область, подчеркивая тем самым функциональное разделение, а не интеграцию, были предприняты попытки изучения обучения как системного процесса, включающего глобальные изменения структуры и функций мозга.
Развитие технологии магнитно-резонансной томографии позволило начать изучение изменений структурных компонентов связи — трактов белого вещества — под влиянием обучения.
Как было показано, обучение жонглированию вызывает изменения как в сером, так и в белом веществе мозга.
Данные результаты стали поистине революционными, поскольку долгие годы считалось, что структура мозга неизменна.
Подобные открытия, позволяющие рассматривать мозг как функционально и структурно лабильный орган, вне всякого сомнения являются шагом вперед в нашем понимании процесса обучения.
(4.0. Адаптация и обучение массивов нейронов).
Наиболее известное правило обучения нейросетей, выражаемое в лозунге «neurons that fire together, wire together».
Нейроны, которые срабатывают вместе, соединяются вместе.
(Обучение по Хэббу).
Дональд Хэбб в 1949 г. постулировал, что ассамблеи нейронов способны обучаться благодаря усилению связей между нейронами, активирующимися при стимуляции одновременно.
В основе обучения и памяти лежит эффективность синаптической связи.
Существует множество способов воздействия на эффективность синаптической передачи. Так, два нейрона могут образовать больше синапсов, в самих синапсах может вырабатываться больше нейромедиатора, рецепторы постсинаптического нейрона могут стать эффективнее.
В обучении задействовано два типа изменений; их можно рассматривать как усиленное возбуждение и усиленное торможение.
Долговременное усиление возбудимости одного нейрона называют долговременой потенциацией.
Долговременное понижение же — долговременной депрессией. Оба события имеют место в гиппокампе.
Визуально обучение по Хэббу можно представить в виде утолщения линий между узлами сети, как в простой совокупности клеток.
Модели с третьим, скрытым слоем позволяют нейросети изменять силу соединений.
Классическая трехслойная прямая сеть со скрытым слоем и настраиваемой силой взаимодействий может эффективно обучаться путем сопоставления выхода нейросети с желаемым выходом и подстройки силы соединений для достижения желаемого результата.
Процесс носит название обратного распространения ошибки обучения и во многом подобен отрицательной обратной связи.
Сети такого типа на сегодняшний день наиболее распространены.
В самоорганизующейся аутоассоциативной сети выход ставится в соответствие входу.
Такая стратегия полезна при распознавании паттернов, таких как звук знакомого голоса.
Самоорганизующиеся системы используются в природе для решения многих задач.
Сами организмы и их нервные системы можно рассматривать как самоорганизующиеся системы.
Самоорганизующаяся сеть способна справляться с фундаментальой проблемой распознавания человеческих лиц.
Человек учится реагировать на нормальные, недеформированные лица в очень ранний период жизни и вскоре становится способен отличать знакомые лица от незнакомых.
Задача, решаемая сетью, гораздо проще решаемой человеком, поскольку в модели происходит только формирование цепи.
Сеть способна обучаться предугадывать расположение рта в нижней части рисунка и двух глаз — в верхней.
4.2. Дарвинистский подход в нервной системе: выживают клетки и синапсы, наиболее приспособленные к данной задаче.
Нейральный дарвинизм предполагает, что нейроны развиваются и соединяются друг с другом в соответствии с дарвинистскими принципами.
Селекционизм — эффективный способ адаптации.
Отбор нейронов приводит к образованию долгоживущих нейронных совокупностей, выполняющих задачи адаптации, обучения, разпознавания паттернов и им подобные.
Нейросети отличаются высоким уровнем параллельности (что означает способность производить много разных вычислений одновременно) и распределенности (способности обрабатывать информацию в разных местах с использованием разных механизмов).
Это говорит о большей близости нейросетей к биологическим способам обработки информации.
Нейронные сети довольно просто перевести на язык математических выражений.
Нейросети способны обрабатывать символьную информацию, а символы могут быть переведены в нейросети.
Обучение нейросети проявляются по мере распознавания сетью входа и отсечения ею альтернативных вариантов.
Существует масса способов координации работы нейронов. Одним из них являются масштабные ритмы, координирующие работу больших групп нейронов так же, как дирижер координирует игру симфонического оркестра. Если большая масса нейронов активируется одновременно, то их активность, как правило, суммируется.
Современные данные говорят в пользу гораздо более быстрых гамма- и тета-корреляций на тех частотах, на которых мозг выполняет большую часть этой работы.
Ритмы энцефалограммы на сегодняшний день считаются сигнализирующими о разных, но скоординированных процессах.
К примеру, гамма-ритмы высокой плотности считаются ассоциированными с осознанным зрительным восприятием и процессом решения простой проблемы эквивалентности.
Альфа-ритмы традиционно ассоциируются с отсутствием задач, требующих фокусировки внимания, тогда как тета-ритмы, как полагают на настоящий момент, контролируют гиппокампальную область и фронтальную кору в процессе обращения к долговременной памяти. Дельта-ритмы — сигналы глубокого сна — группируют быструю нейрональную активность с целью консолидации полученных данных.
При проектировании самолета инженеры закладывают в его конструкцию некоторую функциональную избыточность на случай выхода из строя важнейших систем. Так, если откажет один двигатель, то большая часть самолетов будет способна дотянуть до взлетно-посадочной полосы на оставшихся.
Человек и животные также обладают определенной функциональной избыточностью.
Мозга это правило тоже касается. Мозг способен работать даже после получения весьма значительных повреждений.
Латеральное торможение является распространенной стратегией для выделения различий между двумя однородными областями сигнала, такими как темные пятна на светлом фоне.
Клетки сенсорных систем имеют так называемые рецептивные поля, настроенные на определенные параметры входа, такие как ориентация линии, цвет, движение, форма и тип объекта. При повышении уровня визуальных карт их разрешение падает, в то время как способность к интеграции информации растет.
Поскольку сенсорные и моторные системы изучают отдельно друг от друга, мозг представляется нам огромным сенсомоторным органом, делающим возможным непрерывные высокоуровневые взаимодействия между входом и выходом.
Пространственные массивы нейронов делают возможным пространственное кодирование, однако не стоит забывать о том, что в нервной системе имеется еще и кодирование временное. Основные ритмы энцефалограммы, как полагают, отвечают за временную координацию активности больших групп нейронов.
Последние исследования позволяют предположить, что гамма-ритм ответственен за интеграцию сенсорной информации осознанные ощущения, а тета-ритм — за извлечение информации из долговременной памяти.
Контрольные задания к этой главе.
1. Опишите основные функции интегративного нейрона.
2. Что такое латеральное торможение и какую роль оно играет в сенсорных системах?
3. Каким образом сенсорные и моторные системы можно рассматривать в форме иерархических структур?
4. Опишите роль двусторонних взаимодействий в функционировании мозга.
5. Что такое дарвинистский подход к нервной системе и какие аспекты процессов, происходящих в мозге, он затрагивает?
6. Назовите три наиболее общих свойства сенсорных систем.