Нейронные сети. Самообучающиеся системы

ГБОУ Гимназия №1505

«Московская городская педагогическая гимназия-лаборатория»

Реферат

Нейронные сети. Самообучающиеся системы.

автор:
ученик 9 класса «А»

Половинкин Леонид

Руководитель:
Ветюков Д. А.

Москва

2012

Нейронные сети. Самообучающиеся системы.

Оглавление

Введение

Общие сведения по данной теме.

Цели реферата

Актуальность темы.

Обзор используемой литературы

Краткое пояснение структуры основной части.

Основная часть

Глава 1. Механизм работы биологических нейронных сетей.

1.1. Общее устройство нейрона.

1.2. Нейроны со ступенчатой характеристикой.

1.3 Нейроны с линейной характеристикой

1.4 Нейроны работающие в потактовом времени.

1.5 Нейронные сети с памятью. Обучение.

1.6 Перцептрон.

Глава 2. Достижения в создании нейронных сетей.

Заключение

Основные итоги работы

Список литературы

Введение

В своём реферате, я хочу изучить строение и принцип работы нейронных сетей, процесс их обучения.

В моём реферате, я попытался понять научные термины(необходимые для реферата), научиться самому составлять нейронные сети.

Цель моего реферата – изучение работы нейронов, и процесса их обучения.

Для достижения поставленной в работе цели необходимо решение следующих задач:

Во-первых, разобраться с научными терминами (такими как нейрон, нейронная сеть, и т.д.).

Во-вторых, с принципами работы нейронных систем.

В-третьих, с принципами обучения нейронных систем.

Я считаю, что тема «нейронные сети» очень актуальна, т.к. сейчас исследуются новые технологии, и нейронные сети продвинут науку на новый уровень.

Свой реферат я основываю в первую очередь на информации, полученной из Интернета и книге М.Б. Беркинблита.

Механизм работы биологических нейронных сетей.

1.1 Общее устройство нейрона.

Нейрон
- это структурно-функциональная единица нервной системы. Эта клетка по структуре содержит ядро, тело клетки и отростки. Он состоит из аксонов - отростков нервной клетки, по которым нервные импульсы идут от тела клетки к иннервируемым органам и другим нервным клеткам, аксон, в свою очередь, состоит терминалей - концевых участков аксона(нервных окончаний). Нейрон имеет мембранный потенциал – разность электрических потенциалов между растворами электролитов, разделенных проницаемой мембраной. Порог возбуждения - минимальное изменение мембранного потенциала, необходимое, чтобы вызвать возбуждение нейрона. Также имеет медиаторы — это вещества небелковой природы, имеющие сравнительно простое строение и небольшой молекулярный вес. Они выделяются окончаниями нервных клеток под влиянием поступившего туда очередного нервного импульса. Тормозные химические синапсы - синапсы, препятствующие дальнейшему распространению импульса. Известно два типа торможения - постсинаптическое торможение
когда снижается возбудимость мембраны сомы и дендритов нейрона, и
пресинаптическое торможение , когда уменьшается или прекращается высвобождение медиатора из пресинаптических нервных окончаний. Реце́птор — сложное образование, состоящие из терминалей, дендритов, чувствительных нейронов, глии, специализированных образований межклеточного вещества и специализированных клеток других тканей, которые в комплексе обеспечивают превращение влияния факторов внешней или внутренней среды в нервный импульс.Стимулами для разных рецепторов могут служить свет, механическая деформация, химические вещества, изменения температуры, а также изменения электрического и магнитного поля. В рецепторных клетках соответствующий сигнал изменяет конформацию чувствительных молекул-клеточных рецепторов, что приводит к изменению активности мембранных ионных рецепторов и изменению мембранного потенциала клетки.

Условие воз­буж­де­ние нейрона: нейрон воз­буж­да­ется, если сумма воз­дей­с­т­вий всех воз­буж­да­ю­щих и тор­моз­ных синапсов на нейрон больше или равна его порогу.

1.2 Нейроны со ступенчатой характеристикой.

Нейроны со ступенчатой характеристикой, имеют несколько особенностей, из них можно выделить:

1) Отсутствует ответ нейрона, если значение внешнего воздействия, меньше порога возбуждения.

2) После того, как порог возбуждения достигнут, нейрон скачкообразно принимает постоянное значение (1).

Рассмотрим такую задачу: «Если собака Бетти видит мясо в своей миске, она ест его. Если собака видит мясо, лежащее на столе, и хозяйки нет в кухне, она ест это мясо. Когда хозяйка в кухне, собака не трогает мясо, лежащее на столе. Придумайте нейронную сеть для такого поведения собаки.

Предполагается, что собака всегда готова есть мясо, когда нет хозяйки; что наличие хозяйки всегда тормозит поедание мяса, но наличие собственной миски компенсирует при­сутствие хозяйки. Это решение, впрочем, вызывает довольно очевидную критику: если принести миску собаки в кухню, то она должна хватать мясо со стола и в присутствии хозяйки.» 1

1.3 Нейроны с линейной характеристикой

«Рассмотрим, что произойдет с реальной нервной клеткой, через которую пропускается постоянный ток. Постоянный ток меняет потенциал на мембране нейрона и, когда сдвиг потенциала достигает порога, вызывает возбуждение нейрона. После того как в нейроне возникает импульс, потенциал возвращается к уровню покоя, но продол­жающий действовать постоянный ток вновь возбуждает нейрон и т.д. Таким образом, под действием постоянного тока в нейроне возникает ритмический разряд. Чем больше сила тока, пропускаемого через нейрон, тем выше частота разряда нейрона больше сила тока, пропускаемого через нейрон, тем выше частота разряда нейрона.

Но ритмический разряд возникает не только в искусственных условиях под действием постоянного тока. Так в рецептоpax в ряде случаев тоже возникает ритмический разряд. Например, в механорецепторах, которые находятся в мышцах, частота разряда тем выше, чем сильнее растянута мышца. Сведения о той величине, которую измеряет рецептор, передаются в мозг в этом

случае частотой импульсации.

1
М.Б. Беркинблит . http://www.katenke.net/static/berkinblit/neironnye_seti.html

«Рассмотрим нейронную сеть, которая даёт выходной сигнал только при условии х1=х2 Такая сеть будет давать на выходе сигнал, когда х1=х2, если тормозной синапс на выходном нейроне дает очень сильное торможение, гораздо большее, чем сигналы х1, и х2, (такие синапсы называют запрещающими). Однако в более реальных случаях вес тормозных синапсов лишь в конечное число раз больше веса возбуждающих синапсов.» 2

1.4 Нейроны работающие в потактовом времени.

Формальные нейроны.

Формальные нейроны - процессорный элемент, преобразователь данных, получающий входные данные и преобразующий их в соответствии с заданной функцией и параметрами.

Формальные нейроны обладают следующими свойствами:

1)При возбуждении нейрон отвечает единичным импульсом, который длится один такт( такт- единичный отрезок времени).

2)Если один нейрон передает возбуждение второму нейрону, то время этой передачи, всегда занимает один такт.

3) Порог формальных нейронов измеряется в числах и соответствует числу возбуждающих синапсов, активация которых необходима для возбуждения нейрона.

4)Нейрон суммирует сигналы, приходящие в один такт.

«Некоторое беспозвоночное при питании поступает так: “вкусные” пищевые частицы, попавшие в кишечную полость, ест, а “невкусные” — “выплевывает”. В кишечной полости у него есть два типа рецепторов: одни из них реагируют на горькое и очень кислое (не съедобное). Как только среди пищевых частиц попадается хотя бы одна такая, эти рецепторы подают “сигнал тревоги”: попало что-то ядовитое, здоровью особи угрожает опасность! Животное начинает активно сокращаться и растягиваться, промывая свою кишечную полость от яда, пока рецепторы не перестанут подавать тревожный сигнал. Если пища соленая или сладкая, об этом узнают рецепторы второго типа. Они подают команду кишечным клеткам, и те выделяют в полость пищеварительные ферменты. Но если среди “сладкой” пищи попалась хотя бы одна “горькая” частица, то выделение пищеварительных соков прекращается.

Итак, есть два вида рецепторов и три типа эффекторов: пищеварительные клетки; клетки, сжимающие кишечную полость; клетки, растягивающие кишечную полость. Надо придумать

нейронную сеть, обеспечивающую такое поведение животного (обратите внимание на то, что при постоянном действии “горькой” пищи два последних эффектора должны работать поочередно!).» 3

1.5 Нейронные сети с памятью. Обучение.

«Прежде всего нам надо придумать “нейрон памяти”, т. е. такой элемент, который может что-то запоминать. Мы выберем в качестве такого элемента нейрон с возвратной коллатералью, который возбуждает сам себя и после пришедшего импульса начинает непрерывно работать (коллатераль — это веточка аксона, а “возвратная” она потому, что возвращается назад и образует синапс на том самом нейроне, от чьего аксона она отходит). Тем самым его состояние после однократного возбуж­дения меняется: он все время “помнит”, что к нему при ходил возбуждающий сигнал . Чтобы такой нейрон “забыл” про приходивший сигнал, его надо затормозить.» 4

1.6 Перцептрон.

«Перцептрон — математическая и компьютерная модель восприятия информации мозгом.

Несмотря на свою простоту, перцептрон способен обучаться и решать довольно сложные задачи. Основная математическая задача, с которой он справляется, — это линейное разделение любых нелинейных множеств. Перцептрон состоит из трёх типов элементов, а именно: поступающие от сенсоров сигналы передаются ассоциативным элементам, а затем реагирующим элементам. Таким образом, перцептроны позволяют создать набор «ассоциаций» между входными стимулами и необходимой реакцией на выходе. В биологическом плане это соответствует преобразованию, например, зрительной информации в физиологический ответ от двигательных нейронов. Применение перцептронов:

Здесь будут показаны только основы практического применения перцептрона на двух различных задачах. Задача прогнозирования (и эквивалентная ей задача распознавания образов) требует высокой точности, а задача управления агентами — высокой скорости обучения. Поэтому, рассматривая эти задачи, можно полноценно ознакомиться с возможностями перцептрона, однако этим далеко не исчерпываются варианты его использования.

В практических задачах от перцептрона потребуется возможность выбора более чем из двух вариантов, а значит, на выходе у него должно находиться более одного R-элемента. Как показано Розенблаттом, характеристики таких систем не отличаются существенно от характеристик элементарного перцептрона.» 5

2,3,4,5
Там же.

«Рассмотрим нейронную сеть для запоминания фраз, придуманную американским нейрофизиологом Бриндли. Эта сеть решала следующую задачу. Имеется словарь, состоящий из большого числа слов (у Бриндли из 10 000 слов). Из этого словаря составляются фразы из трех слов. Конечно, из 10 000 слов можно составить очень много троек слов, но большинство таких троек не будет иметь смысла. Бриндли считает, что можно составить примерно 100 000 фраз, имеющих смысл. На входы машины подаются фразы, имеющие смысл, и она запоминает их.» 6

2.
Достижения в создании нейронных сетей.

Хорошим примером достижения в создании нейронных сетей, является нейрокомпьютер — устройство переработки информации на основе принципов работы естественных нейронных систем. Эти принципы были формализованы, что позволило говорить о теории искусственных нейронных сетей. Проблематика же нейрокомпьютеров заключается в построении реальных физических устройств, что позволит не просто моделировать искусственные нейронные сети на обычном компьютере, но так изменить принципы работы компьютера, что станет возможным говорить о том, что они работают в соответствии с теорией искусственных нейронных сетей.

Также в 1957 г. американский нейрофизиолог Ф. Розенблатт придумал машину, которую можно было научить отличать один объект от другого. Он назвал эту машину перцептроном (от слова “перцепция”-восприятие). С этой работы началось важное научное направление.

Заключение.

В нашем реферате, мы рассмотрели принципы работы нейронных систем. На основе выше изложенного можно сделать следующие выводы:

Нейронные сети актуальная тема, исследование которой важно для техники и информатики, так как она выдвинет эти науки на новый уровень. Нейронные сети способны самообучаться, это делает их уникальными для наук.

Литература.

Нейронные сети М.Б. Беркинблит, 1993.
Автоматы. Сб. статей под редакцией К. Шеннона и Д. Маккарти. — М.:ИЛ, 1956.

Арбиб М. Мозг, машина в математика. — М.: Наука, 1968.

Арбиб М. Метафорический мозг. — М.: Мир, 1978.

Беркинблит М.Б., Глаголева Е.Г. Электричество в живых орга­низмах. Библиотечки “Квант”, вып. 69. - М.: Наука, 1988.

Бонгард М.М. Проблема узнавания. — М.: Наука, 1987.

Гаазе-Раппопорт М.Г., Поспелов Д.А. От амебы до робота: модели поведения. — М.: Наука, 1988.

Минский М., Пейперт С. Перцептроны. — М.: Мир, 1971.

Позин Н.В. Моделирование нейронных структур. — М.: Наука, 1970.

Позин Н.В. и др. Элементы теории биологических анализато­ров. — М.:Наука, 1976.

Розенблатт Ф. Принципы нейродинамики. — М.: Мир, 1966.

Цетлин М.Л. Исследования по теории автоматов н моделиро­ванию биологических систем. — М.: Наука, 1969.

Нейронные сети. http://wikipedia.org. Ссылка действительна на 16.04.2012.