BPNN — Предсказатель на основе самообучающейся нейронной сети | Индикаторы Форекс

 

Главная черта, делающая обучение без учителя привлека­тельным, это его самостоятельность. Процесс обучения, как и в случае обучения с учителем, заключается в подстраивании весов синапсов.

САМООБУЧЕНИЕ НЕЙРОННОЙ СЕТИ

Очевидно, что подстройка весов синапсов может проводиться только на основании информации о состоянии нейро­нов и уже имеющихся весовых коэффициентов. На этом, в част­ности, по аналогии с известными принципами самоорганизации нервных клеток, построены алгоритмы обучения Хебба.

Метод обучения Хебба заключается в изменении весов по следующему правилу:

(13)

где – выходное значение i-го нейрона (q-1)-го слоя, – выходное значение j-гонейрона q-го слоя, и — весовой коэффициент соединяющего эти нейроны, на итерациях t и (t-1) соот­ветственно; a — коэффициент скорости обучения.

При обучении по данному методу усиливаются связи между возбужденными нейронами. Существует также и дифференциальный метод обучения Хебба, определяемый соотношением:

. (14)

Здесь и выходное значение нейрона i-го слоя (q-1) соответственно на итерациях t и (t-1), и – то же самое для нейрона у слоя q. Как видно из формулы (2.17), более интенсивно обучаются синапсы, соединяющие нейроны, выходы которых наиболее динамично изменились в сторону увеличения.

Полный алгоритм обучения с применением вышеприведен­ных формул будет выглядеть следующим образом:

Шаг 1. На стадии инициализации всем весовым коэффици­ентам присваиваются небольшие случайные значения.

Шаг 2. На входы сети подается входной образ, и сигналы возбуждения распространяются по всем слоям. При этом для каждого нейрона рассчитывается взвешенная сумма его входов, к которой затем применяется активационная функция нейрона, в результате чего получается его выходное значение.

Шаг 3. На основании полученных выходных значений ней­ронов по формуле (2.17) или (2.16) проводится изменение весовых коэффициентов.

Шаг 4. Цикл с шага 2, пока выходные значения сети не ста­билизируются с заданной точностью. Применение этого способа определения момента завершения обучения, отличного от исполь­зовавшегося для сети обратного распространения, обусловлено тем, что подстраиваемые значения синапсов фактически не ограничены. На шаге 2 цикла попеременно предъявляются все образы из входного набора.

Следует отметить, что вид откликов на каждый класс вход­ных образов заранее неизвестен и представляет собой произвольное сочетание состояний нейронов выходного слоя, обусловленное случайным распределением весов на стадии инициализации. Вместе с тем, сеть способна обобщать схожие образы, относя их к одному классу. Тестирование обученной сети позволяет опреде­лить топологию классов в выходном слое. Для приведения откли­ков обученной сети к удобному представлению можно дополнить сеть одним слоем, который, например, по алгоритму обучения однослойного персептрона необходимо заставить отображать вы­ходные реакции сети в требуемые образы.

Другой алгоритм обучения без учителя – алгоритм Кохонена [166] – предусматривает подстройку синапсов на основании их значений на предыдущей итерации:

. (15)

Из выражения (15) видно, что обучение сводится к мини­мизации разницы между входными сигналами нейрона, поступаю­щими с выходов нейронов предыдущего слоя и весовыми коэффициентами его синапсов.

Полный алгоритм обучения имеет примерно такую же струк­туру, как в методах Хебба, но на шаге 3 из всего слоя выбирается нейрон, значения синапсов которого максимально походят на входной образ, и подстройка весов по формуле (15) проводится только для него. Эта, так называемая, аккредитация может сопро­вождаться торможением всех остальных нейронов слоя и введе­нием выбранного нейрона в насыщение. Выбор такого нейрона может осуществляться, например, расчетом скалярного произве­дения вектора весовых коэффициентов с вектором входных зна­чений. Максимальное произведение дает выигравший нейрон.

Другой вариант состоит в расчете расстояния между этими векторами в R-мерном пространстве:

. (16)

где R — размерность векторов; j — индекс нейрона в слое q; i – ин­декс суммирования по нейронам слоя (q-1); wij – вес синапса.

В данном случае, побеждает нейрон с наименьшим расстоя­нием. Иногда слишком часто получающие аккредитацию нейроны принудительно исключаются из рассмотрения, чтобы уравнять права всех нейронов слоя. Простейший вариант такого алгоритма заключается в торможении только что выигравшего нейрона.

После выбора из слоя q нейрона j с минимальным расстоя­нием Dj по формуле (16) производится обучение по формуле (16) не только этого нейрона, но и его соседей, расположенных в некоторой окрестности. Величина окрестности для первых итераций очень большая, так что обучаются все нейроны. Но с течением времени она уменьшается до нуля. Таким образом, чем ближе окончание обу­чения, тем точнее определяется группа нейронов, отвечающих ка­ждому классу образов.

На основе рассмотренного выше метода строятся самоорга­низующиеся нейронные сети.

 

ЗАКЛЮЧЕНИЕ

В ходе лекции были рассмотрены этапы решения задач в нейросетевом логическом базисе, а также основные алгоритмы обучения нейронных сетей.

 

 


Читайте также:

Источник: plasticpals.com

Инженеры исследовательского центра гуманоидной робототехники при университете Карлсруэ (Германия) приступили к работе над новым человекоподобным роботом еще в 2006 году. Результатом работы стал прототип ARMAR-IIIa, имеющий 43 степени свободы и оснащенный всевозможными сенсорами, которые помогают ему определять свое местоположение, скорость и прилагаемое к корпусу механическое усилие. Размеры туловища робота сравнимы с размерами человеческого тела, а на кисти каждой руки имеются 14 тактильных сенсоров. В 2008 году инженеры построили обновленную модель ARMAR-IIIb. Оба робота оборудованы одинаковыми роботизированными головами с двумя камерами на каждом глазу для наблюдения за приближенными и удаленными объектами.

Одной из важнейших задач для новых роботов изобретатели считают обучение их естественному общению с человеком. Для этого они создали программную платформу интерактивного обучения посредством наблюдения, а также голосовых и жестовых инструкций. Разработчики реализовали многорежимное взаимодействие: распознавание речи, обработка диалога, а также визуальное восприятие. В результате робот самостоятельно обучается новым словам, запоминает объекты и людей. Человека он опознает по манере двигаться, отслеживая и анализируя траектории ключевых точек.

Учебное пособие: Нейронные сети. Самообучающиеся системы

Для выполнения команд человека машина должна научиться манипулировать внешними объектами и, соответственно, уметь подробно анализировать их свойства. Чтобы обучить машину выполнению этой задачи, инженеры обратились к тому, как решает эту задачу человек, а точнее маленький ребенок. Дети, как известно, все тянут в рот, и это весьма надежный способ исследовать все свойства объекта: его размер и вес, вкус, текстуру, температуру, а также его мягкость или жесткость. Аналогичные свойства имеют камеры и тактильные сенсоры ARMAR-III, а их совместную работу авторы проекта назвали проприоцептивным обучением. Этот алгоритм позволяет машине описывать широкий арсенал свойств объектов, в том числе их размеры, текстуру, форму и цвет и издаваемый ими звук, а в перспективе появятся дополнительные сенсоры, которые будут воспринимать их запах и вкус.

Поскольку робот обучен основам вербального общения с человеком, оператор может помочь ему в обучении, на словах описав свойства объекта и даже присвоив ему условное имя. Таким образом, машина создает в своей памяти обширную библиотеку окружающих ее предметов, объем которой постоянно увеличивается. В настоящий момент робот может приносить указанные предметы из незнакомого места или на словах описывать его свойства, а также выполнять более сложные задания, например, достать нечто из посудомоечной машины, либо, напротив, нечто в нее поместить.

Нужна программа, скрипт или сайт? Анализ сайта или оптимизация? Копирайт или рерайт текстов? Заявка на выполнение работ.


Программы

Системные утилиты, пользовательские программы, написанные в Delphi 5

Все программы написаны в Delphi 5 (язык программирования Pascal). Это простое, но мощное программное обеспечение, позволяющее создавать программы любого уровня сложности. Некоторые примеры программирования можно посмотреть в разделе «Статьи».

SP: Эмуляция нажатия клавиш (Diablo 3)[new]
Эмуляция нажатия клавиш для игры Diablo 3.
Японские кроссворды[new]
Программа для составления черно-белых японских кроссвордов разного размера и сложности.
SP-Anti-Balda: выигрываем в балду[new]
Значительно повышает шансы на победу в игре «Балда» как против компьютера, так и против игрока.
SP-Traffic-Inspector
Просмотр сетевых пакетов, проходящих через сетевую карту компьютера.
SP-Links: проверка ссылок на партнерских сайтах
Экономия трафика и времени на проверку.
SP-USB-Detect[new]
Определение подключения — отключения flash-накопителей.
Скриншоты[new]
Создание скриншотов рабочего стола или активного окна программ.
SP-Session: мониторинг подключений к компьютеру[new]
Статистика сетевой активности, мониторинг вирусной активности.
SP-Screen — настройка монитора
Программа поможет настроить геометрию экрана монитора.
SP-Football
Прогнозирование результата футбольного матча.
SP-Task-Manager-Unlock
Разблокировка списка процессов.
SP-Regedit-Unlock
Разблокировка запуска REGEDIT.
SP-TMP-Delete
Удаление файлов *.tmp в выбранных каталогах при загрузке Windows.

Нейронная сеть Кохонена

SP-xProcess: Изменение приоритета процессов
Установка приоритетов процессам, выполняющимся в операционных системах Win9x/Win2000/WinXP.
SP-Download: загрузка файлов по локальной сети
Копирование файлов по локальной сети с возможностью докачки. Чтение файлов с поврежденных носителей.
SP-Scaner: сканер IP-адресов локальной сети
Упрощает администраторам сети систематизацию и контроль компьютеров, объединенных в единую локальную сеть.
SP-Guard: Защита стартовой страницы Internet Explorer
Слежение за стартовой страницей Internet Explorer.
SP-Монитор: персональный охранник компьютера
Защита компьютера от скрытых действий вредоносных программ и слежение за процессами, происходящими в системе.
SP-Card: Виртуальные открытки
Создание красивых анимированных открыток.
Кнопка быстрого перехода на Ваш сайт
В одно нажатие можно перейти на Ваш сайт, не запоминая и не набирая адреса. Программа очень полезна для Ваших посетителей.
SP-Meta: автоматическое создание META-тегов
Формирование оптимального META-тега keywords.
SP-Amebas-View: виртуальные амебы, борьба видов
Бесплатная утилита для систематизации dna-файлов виртуальных амеб.
SP-Amebas-Battle: подсчет результатов серии игр двух амеб
Утилита предназначена для проведения серии боев между двумя амебами.
SP-Amebas-LT: Результаты турнира
Утилита для анализа выступления амеб в турнире.
SP-Amebas-Spy: слежка за лидером
Утилита «SP-Amebas-Spy: слежка за лидером» призвана упростить контроль за ходом эволюции амеб.
Интерфейс для самообучающихся «Гусениц играющих в футбол»
Посмотрите, интересно!


Добавить комментарий

Закрыть меню