|
Использование механизмов генетической эволюции для обучения нейронных сетей кажется естественным, поскольку модели нейронных сетей разрабатываются по аналогии с мозгом и реализуют некоторые его особенности, поя- вившиеся в результате биологической эволюции [10, 28, 100]. Основные компоненты генетических алгоритмов – это стратегии репродукций, мутаций и отбор "индивидуальных" нейронных сетей (по аналогии с отбором индивидуальных особей) [28]. Важным недостатком генетических алгоритмов является слож- ность для понимания и программной реализации. Однако преиму- ществом является эффективность в поиске глобальных минимумов адаптивных рельефов, так как в них исследуются большие области допустимых значений параметров нейронных сетей. Другая причина того, что генетические алгоритмы не застревают в локальных мини- мумах – случайные мутации, которые аналогичны температурным флуктуациям метода имитации отжига. В [28, 88, 100] есть указания на достаточно высокую скорость обучения при использовании генетических алгоритмов. Хотя ско- рость сходимостиградиентных алгоритмов в среднем выше чем ге- нетических алгоритмов. Генетические алгоритмы дают возможность оперировать дис- кретными значениями параметров нейронных сетей. Это упрощает разработку цифровых аппаратных реализаций нейронных сетей. При обучении на компьютере нейронных сетей, не ориентированных на аппаратную реализацию, возможность использования дискретных значений параметров в некоторых случаях может приводить к со- кращению общего времени обучения. В рамках «генетического» подхода в последнее время разрабо- таны многочисленные алгоритмы обучения нейронных сетей, разли- чающиеся способами представления данных нейронной сети в "хро- мосомах", стратегиями репродукции, мутаций, отбора [241, 244, 245]. 1. Каковы основные предпосылки применения нейронных сетей в про- гнозировании? 2. В чем состоит принципиальная концепция построения нейронных сетей? 3. Какие типы нейросетевых структур используются в прогнозиро- вании? 4. Для чего используются генетические алгоритмы в процессах обу- чения нейронных сетей? |
if gte vml |