Эффективность распараллеливания метода на основе роя частиц при оптимизации обучения нейронных сетей

Ларионов Вячеслав Сергеевич, Малеев Олег Геннадьевич

Предмет исследования: возможность применения распараллеливания вычислений метода роя частиц (PSO) в задаче классификации с использованием нейронных сетей прямого распространения. Для расчетов использованы три датасета, отличающихся числом экземпляров, входных признаков и, соответственно, количеством весовых коэффициентов сети; обучение нейронной сети проводилось в течение 500 эпох в 50 независимых экспериментах с разным количеством процессоров для распараллеливания. Для оценки качества работы предлагаемых методов была выбрана штрафная функция в виде функции перекрестной энтропии. По результатам анализа спроектированных сетей было показано преимущество применения распараллеливания на оптимизации роя частиц.

Ключевые слова:нейронная сеть, оптимизация, PSO, PAPSO, Broadcast PPSO.