Параллельные алгоритмы функционирования и обучения нейронных сетей

Abstract

В работе рассматриваются проблемы построения параллельных алгоритмов функционирования и обучения многослойных нейронных сетей с прямыми связями, предназначенные для организации вычислений на базе многокомпонентных вычислительных систем с параллельной архитектурой. Использование систем подобного рода с соответствующими схемами параллелизации алгоритмов позволяют увеличить производительность нейросетевой обработки. В работе предложен ряд схем параллелизации базовых этапов функционирования нейронных сетей: прямого распространения информации, различных стадий градиентного алгоритма обучения.