Персептроны и нейронные сети глубокого доверия : обучение и применение

Abstract

В данной статье рассматриваются и анализируются основные парадигмы обучения персептронных нейронных сетей: от однослойного персептрона к многослойным сетям глубокого доверия, которые считаются революционным шагом в области интеллектуальной обработки данных. Показана несостоятельность некоторых мифов о возможностях персептронных нейронных сетей и обосновывается переход к сверхбольшим персептронным сетям глубокого доверия. рассмотрены основные модели обучения нейронных сетей глубокого доверия, базирующиеся на ограниченной машине Больцмана (RBM) и автоассоциативном подходе. предложен новый метод для обучения ограниченной машины Больцмана и показано, что правило обу- чения ограниченной машины Больцмана является частным случаем предложенного метода обучения, который базируется на минимизации суммарной квадратичной ошибки восстановления информации. доказана эквивалентность максимизации вероятности распределения данных в ограниченной машине Больцмана и минимизация суммарной квадратичной ошибки восстановления информации в слоях (RBM). рассматривается применение нейронных сетей глубокого доверия для сжатия, визуализации и распознавания данных.