Метод обучения нейронной сети глубокого доверия и применение для визуализации данных

Abstract

В последнее время нейронные сети глубокого доверия являются горячо обсуждаемой темой в области машинного обучения благодаря своей возможности выполнять глубокое иерархическое представление входных данных. Так, первый слой сети может извлечь низкоуровневые признаки, второй слой – признаки более высокого уровня и т.д. В общем случае нейронная сеть глубокого доверия представляет собой персептрон с большим количеством слоев и позволяет преодолеть ограничения классического многослойного персептрона благодаря глубокой архитектуре. В данной статье представляется новый метод, называемый REBA, для обучения нейронной сети глубокого доверия на основе ограниченной машины Больцмана (RBM). Эффективность метода REBA демонстрируется на примере визуализации выборки рукописных цифр базы данных MNIST.