Файл:Neural random forests 1604.07143.pdf

Материал из Материалы по машинному обучению
Перейти к: навигация, поиск
Neural_random_forests_1604.07143.pdf(0 × 0 пикселей, размер файла: 566 КБ, MIME-тип: application/pdf)
  • G´erard Biau Sorbonne Universit´es, UPMC Univ Paris 06, CNRS, Paris, France Institut universitaire de France gerard.biau@upmc.fr
  • Erwan Scornet Sorbonne Universit´es, UPMC Univ Paris 06, CNRS, Paris, France erwan.scornet@upmc.fr
  • Johannes Welbl University College London, London, England J.Welbl@cs.ucl.ac.uk

Abstract

Given an ensemble of randomized regression trees, it is possible to restructure them as a collection of multilayered neural networks with particular connection weights. Following this principle, we reformulate the random forest method of Breiman (2001) into a neural network setting, and in turn propose two new hybrid procedures that we call neural random forests. Both predictors exploit prior knowledge of regression trees for their architecture, have less parameters to tune than standard networks, and less restrictions on the geometry of the decision boundaries. Consistency results are proved, and substantial numerical evidence is provided on both synthetic and real data sets to assess the excellent performance of our methods in a large variety of prediction problems.

Index Terms — Random forests, neural networks, ensemble methods, randomization, sparse networks.

2010 Mathematics Subject Classification: 62G08, 62G20, 68T05.

История файла

Нажмите на дату/время, чтобы просмотреть, как тогда выглядел файл.

Дата/времяРазмерыУчастникПримечание
текущий13:41, 22 декабря 20160 × 0 (566 КБ)Slikos (обсуждение | вклад)
  • Вы не можете перезаписать этот файл.

Следующая 1 страница ссылается на данный файл: