source de référence pour les processus gaussiens multivariés

Question

J'étudie les processus gaussiens et je lis actuellement la référence standard Processus gaussiens pour l'apprentissage automatique . Cependant, jusqu'à présent, je n'ai vu aucun exemple d'un processus gaussien multivarié ni trouvé de référence dans l'Index. Je cherche donc une bonne source pour le traitement (théorique) avec l'application de processus gaussiens multivariés.

Answer 1

Les modèles de processus gaussiens avec de multiples sorties sont brièvement discutés dans la section 9.1 du livre GPML (Rasmussen & Williams 2006). Pour paraphraser, certaines approches comprennent:

1. Traitez les sorties comme indépendantes, ce qui implique simplement d'ajuster un modèle distinct pour chacune. Cela peut être sous-optimal car il ne tient pas compte de la dépendance entre les sorties.

2. Modélisez les sorties sous-jacentes comme indépendantes a priori , mais avec un bruit corrélé. Cela induit des corrélations entre les sorties dans le postérieur.

3. Utilisez une fonction de covariance qui décrit non seulement la structure de corrélation de chaque sortie, mais également les corrélations entre les sorties (Cressie 1993). C'est ce qu'on appelle le «cokriging» dans la littérature géostatistique.

4. Modélisez les sorties comme des combinaisons linéaires de plusieurs processus latents (Teh et al. 2005, Micchelli et Pontil 2005). Une approche connexe consiste à traiter les sorties comme des convolutions différentes du même processus de bruit blanc sous-jacent (Boyle et Frean 2005).

Les références

• Boyle, P. et Frean, M. (2005). Processus gaussiens dépendants. Dans Saul, LK, Weiss, Y. et Bottou, L., éditeurs, Advances in Neural Information Processing Systems 17, pages 217–224. MIT Press.

• Cressie, NAC (1993). Statistiques pour les données spatiales. Wiley, New York.

• Micchelli, CA et Pontil, M. (2005). Noyaux pour l'apprentissage multi-tâches. Dans Saul, LK, Weiss, Y. et Bottou, L., éditeurs, Advances in Neural Information Processing Systems 17, pages 921–928. MIT Press.

• Teh, YW, Seeger, M. et Jordan, MI (2005). Modèles semi-paramétriques à facteurs latents. Dans Cowell, RG et Ghahramani, Z., éditeurs, Actes du dixième atelier international sur l'intelligence artificielle et les statistiques, pages 333–340. Société pour l'intelligence artificielle et les statistiques.