Toward improving Monte Carlo estimator for rendering and machine learning

Abstract

Monte Carlo integration is a fundamental computational tool for estimating high-dimensional integrals that cannot be solved analytically. Its ability to handle complex domains and irregular functions makes it indispensable in computer graphics. One classical application is physically-based rendering that uses Monte Carlo integration to simulate the transport of light with photorealistic accuracy. Similar challenges arise in machine learning, where stochastic gradient estimation underpins the training of modern models and requires high-dimensional gradient estimation. In both domains, the accuracy and efficiency of Monte Carlo methods directly determine the quality of the final results. A central difficulty of Monte Carlo integration is the high variance of its estimators, which leads to noisy images in rendering and slow convergence in learning. Over the years, a variety of variance-reduction techniques have been developed to alleviate this problem, such as control variates, importance sampling, or carefully designed sampling patterns. These strategies have enabled impressive advances, from photorealistic global illumination to faster neural network training, but they generally need handcrafted inputs. This thesis introduces a set of new variance reduction techniques for both rendering and machine learning. It proposes adaptive control variates that automatically learn an optimal control function from data, removing the need for hand-crafted designs while guaranteeing provable variance reduction. A scalable multi-class sampling framework has been developed to generate a single set of samples that simultaneously satisfies multiple, potentially conflicting target distributions. This framework has been further extended to optimize perceptual image quality by incorporating models of human visual sensitivity. Finally, the thesis presents efficient adaptive importance-sampling algorithms for stochastic gradient estimation, including a multi-distribution extension that combines several proposals with optimal weights to accelerate training. Together, these contributions advance the theoretical foundations of Monte Carlo integration and deliver practical algorithms that reduce error, improve efficiency, and enable new applications in photorealistic rendering and large-scale machine learning.

Die Monte-Carlo-Integration ist ein grundlegendes Berechnungswerkzeug zur Schätzung hochdimensionaler Integrale, die analytisch nicht gelöst werden können. Aufgrund ihrer Fähigkeit, komplexe Domänen und unregelmäßige Funktionen zu verarbeiten, ist sie in der Computergrafik unverzichtbar. Eine klassische Anwendung ist das physikalisch basierte Rendering, bei dem die Monte-Carlo-Integration verwendet wird, um den Transport von Licht mit fotorealistischer Genauigkeit zu simulieren. Ähnliche Herausforderungen ergeben sich im maschinellen Lernen, wo die stochastische Gradientenschätzung die Grundlage für das Training moderner Modelle bildet und eine hochdimensionale Gradientenschätzung erfordert. In beiden Bereichen bestimmen die Genauigkeit und Effizienz der Monte-Carlo-Methoden direkt die Qualität der Endergebnisse. Eine zentrale Schwierigkeit der Monte-Carlo-Integration ist die hohe Varianz ihrer Schätzer, die zu verrauschten Bildern beim Rendern und einer langsamen Konvergenz beim Lernen führt. Im Laufe der Jahre wurden verschiedene Techniken zur Varianzreduzierung entwickelt, um dieses Problem zu mildern, darunter Kontrollvariablen, Importance Sampling oder sorgfältig entworfene Stichprobenmuster. Diese Strategien haben beeindruckende Fortschritte ermöglicht, von fotorealistischer globaler Beleuchtung bis hin zu schnellerem Training neuronaler Netze, erfordern jedoch in der Regel manuell erstellte Eingaben. Diese Arbeit stellt eine Reihe neuer Methoden zur Varianzreduktion sowohl im Rendering als auch im maschinellen Lernen vor. Sie schlägt adaptive Kontrollvariablen vor, die automatisch eine optimale Kontrollfunktion aus Daten lernen, wodurch manuell erstellte Designs überflüssig werden und gleichzeitig eine nachweisbare Varianzreduktion gewährleistet ist. Es wird ein skalierbares Multi-Class-Sampling-Framework entwickelt, um einen einzigen Satz von Stichproben zu generieren, der gleichzeitig mehrere, potenziell widersprüchliche Zielverteilungen erfüllt. Dieses Framework wird weiter ausgebaut, um die wahrgenommene Bildqualität durch die Einbeziehung von Modellen der menschlichen Sehempfindlichkeit zu optimieren. Schließlich werden in der Arbeit effiziente adaptive Importance-Sampling-Algorithmen für die stochastische Gradientenschätzung vorgestellt, darunter eine Multi-Distributions-Erweiterung, die mehrere Vorschläge mit optimalen Gewichten kombiniert, um das Training zu beschleunigen. Zusammen tragen diese Beiträge zur Weiterentwicklung der theoretischen Grundlagen der Monte-Carlo-Integration bei und liefern praktische Algorithmen, die Fehler reduzieren, die Effizienz verbessern und neue Anwendungen im fotorealistischen Rendering und im groß angelegten maschinellen Lernen ermöglichen.