Support vector machines as surrogate models in engineering

Learning from data has become an important task in many fields of engineering in which the unknown functional underlying the data is approximated. Two main reasons explain the interest of machine learning algorithms for engineering problems: the underlying function is too complex to model (e.g. meteorological phenomena) or it is too expensive to evaluate (e.g. high-fidelity finite element simulation).

In this project, some of the most popular machine learning algorithms are implemented in the context of surrogate modelling for engineering problems. More specifically, we consider support vector machines for regression [1] and for classification [2]. These techniques have shown to provide a high degree of accuracy for high-dimensional and noisy problems when well trained. They have therefore been implemented as modules in UQLab, the Chair’s Matlab platform for uncertainty quantification. These two modules extend the suite of surrogate modelling tools available in UQLab and can now be used to solve uncertainty quantification problems.

Eine wichtige Aufgabe in vielen Bereichen der Ingenieurwissenschaften ist es, zu gegebenen Daten die unbekannte zugrundeliegende Funktion zu approximieren (d.h., zu “lernen”). Maschinelle Lernalgorithmen sind besonders interessant für Probleme der Ingenieurwissenschaften, wenn die zugrundeliegende Funktion zu komplex ist, um sie zu modellieren (z.B. meteorologische Phänomene) oder wenn ihre Auswertung zu kostspielig ist (z.B. eine sehr genaue Finite-Elemente-Simulation).

In diesem Projekt implementieren wir Support Vector Machines für Regression [1] und für Klassifikation [2] im Kontext von Ersatzmodellierung für Ingenieursprobleme. Diese Verfahren bieten einen hohen Genauigkeitsgrad für hochdimensionale und verrauschte Probleme, sofern sie gut trainiert sind. Daher wurden sie als Module in UQLab, die an unserem Lehrstuhl entwickelte Matlab-Plattform für Ungewissheitsquantifizierung, aufgenommen. Diese beiden Module erweitern die Palette von in UQLab verfügbaren Ersatzmodellen und können jetzt für Ungewissheitsquantifizierung verwendet werden.