Reinforcement Learning (bestärkendes Lernen) ist eine Trainingsform, bei der ein System durch Ausprobieren lernt: Es handelt in einer Umgebung, erhält für jede Handlung eine Belohnung oder einen Abzug und passt seine Strategie so an, dass die Summe der Belohnungen langfristig möglichst hoch ausfällt. Vorgegeben werden nicht die richtigen Antworten, sondern nur das Ziel, weshalb sich das Verfahren für Aufgaben eignet, bei denen niemand die optimale Lösung kennt, etwa Robotersteuerung, Spielstrategien, Verkehrs- oder Energieflusssteuerung.
Kernproblem ist die Abwägung zwischen dem Ausnutzen bereits bewährter Züge und dem Erkunden unbekannter Alternativen. Weil echtes Ausprobieren in der Realität teuer oder gefährlich wäre, trainiert man meist in Simulationen und überträgt das Ergebnis anschließend auf die Maschine. Große Sprachmodelle nutzen eine abgewandelte Form: Beim Reinforcement Learning from Human Feedback (RLHF) bewerten Menschen Modellantworten, aus diesen Bewertungen entsteht ein Belohnungsmodell, an dem das Sprachmodell nachjustiert wird.
Der wunde Punkt ist die Belohnungsfunktion, denn ein System optimiert exakt das Gemessene und nicht das Gemeinte, und findet dabei zuverlässig jede Abkürzung, die die Kennzahl hebt, ohne das eigentliche Ziel zu erreichen.