Ein SLM (Small Language Model) ist ein kompaktes Sprachmodell, das mit einem Bruchteil der Parameter und Rechenleistung großer Modelle auskommt. Eine feste Grenze gibt es nicht; üblich sind einige hundert Millionen bis wenige Milliarden Parameter, während große Modelle um Größenordnungen darüber liegen.
Der Vorteil liegt im Betrieb: SLMs laufen lokal auf Smartphones, Laptops oder firmeneigenen Servern, reagieren schnell, funktionieren offline und verursachen geringe Kosten. Dafür fehlt ihnen Breite: Bei Allgemeinwissen und komplexen Aufgaben bleiben sie hinter großen Modellen zurück, spielen ihre Stärke aber aus, wenn sie per Fine-Tuning auf eine klar umrissene Aufgabe spezialisiert werden. Beispiele sind Modellfamilien wie Phi (Microsoft), Gemma (Google) oder kleine Varianten von Llama und Mistral.
Für europäische Unternehmen zählt ein weiterer Punkt: Läuft das Modell im eigenen Haus, verlassen sensible Daten das Unternehmen nicht, was die datenschutzrechtliche Bewertung (DSGVO) deutlich vereinfacht.