KI in der Praxis · Fortgeschritten

Architektur eines modellbasierten Systems

In einem Satz: Das Modell ist eine Komponente in einem gewöhnlichen System — und das System darum ist der Großteil der Arbeit und des Risikos.

Die festen Komponenten

Eine Eingabeschicht, die validiert und bereinigt; eine Abrufschicht, die Kontext mit Berechtigungen bringt; eine Modellaufrufschicht mit erneuten Versuchen, Zeitlimit und einem Ersatzanbieter; eine Ausgabe-Validierungsschicht gegen ein Schema; und eine Protokollierungs- und Messschicht.

Jede existiert auch in gewöhnlichen Systemen. Was sich ändert, ist, dass die Ausgabe nicht deterministisch ist, weshalb Validierung und Messung um ein Vielfaches mehr zählen.

Synchron gegen asynchron

Dauert die Antwort mehr als wenige Sekunden, wechseln Sie zu einem Hintergrundprozess mit einer Aufgabenkennung und Statusaktualisierungen. Eine Anfrage eine Minute offen zu halten ist ein Rezept für Zeitüberschreitungen und ein schlechtes Nutzererlebnis.

Grenzen, die man nicht überschreiten darf

Modellausgabe geht nicht direkt in die Ausführung — keine Abfrage, kein Befehl, kein externer Aufruf — ohne Validierung und eine Liste erlaubter Aktionen.

Im Detail

Bauen Sie die Modellschicht so, dass sie im Trockenmodus laufen kann: dasselbe System, ohne echten Aufruf, mit gespeicherten Antworten. Das beschleunigt die Entwicklung, stabilisiert Tests und lässt einen Vorfall genau so reproduzieren, wie er geschah.