Glossar
Inferenz
Das Anwenden eines fertig trainierten Modells, um Antworten zu erzeugen.
Inferenz ist der Vorgang, bei dem ein fertig trainiertes Modell auf eine konkrete Eingabe angewendet wird und eine Antwort erzeugt. Anders als das aufwendige Training läuft Inferenz bei jeder Anfrage neu. Sie bestimmt, wie schnell und wie teuer die Nutzung eines KI-Dienstes im Alltag ist.