https://www.ilscipio.com/tags/architektur/ Recent content in Architektur on Ilscipio - Enterprise Commerce Experten Hugo de-DE Fri, 28 Aug 2026 00:00:00 +0000 https://www.ilscipio.com/blog/local-ai-vs-cloud-apis/ Fri, 28 Aug 2026 00:00:00 +0000 https://www.ilscipio.com/blog/local-ai-vs-cloud-apis/ <p>Ich betreibe lokale Modelle auf eigener Hardware für manche Aufgaben und Cloud APIs für andere. Man fragt mich, was besser ist, als wäre das eine philosophische Frage. Ist es nicht. Es ist eine Kosten- und Latenzfrage, und die Antwort hängt davon ab, was man damit macht.</p> <h2 id="wann-lokal-sinn-ergibt">Wann lokal Sinn ergibt</h2><p>Wenn man eine Aufgabe hat, die tausende Male am Tag läuft, mit kurzen Inputs und vorhersagbaren Outputs - Klassifikation, Extraktion, einfaches Q&amp;A - ist ein lokales Modell günstiger. Man zahlt die Hardware einmal (oder mietet eine dedizierte GPU) und schickt so viele Requests, wie man will. Keine Per-Token-Abrechnung, keine Rate Limits, keine Abhängigkeit von der Uptime eines Dritten.</p>