[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"reazon-offering-angebot-leistungen":3,"reazon-offering-angebot-zielgruppen":20,"reazon-angebot-subnav":21,"reazon-mainnav":22,"reazon-page-\u002Fde\u002Fwissen\u002Fllm-selbst-betreiben-kosten":32,"reazon-footernav":58,"reazon-articles-\u002Fde\u002Fwissen":75},[4,8,12,16],{"title":5,"href":6,"description":7},"DGX Spark mieten","\u002Fde\u002Fdgx-spark","Der NVIDIA-AI-Supercomputer für den Schreibtisch — on-demand aus der Schweiz, bare metal oder gemanagt.",{"title":9,"href":10,"description":11},"Bare Metal GPU","\u002Fde\u002Fbare-metal","DGX Spark & H100 als dedizierte Maschine — volle Kontrolle, Root-Zugriff, Schweizer Rechenzentrum.",{"title":13,"href":14,"description":15},"Managed Inference","\u002Fde\u002Fmanaged-inference","LLM-Endpoints via vLLM — von uns betrieben, ohne Ops-Aufwand, mit Schweizer Datenhoheit.",{"title":17,"href":18,"description":19},"Hermes Agents","\u002Fde\u002Fagents","Agentische Workloads gemanagt — Hermes-Agents auf souveräner Hardware, von uns betrieben.",[],[],[23,26,29],{"title":24,"href":25},"Preise","\u002Fde\u002Fpreise",{"title":27,"href":28},"Wissen","\u002Fde\u002Fwissen",{"title":30,"href":31},"Über Twentyone","\u002Fde\u002Fueber-uns",{"data":33},{"id":34,"path":35,"slug":36,"published_at":37,"page_type":38,"no_index":41,"fields":42,"blocks":57},815,"\u002Fde\u002Fwissen\u002Fllm-selbst-betreiben-kosten","llm-selbst-betreiben-kosten","2026-07-07T12:05:57.597Z",{"identifier":39,"name":40},"article","Blog Post",false,{"big5_category":43,"body":44,"body_html":45,"primary_service":46,"meta_title":52,"meta_description":53,"title":54,"summary":55,"publication_date":56},"cost","Bevor du dich entscheidest, ein Sprachmodell selbst zu betreiben, lohnt sich eine nüchterne Rechnung. Nicht der Sticker-Preis einer GPU-Stunde, sondern die volle Rechnung. Die meisten unterschätzen, wie viel neben der reinen Hardware noch dazukommt.\n\n## Die vier Kostenblöcke\n\n**Hardware.** Die GPU ist der offensichtliche Posten. Eine DGX Spark trägt dank 128 GB Unified Memory grosse Modelle, eine H100 liefert rohen Durchsatz. Kaufst du die Maschine, bindest du Kapital und trägst das Risiko, dass sie veraltet. Mietest du sie, zahlst du nur für die Laufzeit.\n\n**Rechenzentrum und Strom.** Eine GPU im Dauerbetrieb zieht Strom, braucht Kühlung und einen Platz mit stabiler Anbindung. Im Eigenbetrieb ist das dein Problem, beim gemieteten Stack steckt es im Preis.\n\n**Betrieb.** Der teuerste und am häufigsten vergessene Block. Treiber aktuell halten, die Inferenz-Engine tunen, Ausfälle abfangen, nachts erreichbar sein. Das ist Arbeitszeit, und die kostet mehr als die Hardware selbst.\n\n**Modell und Lizenzen.** Offene Modelle sind frei nutzbar, aber du musst sie auswählen, testen und aktuell halten.\n\n## Self-Host gegen API\n\nEine kommerzielle API ist sofort da und du zahlst pro Token. Das ist günstig, solange dein Volumen klein ist. Ab einer gewissen, konstanten Last dreht sich die Rechnung: Ein reservierter Endpoint mit fester Monatspauschale wird billiger als der Token-Zähler, der mit jedem Request weiterläuft. Dazu kommt der Punkt, der sich nicht in Franken misst: Bei der API verlassen deine Daten die Schweiz.\n\n## Wann sich gemanagt lohnt\n\nSelbst betreiben lohnt sich, wenn der Stack dein Produkt ist und du die Kontrolle wirklich brauchst. Geht es dir nur um einen stabilen Endpoint, zahlst du beim Selbstbetrieb vor allem den Betriebsblock, ohne den Gegenwert zu nutzen.\n\nGenau hier sitzt [Managed Inference](\u002Fde\u002Fmanaged-inference): die Datenhoheit und die offenen Modelle des Self-Hosts, aber ohne den Betrieb zu erben. Bei Twentyone rechnen wir das monatsweise ab, als planbare Pauschale pro Monat statt Stundenzähler oder Token-Abrechnung. Was die einzelnen Ebenen kosten, steht offen auf der [Preisseite](\u002Fde\u002Fpreise).","\u003Cp>Bevor du dich entscheidest, ein Sprachmodell selbst zu betreiben, lohnt sich eine nüchterne Rechnung. Nicht der Sticker-Preis einer GPU-Stunde, sondern die volle Rechnung. Die meisten unterschätzen, wie viel neben der reinen Hardware noch dazukommt.\u003C\u002Fp>\n\n\u003Ch2>Die vier Kostenblöcke\u003C\u002Fh2>\n\n\u003Cp>\u003Cstrong>Hardware.\u003C\u002Fstrong> Die GPU ist der offensichtliche Posten. Eine DGX Spark trägt dank 128 GB Unified Memory grosse Modelle, eine H100 liefert rohen Durchsatz. Kaufst du die Maschine, bindest du Kapital und trägst das Risiko, dass sie veraltet. Mietest du sie, zahlst du nur für die Laufzeit.\u003C\u002Fp>\n\n\u003Cp>\u003Cstrong>Rechenzentrum und Strom.\u003C\u002Fstrong> Eine GPU im Dauerbetrieb zieht Strom, braucht Kühlung und einen Platz mit stabiler Anbindung. Im Eigenbetrieb ist das dein Problem, beim gemieteten Stack steckt es im Preis.\u003C\u002Fp>\n\n\u003Cp>\u003Cstrong>Betrieb.\u003C\u002Fstrong> Der teuerste und am häufigsten vergessene Block. Treiber aktuell halten, die Inferenz-Engine tunen, Ausfälle abfangen, nachts erreichbar sein. Das ist Arbeitszeit, und die kostet mehr als die Hardware selbst.\u003C\u002Fp>\n\n\u003Cp>\u003Cstrong>Modell und Lizenzen.\u003C\u002Fstrong> Offene Modelle sind frei nutzbar, aber du musst sie auswählen, testen und aktuell halten.\u003C\u002Fp>\n\n\u003Ch2>Self-Host gegen API\u003C\u002Fh2>\n\n\u003Cp>Eine kommerzielle API ist sofort da und du zahlst pro Token. Das ist günstig, solange dein Volumen klein ist. Ab einer gewissen, konstanten Last dreht sich die Rechnung: Ein reservierter Endpoint mit fester Monatspauschale wird billiger als der Token-Zähler, der mit jedem Request weiterläuft. Dazu kommt der Punkt, der sich nicht in Franken misst: Bei der API verlassen deine Daten die Schweiz.\u003C\u002Fp>\n\n\u003Ch2>Wann sich gemanagt lohnt\u003C\u002Fh2>\n\n\u003Cp>Selbst betreiben lohnt sich, wenn der Stack dein Produkt ist und du die Kontrolle wirklich brauchst. Geht es dir nur um einen stabilen Endpoint, zahlst du beim Selbstbetrieb vor allem den Betriebsblock, ohne den Gegenwert zu nutzen.\u003C\u002Fp>\n\n\u003Cp>Genau hier sitzt \u003Ca href=\"\u002Fde\u002Fmanaged-inference\">Managed Inference\u003C\u002Fa>: die Datenhoheit und die offenen Modelle des Self-Hosts, aber ohne den Betrieb zu erben. Bei Twentyone rechnen wir das monatsweise ab, als planbare Pauschale pro Monat statt Stundenzähler oder Token-Abrechnung. Was die einzelnen Ebenen kosten, steht offen auf der \u003Ca href=\"\u002Fde\u002Fpreise\">Preisseite\u003C\u002Fa>.\u003C\u002Fp>\n",{"id":47,"slug":48,"path":14,"page_type":49,"published":50,"type":51},676,"managed-inference","service",true,"Cms::Page","Was kostet es, ein LLM selbst zu betreiben? | Twentyone","Hardware, Strom, Betrieb, Modell: die vollständige Kostenrechnung für eigene LLM-Inferenz und der Break-even gegenüber einer kommerziellen API.","Was kostet es, ein LLM selbst zu betreiben?","Die nüchterne Rechnung hinter eigenen LLM-Endpoints: Hardware, Betrieb und der Punkt, ab dem sich Selbermachen wirklich lohnt.","2026-06-18T00:00:00Z",[],[59,66],{"title":60,"links":61},"Leistungen",[62,63,64,65],{"title":5,"href":6},{"title":9,"href":10},{"title":13,"href":14},{"title":17,"href":18},{"title":67,"links":68},"Unternehmen",[69,70,71,72],{"title":30,"href":31},{"title":27,"href":28},{"title":24,"href":25},{"title":73,"href":74},"Kontakt","\u002Fde\u002Fkontakt",[76,86,98,108,116,123,130,137,143,149,155,162,168,174,180,186,192,198],{"path":77,"slug":78,"title":79,"summary":80,"image":81,"publication_date":82,"big5_category":83,"primary_hub":81,"cluster":81,"pillar":81,"hubs":84},"\u002Fde\u002Fwissen\u002Fazure-openai-bedrock-alternative-schweiz","azure-openai-bedrock-alternative-schweiz","Souveräne Inferenz gegen Azure OpenAI und AWS Bedrock: was sich im Alltag ändert","Azure OpenAI und AWS Bedrock gegen einen souverän betriebenen Endpoint: warum der Schweizer Serverstandort der Hyperscaler das Kernproblem nicht löst und was der Unterschied im Betrieb bedeutet.",null,"2026-07-13T00:00:00Z","comparisons",[85],{"slug":48,"title":13},{"path":87,"slug":88,"title":89,"summary":90,"image":81,"publication_date":82,"big5_category":91,"primary_hub":81,"cluster":81,"pillar":81,"hubs":92},"\u002Fde\u002Fwissen\u002Fbeste-gpu-llm-inferenz","beste-gpu-llm-inferenz","Die beste GPU für LLM-Inferenz: DGX Spark, H100, L40S und RTX im Vergleich","Welche GPU für eigene Inferenz? DGX Spark, H100, L40S und RTX 4090 nach dem, was zählt: wie viel Modell hineinpasst, wie viel Durchsatz herauskommt und was der Monat kostet.","bestof",[93,96],{"slug":94,"title":95},"bare-metal","Bare Metal GPU mit Root-Zugriff",{"slug":97,"title":5},"dgx-spark",{"path":99,"slug":100,"title":101,"summary":102,"image":81,"publication_date":82,"big5_category":103,"primary_hub":81,"cluster":81,"pillar":81,"hubs":104},"\u002Fde\u002Fwissen\u002Fhermes-agent-erfahrungsbericht","hermes-agent-erfahrungsbericht","Hermes-Agent im Realbetrieb: was ein souveräner Agent wirklich leistet","Ein Erfahrungsbericht statt Hochglanzprospekt: wie sich ein souverän betriebener Hermes-Agent im täglichen Einsatz verhält, wo er glänzt und wo die Begleitung anfängt.","reviews",[105],{"slug":106,"title":107},"agents","Hermes Agents as a Service",{"path":109,"slug":110,"title":111,"summary":112,"image":81,"publication_date":82,"big5_category":113,"primary_hub":81,"cluster":81,"pillar":81,"hubs":114},"\u002Fde\u002Fwissen\u002Fki-regulierte-daten-schweiz","ki-regulierte-daten-schweiz","KI mit regulierten Daten: LLMs nutzen, ohne dass die Daten die Schweiz verlassen","Für Branchen, in denen Daten das Land nicht verlassen dürfen: was revDSG, Berufsgeheimnis und der CLOUD Act für KI-Projekte bedeuten, und wie souveräne Inferenz den Rahmen einhält.","problems",[115],{"slug":48,"title":13},{"path":117,"slug":118,"title":119,"summary":120,"image":81,"publication_date":82,"big5_category":43,"primary_hub":81,"cluster":81,"pillar":81,"hubs":121},"\u002Fde\u002Fwissen\u002Fopenai-api-kosten-vs-eigener-endpoint","openai-api-kosten-vs-eigener-endpoint","Ab welchem Volumen sich ein eigener Endpoint gegen die API rechnet","Die Pay-per-Token-API ist günstig, bis sie es nicht mehr ist. Wo genau der Break-even zu einem reservierten Endpoint mit fester Monatspauschale liegt, an einem konkreten Beispiel durchgerechnet.",[122],{"slug":48,"title":13},{"path":124,"slug":125,"title":126,"summary":127,"image":81,"publication_date":128,"big5_category":83,"primary_hub":81,"cluster":81,"pillar":81,"hubs":129},"\u002Fde\u002Fwissen\u002Ffine-tuning-rag-prompt","fine-tuning-rag-prompt","Fine-Tuning, RAG oder besserer Prompt? Die klare Entscheidungsregel","Fine-Tuning ist meistens nicht die Antwort auf „das Modell kennt unsere Daten nicht“. Wann Prompting, RAG oder Fine-Tuning wirklich das richtige Werkzeug sind und wie du die Eskalationsleiter korrekt durchläufst.","2026-07-07T00:00:00Z",[],{"path":131,"slug":132,"title":133,"summary":134,"image":81,"publication_date":128,"big5_category":135,"primary_hub":81,"cluster":81,"pillar":81,"hubs":136},"\u002Fde\u002Fwissen\u002Fopenai-api-migration","openai-api-migration","Von der OpenAI-API zu souveräner Inferenz: die Migration in der Praxis","Der Umstieg von OpenAI oder Anthropic auf ein selbst betriebenes offenes Modell in der Schweiz sieht dank OpenAI-kompatibler Endpoints nach einer Ein-Zeilen-Änderung aus, ist aber doch mehr. Wo Prompts, Tool-Calling und Feature-Lücken zur Stolperfalle werden.","how-to",[],{"path":138,"slug":139,"title":140,"summary":141,"image":81,"publication_date":128,"big5_category":113,"primary_hub":81,"cluster":81,"pillar":81,"hubs":142},"\u002Fde\u002Fwissen\u002Fquantisierung-int4-int8-awq-gptq-gguf","quantisierung-int4-int8-awq-gptq-gguf","Quantisierung ohne Qualitätsverlust: int4, int8, AWQ, GPTQ, GGUF entzaubert","int8 ist fast immer verlustfrei, int4 meistens auch, aber nicht bei Reasoning, Code und langen Agenten-Ketten. Wir zeigen dir ungeschönt, was Quantisierung wirklich kostet und wo GPTQ, AWQ, GGUF und bitsandbytes hingehören.",[],{"path":144,"slug":145,"title":146,"summary":147,"image":81,"publication_date":128,"big5_category":113,"primary_hub":81,"cluster":81,"pillar":81,"hubs":148},"\u002Fde\u002Fwissen\u002Frag-schlechte-antworten","rag-schlechte-antworten","RAG richtig gebaut: warum eure Wissensbasis schlechte Antworten gibt","Die meisten RAG-Systeme scheitern nicht am Sprachmodell, sondern am Retrieval davor. Wir zeigen die häufigsten Fehlerquellen bei Chunking, Embeddings und Retrieval-Strategie sowie, wie du Retrieval- und Generationsfehler sauber auseinanderhältst.",[],{"path":150,"slug":151,"title":152,"summary":153,"image":81,"publication_date":128,"big5_category":135,"primary_hub":81,"cluster":81,"pillar":81,"hubs":154},"\u002Fde\u002Fwissen\u002Fvram-modell-gpu-berechnen","vram-modell-gpu-berechnen","Welches Modell passt auf welche GPU? VRAM richtig berechnen","Bevor du GPUs kaufst oder mietest: die Faustformel für Gewichte, KV-Cache und Overhead, damit du weisst, welches Modell wirklich auf deine Hardware passt.",[],{"path":156,"slug":157,"title":158,"summary":159,"image":81,"publication_date":160,"big5_category":113,"primary_hub":81,"cluster":81,"pillar":81,"hubs":161},"\u002Fde\u002Fwissen\u002Fagent-oder-endpoint","agent-oder-endpoint","Braucht ihr wirklich einen Agent oder reicht ein Endpoint?","Agenten sind im Trend, aber oft die teurere und fragilere Lösung für ein Problem, das ein einfacher Endpoint löst. Wann sich der Aufwand lohnt und wann nicht.","2026-06-30T00:00:00Z",[],{"path":163,"slug":164,"title":165,"summary":166,"image":81,"publication_date":160,"big5_category":113,"primary_hub":81,"cluster":81,"pillar":81,"hubs":167},"\u002Fde\u002Fwissen\u002Fdatenhoheit-was-bedeutet-das","datenhoheit-was-bedeutet-das","Was Datenhoheit konkret heisst und wo deine Prompts wirklich landen","Datenhoheit ist mehr als ein Hosting-Standort. Was rechtlich, technisch und vertraglich dahintersteckt, und welche Fragen du jedem AI-Anbieter stellen solltest.",[],{"path":169,"slug":170,"title":171,"summary":172,"image":81,"publication_date":160,"big5_category":103,"primary_hub":81,"cluster":81,"pillar":81,"hubs":173},"\u002Fde\u002Fwissen\u002Fdgx-spark-erfahrungsbericht","dgx-spark-erfahrungsbericht","DGX Spark im Betrieb: was die Maschine nach drei Monaten wirklich kann","Kein Datenblatt, sondern ein Erfahrungsbericht. Wo die DGX Spark im täglichen Betrieb glänzt, wo ihre Grenzen liegen und für wen sich die Maschine lohnt.",[],{"path":175,"slug":176,"title":177,"summary":178,"image":81,"publication_date":160,"big5_category":135,"primary_hub":81,"cluster":81,"pillar":81,"hubs":179},"\u002Fde\u002Fwissen\u002Fllm-endpoint-aufsetzen","llm-endpoint-aufsetzen","Eigenen LLM Endpoint aufsetzen: von der GPU zum ersten Token","Ein realistischer Weg vom blanken Server zum produktiven Inferenz-Endpoint. Die Schritte, die Reihenfolge und die Stolpersteine, die zwischen „läuft lokal“ und „läuft produktiv“ liegen.",[],{"path":181,"slug":182,"title":183,"summary":184,"image":81,"publication_date":160,"big5_category":91,"primary_hub":81,"cluster":81,"pillar":81,"hubs":185},"\u002Fde\u002Fwissen\u002Foffene-modelle-auswahl","offene-modelle-auswahl","Welches offene Modell für welche Aufgabe? Llama, Qwen, Mistral & Co.","Nicht das grösste Modell gewinnt, sondern das passende. Wie du offene Modelle nach Aufgabe, Speicherbedarf und Lizenz auswählst, statt Benchmarks hinterherzulaufen.",[],{"path":187,"slug":188,"title":189,"summary":190,"image":81,"publication_date":160,"big5_category":83,"primary_hub":81,"cluster":81,"pillar":81,"hubs":191},"\u002Fde\u002Fwissen\u002Fvllm-ollama-tgi-vergleich","vllm-ollama-tgi-vergleich","vLLM, Ollama oder TGI: welche Inference Engine für welchen Fall","Die Engine entscheidet über Durchsatz, Latenz und Betriebsaufwand. Ein nüchterner Vergleich der drei verbreitetsten Optionen, inklusive der Fälle, in denen die einfache Lösung gewinnt.",[],{"path":193,"slug":194,"title":195,"summary":196,"image":81,"publication_date":56,"big5_category":83,"primary_hub":81,"cluster":81,"pillar":81,"hubs":197},"\u002Fde\u002Fwissen\u002Fdgx-spark-vs-cloud-gpu","dgx-spark-vs-cloud-gpu","DGX Spark gegen Cloud-GPU: wann sich eigene Hardware lohnt","Unified Memory gegen rohen Durchsatz, Schweizer Hardware gegen Hyperscaler. Ein nüchterner Vergleich, inklusive der Fälle, in denen die Cloud gewinnt.",[],{"path":35,"slug":36,"title":54,"summary":55,"image":81,"publication_date":56,"big5_category":43,"primary_hub":81,"cluster":81,"pillar":81,"hubs":199},[]]