Lokale KI-Lösungen
KI auf Ihrer eigenen Hardware.
Finden Sie heraus, welche Modellgröße und Hardware für Ihre lokale KI-Infrastruktur die richtige Wahl ist, mit unserem interaktiven Rechner.
Lokale KI bedeutet volle Kontrolle über Ihre Daten. Kein Cloud-Anbieter sieht Ihre Anfragen, keine Daten verlassen Ihr Netzwerk. Wählen Sie unten ein Modell und eine Quantisierungsstufe, um sofort zu sehen, welche Hardware Sie benötigen.
Dieser Rechner konzentriert sich auf kleinere bis mittelgroße Modelle, die auf einzelnen Consumer-GPUs laufen können. Enterprise-Server sind nicht nötig. Für größere Modelle (70B+) beraten wir Sie gerne individuell.
Model Size
Quantization
Hardware Requirements
Use Cases
Compatible Hardware
| Hardware | VRAM | Speed | Fit |
|---|---|---|---|
| RTX 3060 | 12 GB | Fast | Fits |
| RTX 3090 / 4090 | 24 GB | Fast | Fits |
| RTX 5090 | 32 GB | Fast | Fits |
| 2x RTX 3090 | 48 GB | Fast | Fits |
| Mac M2 Ultra (192 GB) | 192 GB | Fast | Fits |
| A100 80 GB | 80 GB | Fast | Fits |
| 2x A100 80 GB | 160 GB | Fast | Fits |
| 4x A100 80 GB | 320 GB | Fast | Fits |
Grössere Modelle (70B+)
Modelle ab 70B Parametern (z.B. Llama 3.3 70B, DeepSeek-R1 70B oder Llama 3.1 405B) sind ebenfalls lokal möglich, erfordern jedoch spezielle Multi-GPU- oder Server-Hardware. Wir beraten Sie gerne individuell zu Setup und Kosten.
Beratungsgespräch vereinbarenWorkflows
Eine KI, die mitarbeitet, nicht nur mitredet.
Lokale KI ist kein Spielzeug-Chat. Mit den richtigen Schnittstellen agiert sie wie ein Mitarbeiter: liest Eingangspost, füllt Formulare, ruft APIs auf, schreibt Berichte und meldet sich nur dann zurück, wenn ein Mensch entscheiden muss.
Eingangspost intelligent verarbeiten
Mails, PDFs und Faxe klassifizieren, beantworten oder an die richtige Person weiterleiten, bevor jemand morgens in die Inbox schaut.
Belege automatisch buchen
Rechnungen, Quittungen und Belege auslesen, kontieren und an DATEV, lexoffice oder Ihr ERP übergeben.
Anfragen 24/7 beantworten
Standardfragen aus eigener Wissensbasis beantworten, Akten zusammenfassen, Termine vorschlagen, komplexe Fälle ans Team eskalieren.
Verträge & Schriftsätze entwerfen
Sachverhalt rein, Erstentwurf raus. Mustertexte und frühere Akten als Grundlage, der Anwalt finalisiert.
Anamnesen & Arztbriefe vorbereiten
Anamnese transkribieren, Befund-Entwurf erstellen, Codes vorschlagen. Der Arzt prüft und gibt frei.
Reports & Auswertungen automatisch
KI zieht Daten aus ERP, Datenbank oder Excel, schreibt den Wochenbericht und mailt das PDF, täglich, wöchentlich, monatlich.
Wie das technisch geht
Lokales LLM (z. B. Llama 3, Qwen, Mistral) plus Function Calling und Tool Use. Wir verbinden Modelle mit Ihren bestehenden Systemen über APIs, MCP-Server oder spezialisierte Integrationen: DATEV, lexoffice, Outlook, Ihre ERP, Ihre Datenbank. Daten bleiben in Ihrem Netz, das Modell handelt darin wie ein 24/7 verfügbarer Mitarbeiter.
Vorteile
Warum lokal? Mehr als nur DSGVO.
Der Datenschutz ist der offensichtliche Grund, aber längst nicht der einzige. Lokale LLMs sind über die gesamte Laufzeit oft die wirtschaftlichere, sicherere und unabhängigere Wahl.
Kosten
Planbar statt monatlich wachsend
Langfristig günstiger: Eine lokale Lösung lohnt sich bereits ab etwa zwei Jahren Laufzeit und wird mit zunehmender Betriebsdauer immer attraktiver.
Klar gedeckelte Ausgaben: Die Kosten steigen nicht unkontrolliert, sondern sind auf die einmalige Investition in die Infrastruktur begrenzt.
Die Hardware bleibt erhalten und lässt sich später auch für andere Zwecke weiternutzen.
Besonders wirtschaftlich mit Human-in-the-Loop: Bleibt der Mensch ohnehin der größte Kostenfaktor, fallen laufende Token-Kosten kaum ins Gewicht.
Datenschutz & Sicherheit
Maximale Kontrolle über Ihre Daten
Beste Lösung im Bereich Datenschutz und Cybersecurity: Anfragen und Daten verlassen Ihr Netzwerk nie.
Kein Risiko durch den US Cloud Act: Kein Drittstaat kann auf Ihre Daten zugreifen.
Am sichersten und stabilsten in Bezug auf Datenschutz und Kontrolle: DSGVO und Berufsgeheimnis ohne Auftragsverarbeitung mit Dritten.
Unabhängigkeit
Sie besitzen die Infrastruktur
Vollständige Unabhängigkeit von externen Anbietern.
Sie besitzen die Hardware selbst: keine laufenden Abos, keine Schnittstellen Dritter.
Keine Preiserhöhungen, API-Änderungen oder Modell-Abkündigungen, die außerhalb Ihrer Kontrolle liegen.
Ehrlich eingeordnet
Lokale Modelle erreichen nicht in jedem Bereich die Leistungsfähigkeit der großen US-Modelle und erfordern etwas mehr Wartung und Pflege im Betrieb. Genau hier setzt unser hybrider Ansatz an: Der Alltag läuft lokal, schwere Sonderfälle gehen bei Bedarf an Frontier-Modelle in der Cloud.
Interesse geweckt?
Wir beraten Sie bei der Auswahl der passenden Hardware und richten Ihre lokale KI-Infrastruktur schlüsselfertig ein, inklusive der Workflow-Integrationen.