KI dort, wo Daten das Unternehmen nicht verlassen dürfen: offene Modelle in unserer GPU-Cloud in Litauen (EU), Claude über Amazon Bedrock in einer EU-Region oder ein Modell auf Ihren eigenen Servern. Kein Training mit Ihren Daten, Zugriffe und Protokolle in Ihrer Hand, Einhaltung von DSGVO, NIS2 und DORA.
Ausgelegt für ISO 27001NIS2 DORA
Eine Klinik hat Patientenakten, eine Kanzlei Mandatsakten, ein Leasingunternehmen Anträge mit Finanzunterlagen, ein Hersteller Zeichnungen und Preislisten. KI würde jedem von ihnen genauso helfen wie allen anderen, doch die Daten dürfen nicht an einen öffentlichen Dienst gehen: Kundenverträge verbieten es, die Branchenregulierung verbietet es oder der gesunde Menschenverstand. Das übliche Ergebnis: Die Mitarbeitenden nutzen ChatGPT trotzdem über private Konten, nur sieht es niemand, und niemand kontrolliert es.
Private KI löst dieses Dilemma mit Architektur statt mit Versprechen. Wir betreiben das Modell dort, wo Ihre Daten sein dürfen: offene Modelle (Llama, Mistral, Qwen, Gemma) in unserer eigenen GPU-Cloud in einem Rechenzentrum in Litauen (EU), Claude über Amazon Bedrock in einer EU-Region in Frankfurt, innerhalb Ihres AWS-Kontos, oder, wenn vollständige Isolation verlangt wird, auf Ihren eigenen Servern. In keinem Fall werden Ihre Daten zum Training von Modellen verwendet, der Zugriff richtet sich nach den Identitäten in Ihrem Microsoft-365-Tenant, und jede Anfrage und jede Aktion eines Agenten wird in ein Protokoll geschrieben, das Sie einem Prüfer zeigen können.
Wir entscheiden danach, wo Ihre Daten sein dürfen und welche Qualität die Aufgabe braucht. Oft werden zwei Optionen kombiniert.
Llama, Mistral, Qwen oder Gemma laufen auf NVIDIA-GPU-Servern in unserem Rechenzentrum in Litauen (EU), reserviert für Ihre Umgebung. Die Daten bleiben in der EU, und der Preis ist pro GPU fest, nicht pro Anfrage. Geeignet für Assistenten auf Basis von Dokumenten, Klassifizierung, Zusammenfassungen und Dokumentenerkennung.
Wenn Sie die stärkste Dokumentenanalyse und Agentenqualität brauchen: Claude-Modelle laufen in Amazon Bedrock in der Region Frankfurt, innerhalb Ihres AWS-Kontos, ohne Training mit Ihren Daten, mit Ihren Schlüsseln und CloudTrail-Protokollen. Die Daten bleiben in der EU, und Sie zahlen nach Nutzung.
Eine vollständig isolierte Umgebung ohne Internet: ein GPU-Server in Ihren Räumen, mit dem Modell und der Vektordatenbank im Inneren. Das wird selten gebraucht, meist bei Verteidigung, kritischer Infrastruktur oder vertraglich eingeschränkten Daten, aber wenn es gebraucht wird, gibt es keinen anderen Weg. Wir entwerfen, setzen ein und betreuen die Umgebung aus der Ferne über Ihr VPN.
Dieselben Lösungen wie auf öffentlichen Plattformen, nur dass Modell und Daten unter Ihrer Kontrolle bleiben.
RAG-Suche über Verträge, Verfahrensanweisungen, Akten oder Unterlagen, mit Link zur Quelle und unter Beachtung Ihrer bestehenden Zugriffsrechte.
Rechnungen, Anträge, KYC-Dokumente und Kontoauszüge werden von einem privaten Modell in Felder zerlegt, ohne an ausländische OCR-Dienste geschickt zu werden.
Mehrstufige Aufgaben in Ihren Systemen mit minimalen Berechtigungen, Freigabeschritten und einem vollständigen Aktionsprotokoll.
E-Mails, Beschwerden, Vorfälle und Rückmeldungen werden nach Ihren Regeln sortiert und weitergeleitet, und sensible Daten verlassen das Unternehmen nicht.
Zusammenfassungen von Unterlagen, Akten, Berichten und Besprechungen sowie Entwürfe für Antworten und Verträge auf Basis Ihrer Vorlagen.
Ein Hybrid: Ein privates Modell entfernt personenbezogene Daten, und nur der anonymisierte Text geht an Claude oder ChatGPT.
Ein Programmierassistent, der mit Ihrer Codebasis arbeitet, für den Fall, dass Code das Unternehmen nicht verlassen darf.
Eine Vektordatenbank und semantische Suche über Millionen von Dokumenten, angebunden an SharePoint, Ihr ERP oder ein DMS.
Ein kurzer Vergleich, mit dem wir das Gespräch beginnen.
| ChatGPT / Copilot (öffentliche Dienste) | Claude über Amazon Bedrock EU | Offene Modelle in der GPU-Cloud von MDP CLOUD | |
|---|---|---|---|
Wo das Modell läuft | auf der Plattform des Anbieters (OpenAI, Microsoft) | in Ihrem AWS-Konto, Region Frankfurt | in unserem Rechenzentrum in Litauen (EU), in Ihrer dedizierten Umgebung |
Verwendung der Daten für Training | nein (in Business-Tarifen und über die API) | nein | nein |
Datenstandort | Speicherung in der EU je nach Tarif | EU (Deutschland) | Litauen |
Modellqualität | am höchsten | am höchsten | ausreichend für die meisten Geschäftsaufgaben |
Kosten | pro Benutzer oder nutzungsbasiert | nach Nutzung | fest pro GPU, unabhängig von der Zahl der Anfragen |
Vollständige Isolation (ohne Internet) | |||
Ihre Schlüssel und Protokolle | teilweise (Administrationsprotokolle) | ||
Geeignet für regulierte Branchen | eingeschränkt, je nach Datenkategorie |
Von der Datenbewertung bis zur betreuten Umgebung in 4 bis 8 Wochen.
Gemeinsam listen wir auf, welche Daten in die KI gelangen, in welche Kategorien sie nach DSGVO und Ihren Branchenregeln fallen und wer Zugriff darauf haben darf. Daraus ergibt sich, ob Bedrock in einer EU-Region genügt, ob ein Modell in Litauen (EU) nötig ist oder ob vollständige Isolation verlangt wird.
Wir wählen das Modell nach Aufgabe und Sprache aus (mehrere testen wir für Ihre Sprache) und entwerfen die Vektordatenbank, die Anbindungen an SharePoint, Ihr ERP oder ein DMS sowie das Zugriffsmodell auf Basis der Identitäten in Ihrem Microsoft-365-Tenant.
Wir bauen eine dedizierte GPU-Umgebung auf, schalten Protokollierung und Überwachung ein, laden die Dokumente und testen mit Ihren Mitarbeitenden anhand historischer Fälle, bis Antwortqualität und Quellengenauigkeit den vereinbarten Schwellenwert erreichen.
Wir betreuen sie wie den Rest Ihrer Infrastruktur: Wir aktualisieren Modelle und Komponenten, überwachen Leistung und Kosten, erstellen Backups und prüfen Protokolle. Sobald die erste Lösung läuft, ergänzen wir weitere in derselben Umgebung.
Wenn Sie ein eigenes Team haben und Modelle selbst betreiben möchten, vermieten wir NVIDIA-GPU-Server in einem Rechenzentrum in Litauen (EU), mit Betreuung und Backups.
Bei allgemeinen kreativen Aufgaben liegen die großen kommerziellen Modelle noch vorn, deshalb bieten wir dafür Claude über Bedrock in einer EU-Region an. Für typische Geschäftsaufgaben (Suche in eigenen Dokumenten mit Quellenangabe, Klassifizierung, Zusammenfassungen, Dokumentenerkennung) reicht die Qualität offener Modelle aus, und das prüfen wir vor Ihrer Unterschrift mit Tests an Ihren Dokumenten.
Die neuesten offenen Modelle verstehen und schreiben die meisten europäischen Sprachen gut, auch Deutsch, unterscheiden sich aber voneinander. Deshalb testen wir die Sprache mit Ihren eigenen Texten und wählen das am besten geeignete Modell. Für die Dokumentenerkennung nutzen wir OCR, die mit Umlauten und ß zurechtkommt.
Die Kosten eines privaten Modells sind pro GPU-Umgebung fest und hängen nicht von der Zahl der Anfragen ab, daher ist es bei starker Nutzung oft günstiger als eine Lizenz für jeden Benutzer. Bedrock wird nach Nutzung abgerechnet. Nach dem ersten Gespräch erstellen wir eine Berechnung auf Basis Ihrer erwarteten Last.
Ja, und das ist der Hauptgrund, sich für private KI zu entscheiden: Die Daten bleiben in der EU, werden nicht für Training verwendet, der Zugriff ist beschränkt, Aktionen werden protokolliert, und die Infrastruktur wird nach den Anforderungen von ISO 27001 betreut. Wir helfen außerdem bei den Unterlagen für ein Audit: einer Beschreibung der Datenflüsse, einer Risikobewertung und einem Auftragsverarbeitungsvertrag.
Ja, und wir empfehlen es: ein Prozess, ein Satz Dokumente, eine Gruppe von Benutzern. Die erste Lösung dauert meist 4 bis 8 Wochen, danach kommen weitere in derselben Umgebung hinzu, ohne neue Infrastruktur.
Wiederkehrende Aufgaben, die heute ein Mensch erledigt, können selbstständig ablaufen, genauer und ohne Wartezeit.
Mandanten schicken Rechnungen als Handyfotos und PDFs per Outlook, Kontoauszüge werden von Hand erfasst, und der Monatsabschluss beginnt mit…
Aufträge aus Trans.eu, Outlook und Kundenportalen werden von Hand in CarLo neu erfasst, CMR-Fotos wandern über WhatsApp, und DKV-Rechnungen werden…
Marktberichte aus dem Bloomberg Terminal und LSEG Workspace, Prospekte, Kundenberichte aus Clearstream- und Excel-Daten, Compliance-Dokumente und…
Diese Leistung erbringen Spezialisten mit gültigen internationalen Zertifizierungen. Ihr Fachwissen bestätigen unabhängige Organisationen, nicht wir selbst.
KI-Systeme werden mit Schutz vor Datenabfluss und Missbrauch von Modellen eingeführt.
GPU-Infrastruktur und KI-Workloads werden nach den Praktiken von NVIDIA betrieben.
Das Sicherheitsprogramm für KI und seine Kontrollen werden nach der ISACA-Methodik gesteuert.
Antwort innerhalb von 1 Werktag
