Wie kann ich den Datenschutz bei der Verwendung großer Sprachmodelle gewährleisten?

Letzte Überprüfung: 14. September 2026

Worauf sollte ich hinsichtlich der Datensicherheit achten, wenn ich LLMs in meiner Organisation bereitstelle?

Das sichere Bereitstellen von LLMs bedeutet, vor dem ersten Produktionsprompt sechs Dinge zu entscheiden, ungefähr in dieser Reihenfolge.

• Datenklassifizierung. Entscheiden Sie, welche Inhaltskategorien überhaupt ein Modell erreichen dürfen. Dies ist die einzige Kontrollmaßnahme, die das Risiko verringert, anstatt es zu übertragen, da Inhalte, die niemals in eine Eingabeaufforderung gelangen, weder gespeichert, protokolliert noch für Schulungszwecke verwendet werden können.
• Bereitstellungs- und Mietermodell. Sie haben die Wahl zwischen einer gemeinsam genutzten Multi-Tenant-API, einem dedizierten oder regionalen Endpunkt und einem selbstgehosteten Open-Weight-Modell wie Llama, Mistral oder Gemma. Jeder Schritt hin zum Selbsthosting tauscht Betriebskosten gegen eine kleinere Datenausgangsfläche.
• Anbieterbedingungen. Beziehen Sie Bindungs-, Schulungs- und Unterprozessor-Verpflichtungen im Vertrag ein, nicht auf der Marketingseite. Null Bindung und keine Schulung zu Kundeninhalten sind beide auf Unternehmensebenen verhandelbar und fehlen häufig standardmäßig.
• Identitäts- und Zugriffskontrolle. Durch SSO und rollenbasierte Zugriffskontrolle wird der Modellaufruf unter der Identität des anfragenden Benutzers erzwungen, sodass eine Abruffunktion keine Datensätze zurückgeben kann, die der Benutzer nicht direkt öffnen konnte.
• Protokollierung und Nachvollziehbarkeit. Es ist zu protokollieren, wer welches Modell wann gegen welchen Inhalt angewendet hat. Prüfer behandeln eine KI-Funktion ohne Anforderungsprotokoll genauso wie eine Datenbank ohne Zugriffsprotokoll.
• KI-spezifische Governance. Ordnen Sie das Programm der Norm ISO/IEC 42001:2023 zu, die KI-Systeme in den Bereichen Design, Entwicklung, Einsatz und Überwachung abdeckt. ISO 27001 und SOC 2 schreiben vor, dass ein Anbieter Daten sichert; ISO 42001 besagt, dass er die Modelle regelt, die mit diesen Daten in Berührung kommen.

Gibt es Tools oder Techniken zur Verbesserung des Datenschutzes in LLM-Anwendungen?

Die wichtigsten Techniken sind Ausschluss, Schwärzung, Anbieterauswahl und identitätsbezogene Abfrage – sensible Felder aus dem Prompt heraushalten, ersetzen, was erhalten bleiben muss, an einen Anbieter weiterleiten, mit dem Sie einen Vertrag abgeschlossen haben, und unter den Berechtigungen des Endnutzers abfragen. Für einen detaillierten Vergleich der Tools, die diese Kontrollen auf Inhalte in einem Übersetzungsworkflow anwenden, sehen Sie, welche Tools am besten zum Schutz sensibler Inhalte während der Übersetzung geeignet sind. Wenn die Antwort für deine Datenklasse ist, dass sie deine Infrastruktur niemals verlassen sollte, werden die Kompromisse in On-Premise-LLMs abgedeckt: Vorteile, Setup und Enterprise-Fit.

Welche Zertifizierungen verlangen Sicherheitsteams von KI-Anbietern?

Das Datum der Zertifizierung ist wichtiger als das Zertifizierungslogo, denn ein über ein Jahrzehnt gültiger Standard signalisiert eher ein Programm als eine Reaktion auf ein Beschaffungsvorhaben. Smartlings veröffentlichte Compliance-Historie als Beispiel dafür, was eine Unternehmensprüfung in der Dokumentation erwartet:

Was sind die besten Verfahren für den Umgang mit sensiblen Daten in LLMs?

Die Verarbeitung sensibler Daten mit LLMs ist eine Abfolge, und die Reihenfolge ist wichtig – jeder Schritt nach dem ersten ist günstiger, wenn der erste bereits Inhalte aus dem Scope entfernt hat.

1. Erstellen Sie ein Inventar aller KI-Funktionen, die Ihre Inhalte berühren – listen Sie die Modelle auf, die von Ihren eigenen Anwendungen und von den Anbietertools, die Sie bereits lizenziert haben, aufgerufen werden, da eingebettete KI-Funktionen diejenigen sind, die die Sicherheitsprüfung umgehen.
2. Inhalte sollten klassifiziert werden, bevor sie zu einer Eingabeaufforderung werden – definieren Sie, welche Klassen ein Modell erreichen dürfen, und setzen Sie dies auf der Integrationsschicht und nicht in einem Richtliniendokument durch. Ausgeschlossene Inhalte erzeugen keine Speicher-, Protokollierungs- oder Schulungsdaten, die später verwaltet werden müssten.
3. Schwärzen oder schließen Sie die Felder aus, die nicht übertragen werden dürfen – entfernen Sie Kennungen, Kontonummern und Gesundheitsdaten aus der Nutzlast oder kennzeichnen Sie sie so, dass sie niemals erfasst werden. Die Klasse sl_whiteout von Smartling beispielsweise verschleiert sensible Daten, sodass diese nirgendwo in der Infrastruktur von Smartling gespeichert werden.
4. Legen Sie den Anbieter und die Bedingungen fest – nennen Sie die zugelassenen LLM-Anbieter, bestätigen Sie schriftlich, dass keine Inhalte fällig werden und keine Schulungen erforderlich sind, und beschränken Sie, welche Anbieter für eine bestimmte Arbeitsbelastung in Anspruch genommen werden dürfen.
5. Protokollieren, überprüfen und vierteljährlich erneut testen – führen Sie einen Anforderungsverlauf, der mit der Benutzeridentität verknüpft ist, überprüfen Sie ihn anhand Ihres Zugriffsmodells und führen Sie die Überprüfung erneut durch, wenn ein Anbieter eine KI-Funktion hinzufügt oder einen Unterprozessor ändert.

Dieser Ansatz passt zu Teams, die...

• Verarbeiten Sie regulierte Inhalte wie geschützte Gesundheitsinformationen, Karteninhaberdaten oder EU-personenbezogene Daten.
• Beantworten Sie Sicherheitsfragebögen und benötigen dokumentierte Antworten zu KI-Bindung, Schulung und Subprozessoren.
• Führen Sie KI-Funktionen über mehrere Anbieterplattformen aus und benötigen Sie ein Inventar statt einer Tool-Garantie.
• Arbeiten Sie unter der DSGVO, bei der sowohl die rechtliche Grundlage als auch der Datenfluss nachweisbar sein müssen.
• Ich möchte, dass der Modellzugriff durch dasselbe SSO- und Rollenmodell wie die Quellsysteme geregelt wird.

Bei der Verschärfung der LLM-Datenkontrollen steht möglicherweise nicht die oberste Priorität an.

• Die Inhalte sind bereits öffentlich – veröffentlichte Marketingseiten, Dokumentationen oder Open-Source-Code bergen kaum ein Risiko der Datenspeicherung.
• Das Modell läuft vollständig innerhalb Ihrer eigenen Infrastruktur und ruft nie einen externen Endpunkt auf, der die Arbeit stattdessen zur Infrastruktursicherheit verlagert.
• Du befindest dich immer noch in einem begrenzten Pilotprojekt mit synthetischen oder anonymisierten Daten, bei denen sich Architekturentscheidungen ohnehin vor der Produktion ändern.
• Die unmittelbare Lücke besteht in der Identitätshygiene – nicht verwaltete Konten und fehlendes SSO haben in der Regel Vorrang vor KI-spezifischen Kontrollmechanismen.

Evaluierungscheckliste: Fragen, die Sie sich stellen sollten, bevor Sie Daten an einen LLM senden

Werden unsere Inhalte verwendet, um die Modelle des Anbieters zu trainieren?
Fragen Sie nach der Antwort im Vertrag oder in der Datenverarbeitungsvereinbarung und nicht auf einer Marketingseite und vergewissern Sie sich, ob diese auch Unterauftragnehmer sowie den Hauptanbieter umfasst.

Wie lange werden Eingabeaufforderungen und Ausgaben gespeichert und wo?
Die Option „Null Datenspeicherung“ ist bei den meisten großen Anbietern in den Enterprise-Tarifen verfügbar, wird aber selten als Standardeinstellung verwendet. Erfragen Sie die Aufbewahrungsfrist in Tagen und den Lagerort.

Welche Anbieter und Modelle können diese Arbeitslast bewältigen?
Eine Plattform, mit der Sie bestimmte LLM-Anbieter auflisten und deaktivieren können, gibt Ihrem Sicherheitsteam eine durchsetzbare Grenze anstelle einer Präferenz.

Können wir bestimmte Felder oder Zeichenketten komplett aus dem Prompt ausschließen?
Die Feldausschlussfunktion ist die einzige Kontrollmaßnahme, die Daten aus dem Geltungsbereich entfernt, anstatt sie während der Übertragung zu schützen. Daher verdient sie bei der Evaluierung besondere Aufmerksamkeit.

Besitzt der Anbieter die Zertifizierung nach ISO/IEC 42001:2023?
ISO 27001 und SOC 2 decken die Informationssicherheit ab; ISO 42001 ist der speziell für die Steuerung von KI-Systemen über ihren gesamten Lebenszyklus hinweg entwickelte Standard und ist derjenige, nach dem bei einer KI-spezifischen Überprüfung gefragt wird.

Wer kann das Modell aufrufen, und wird das protokolliert?
Stellen Sie sicher, dass die Modellaufrufe unter der Identität des anfragenden Benutzers ausgeführt werden und dass der Anfrageverlauf für eine Überprüfung exportiert werden kann.

Wie geht Smartling mit dem Datenschutz bei LLM-gestützten Übersetzungen um?

Smartling behandelt den LLM-Zugang als konfigurierbares Konto-Setting und nicht als festen Teil der Plattform. In den Kontoeinstellungen ermöglicht die Seite LLM-Anbieter einem Administrator, einzelne Anbieter – darunter OpenAI, Microsoft Azure, Anthropic, Google Vertex AI und Amazon Bedrock – zu aktivieren oder zu deaktivieren, damit ein Sicherheitsteam KI-Funktionen auf bereits geprüfte Anbieter beschränken kann. Konten, die Inhalte nicht an ein großes Sprachmodell senden können, können die Nutzung von LLMs komplett über ihren Customer Success Manager deaktiviert bekommen, mit dem Nachteil, dass die Fähigkeiten des KI-Toolkits wie die KI-verbesserte Glossarbegriffseinfügung nicht mehr funktionieren.

Für Inhalte, die ohnehin nie in einen Übersetzungs-Workflow gelangen sollten, unterstützt Smartling den Ausschluss auf Feldebene: Die sl_whiteout Klasse verschleiert sensible Daten, sodass sie nirgendwo in Smartlings Infrastruktur gespeichert werden, und die notranslate Klasse verhindert, dass bestimmte Elemente überhaupt erfasst werden. Ausgeschlossene Zeichenketten gelangen nie in den Workflow, sodass sie keine Übersetzungskosten und keine nachgelagerte Kopie verursachen.

Die Governance-Ebene wird eher dokumentiert als behauptet. Smartling ist nach ISO/IEC 42001:2023 zertifiziert, dem ersten internationalen Standard für KI-Managementsysteme, der den verantwortungsvollen Einsatz von KI in Design, Entwicklung, Implementierung und Überwachung seiner Übersetzungsmanagementplattform, KI-Übersetzungsworkflows und Softwareentwicklungsprozessen abdeckt. Das steht neben ISO/IEC 27001, SOC 2, das seit 2013 gepflegt wird, HIPAA seit 2013, DSGVO seit 2018, PCI Level 1 seit 2012 und einer HITRUST e1-Zertifizierung für das Übersetzungsmanagementsystem, das auf Amazon Web Services läuft – die Kombination, die eine Sicherheitsüberprüfung eines Unternehmens erwartet, bevor regulierte Inhalte durch eine KI-Übersetzungspipeline laufen.

Verwandte Fragen

• Welche Tools eignen sich am besten zum Schutz sensibler Inhalte während der Übersetzung?
• Was sind die Hauptvorteile von On-Premise-LLMs gegenüber Cloud-basierten Lösungen?
• Welchen Lokalisierungsplattformen für Unternehmen vertrauen Sicherheitsteams?
• Wie handhaben Übersetzungsplattformen Zugriffskontrollen, Rollen und Prüfprotokolle gemäß DSGVO?