Aufsatz : Recht innovativ? KI und Datenschutz zwischen OLG Köln und Digitalem Omnibus : aus der RDV 3/2026, Seite 124 bis 131

Technischer Hintergrund

Technisch und im Einklang mit der Verordnung über Künstliche Intelligenz (KI-VO)^[14] ist zwischen KI-Modellen als datenbasierten „Kernkomponenten“ und darauf aufbauenden KI-Systemen zu unterscheiden, die deren Ergebnisse nutzbar machen. Das KI-System umfasst also zum einen das KI-Modell und zum anderen alle weiteren Komponenten wie etwa eine Benutzeroberfläche, die es in ihrer Gesamtheit erst nutzbar machen.^[15] So fungieren z.B. LLMs (KI-Modell) als Grundlage für allgemein einsetzbare Chatbots wie z.B. ChatGPT (KI-System).

Die LLMs selbst basieren auf sog. tiefen neuronalen Netzen^[16] mit einer sehr hohen Anzahl an trainierbaren Platzhaltern (sog. Parameter), die erst während des Trainings durch die Auswertung von Trainingsdaten mit konkreten Werten befüllt werden.^[17] Diese werden während des Trainings so angepasst, dass sie statistische Muster in sprachlichen Daten abbilden.^[18] Beim Training erkennt das KI-Modell also typische Muster in der Sprache, etwa Satzstrukturen, Zusammenhänge zwischen Wörtern und häufige Wortfolgen, die als Gewichtungen im neuronalen Netz abgebildet werden. Auf dieser Grundlage lernt das KI-Modell, wie wahrscheinlich bestimmte Wörter in einem bestimmten Kontext sind. Bei der Textgenerierung nutzt es diese Wahrscheinlichkeiten, indem es Schritt für Schritt eines der jeweils wahrscheinlichsten nächsten Wörter vorhersagt und so zusammenhängende Texte erzeugt.

II. Datenschutzrechtliche Ausgangslage des LLM-Trainings

Beim Training von LLMs werden zahlreiche datenschutzrechtlich relevante Verarbeitungsschritte durchlaufen.^[19] Diese reichen von der Datenerhebung über die Aufbereitung und Strukturierung bis hin zum eigentlichen Training, das aus mehreren aufeinanderfolgenden Trainingszyklen besteht. Zur Vermeidung von Unübersichtlichkeit konzentriert sich die datenschutzrechtliche Bewertung vorliegend auf die beiden zentralen Phasen der Trainingsdatensammlung und des Trainings.^[20]

1. Art. 6 Abs. 1 lit. f) DS‑GVO als zentrale Rechtsgrundlage

Für die Sammlung und das Training personenbezogener Daten für das KI-Training stellt Art.  6 Abs.  1 lit.  f) DS‑GVO die praktisch maßgebliche Rechtsgrundlage dar. Danach ist eine Verarbeitung personenbezogener Daten rechtmäßig, wenn sie zur Wahrung der berechtigten Interessen des Verantwortlichen oder eines Dritten erforderlich ist und solange die Interessen oder Grundrechte der betroffenen Person nicht überwiegen (dies insbesondere, wenn es sich bei der betroffenen Person um ein Kind handelt). Nach Auffassung des Europäischen Datenschutzausschusses (EDSA) handelt es sich hierbei um die einzig realistisch in Betracht kommende Rechtsgrundlage für das KI-Training^[21], wenngleich sie mit erheblichen rechtlichen Unsicherheiten verbunden ist, die jedoch durch die Implementierung überobligatorischer technischer Maßnahmen zumindest abgemildert werden können.

Die Anwendung von Art. 6 Abs. 1 lit. f) DS‑GVO erfolgt in drei Schritten. In einem ersten Schritt ist ein berechtigtes Interesse des Verantwortlichen oder eines Dritten festzustellen, sodann die Erforderlichkeit der konkreten Verarbeitung zur Wahrung dieses Interesses zu prüfen und schließlich eine Interessenabwägung vorzunehmen, bei der die gegenläufigen Interessen, Grundrechte und Grundfreiheiten der betroffenen Person nicht überwiegen dürfen.^[22]

Der Begriff des berechtigten Interesses ist weit zu verstehen.^[23] Es kann insbesondere wirtschaftliche, rechtliche^[24] oder ideelle Interessen umfassen.^[25] Im Bereich der Trainingsdatensammlung und des KI-Modelltrainings ist ein solches Interesse regelmäßig zu bejahen^[26], etwa zur Entwicklung und Verbesserung von KI-Systemen oder zur Bereitstellung kommerziell nutzbarer General-Purpose-KI-Modelle.^[27] Auch das Informationsinteresse der Öffentlichkeit kann im Einzelfall berücksichtigt werden.^[28]

Eine Datenverarbeitung ist zur Wahrung des berechtigten Interesses erforderlich, wenn die Verarbeitung geeignet ist, das verfolgte Interesse zu erreichen und kein milderes, gleich wirksames Mittel hierfür besteht.^[29] Maßgeblich ist dabei insbesondere der Grundsatz der Datenminimierung nach Art. 5 Abs.  1 lit.  c) DS‑GVO^[30], wonach personenbezogene Daten dem Zweck angemessen und erheblich sowie auf das für die Zwecke der Verarbeitung notwendige Maß beschränkt sein müssen. Die für die KI-Entwicklung erforderlichen großen Datenmengen stehen von Natur aus im Spannungsverhältnis zum Grundsatz der Datenminimierung, da der Beitrag einzelner Daten im Rahmen des KI-Trainings kaum ins Gewicht fällt.^[31] Daher ist die Erforderlichkeit der Verarbeitung im Wege einer Gesamtbetrachtung dann zu bejahen, wenn die Daten insgesamt die Qualität des Trainings verbessern.^[32] Allerdings sind KI-Datenverarbeitungen mit alternativen, weniger eingreifenden Alternativen zu vergleichen.^[33] Sind anonymisierte oder synthetische Daten ausreichend, ist die Verarbeitung personenbezogener Daten nicht erforderlich.^[34] Maßnahmen zur Erschwerung der Identifizierung unterhalb der Anonymisierung können die Verarbeitung als erforderlich rechtfertigen.^[35] Zu beachten ist, dass eine umfassende Bereinigung der Trainingsdaten bzw. deren Anonymisierung unter Erhalt von Syntax und Semantik in der Praxis regelmäßig nicht umsetzbar sein dürfte.^[36] Allerdings hat der EuGH in seiner jüngeren Rechtsprechung klargestellt, dass der Personenbezug von Daten nicht (nur) absolut zu bestimmen ist, sondern auch davon abhängt, ob der jeweilige Empfänger tatsächlich über Mittel zur Re-Identifizierung verfügt.^[37] Pseudonymisierte Daten können daher bei einer Weitergabe für den Empfänger unter Umständen als anonym gelten und damit nicht mehr in den Anwendungsbereich der DS‑GVO fallen. Für die Praxis des KI-Trainings bedeutet dies, dass Trainingsdaten unter Umständen nicht zwingend vollständig anonymisiert werden müssen, wenn durch technische und organisatorische Maßnahmen (sog. TOM) sichergestellt ist, dass der KI-Entwickler oder ein externer Empfänger der Daten die betroffenen Personen faktisch nicht identifizieren kann. Hinsichtlich des KI-Trainings mit rein fiktiven oder synthetischen Daten ist noch offen, mit welchen Ergebnissen und welchem Aufwand dies möglich wäre.^[38] Webscraping ist zudem derzeit ein zentrales Verfahren der Datenerhebung.^[39] Letztlich muss im Rahmen einer Gesamtbetrachtung berücksichtigt werden, dass ohne qualitativ hochwertige Trainingsdaten KI-Modelle nicht entwickelt werden können und, dass vertriebene KI-Systeme in einem intensiven Wettbewerb stehen, sodass selbst kleine Qualitätsverbesserungen von erheblicher Bedeutung sein können.^[40] Im Ergebnis ist die Erforderlichkeit zu bejahen. Weniger eingriffsintensive Alternativen sind jedoch fortlaufend zu prüfen und vorrangig zu nutzen, sofern sie gleichwertige Ergebnisse ermöglichen.

Die Interessenabwägung nach Art. 6 Abs. 1 lit. f) DS‑GVO erfolgt einzelfallbezogen und umfasst die gegenläufigen Interessen des Verantwortlichen oder des Empfängers und die Grundrechte und Grundfreiheiten der betroffenen Personen. Sie ist nur dann zugunsten der Verarbeitung zu entscheiden, wenn Letztere nicht überwiegen.

Zunächst sind die Interessen, Grundrechte und Grundfreiheiten der betroffenen Personen zu bestimmen. Im Kontext des KI-Trainings können insbesondere das Interesse an der Selbstbestimmung und daran, die Kontrolle über die eigenen personenbezogenen Daten zu behalten^[41], sowie die Rechte aus Art. 7 und 8 Charta der Grundrechte der Europäischen Union (GRCh) betroffen sein. Großflächiges Webscraping kann zudem Überwachungs- und Abschreckungseffekte mit Beeinträchtigungen der Meinungsfreiheit (Art. 11 GRCh) auslösen.^[42]

Sodann sind die Auswirkungen der Verarbeitung zu berücksichtigen mit Blick auf die verarbeiteten Datenarten, den Verarbeitungskontext und weitere Folgen.^[43] Hinsichtlich der Art der verarbeiteten personenbezogenen Daten ist insbesondere zu berücksichtigen, ob es sich um besondere Kategorien personenbezogener Daten i.S.d. Art. 9 DS‑GVO, die besonderen Schutz genießen, oder um sonstige sensible Daten (z.B. Finanz- oder Geodaten) handelt.^[44] Diese können in der Einsatzphase durch Auswertung oder Extraktion erhebliche Auswirkungen auf die Betroffenen entfalten, etwa in Form von Diskriminierung oder Rufschädigung.^[45] Der Verarbeitungskontext ist insbesondere durch die Art der Modellentwicklung und den Einsatz von KI-Systemen sowie durch bestehende TOM geprägt.^[46] Als weitere Folgen sind potenzielle Grundrechtsbeeinträchtigungen sowie Risiken durch Missbrauch generativer KI zu berücksichtigen, etwa durch Deepfakes, Desinformation oder betrügerische Anwendungen.^[47] Die Eintrittswahrscheinlichkeit dieser Risiken ist unter Berücksichtigung implementierter TOM in die Bewertung einzustellen.^[48]

Im dritten Schritt sind die vernünftigen Erwartungen der betroffenen Personen zu beurteilen. Zwar ist die Verarbeitung öffentlich zugänglicher Daten durch Webscraping und Webcrawling teilweise erwartbar^[49], nicht jedoch ohne Weiteres eine konkrete Nutzung zu KI-Trainingszwecken^[50].

In der Gesamtabwägung sind schließlich insbesondere der Nutzen des KI-Systems, die Datenintensität sowie die implementierten TOM zu berücksichtigen. Diese können das Gewicht der Verarbeitung zugunsten des Verantwortlichen beeinflussen, ohne jedoch die Eingriffsintensität vollständig zu neutralisieren. Insgesamt ist im Rahmen der Interessenabwägung ein innovationsfreundlicher Ansatz empfehlenswert, der den Datenschutz wahrt und zugleich die technologische Entwicklung fördert.^[51]

2. Besondere Kategorien personenbezogener Daten (Art. 9 DS‑GVO)

Bei Nutzung öffentlich zugänglicher Massendaten im KI-Training ist davon auszugehen, dass auch besondere Kategorien personenbezogener Daten gem. Art. 9 Abs. 1 DS-GVO (etwa Gesundheitsdaten oder politische Überzeugungen) verarbeitet werden. Deren Verarbeitung ist nur ausnahmsweise zulässig, wenn sie nach Art. 6 Abs. 1 und Art. 9 Abs. 2 DS‑GVO gerechtfertigt ist.

Die Ausnahme für „offensichtlich öffentlich gemachte“ besondere Kategorien personenbezogener Daten greift jedenfalls für Daten bei Veröffentlichungen durch Dritte nicht, und eine Einzelfallprüfung bei Big-Data-Scraping ist praktisch nicht umsetzbar.^[52]

Daher sind bereits bei der Datensammlung automatisierte Filtermechanismen zur Erkennung und zum Ausschluss sensibler Daten erforderlich, ergänzt durch manuelle Kontrollen und besondere Schutzmaßnahmen für Daten von Kindern.^[53] Die Umsetzung ist jedoch erschwert, da die Sensibilität von Daten häufig kontextabhängig ist und sich nur begrenzt automatisiert bestimmen lässt.^[54]

Werden sensible Daten bei der Sammlung ausgeschlossen, erfolgt auch das Training ohne diese. Zugleich kann ihre Verarbeitung zur Erkennung und Korrektur diskriminierender Bias^[55] erforderlich sein. Dieses Spannungsverhältnis^[56] greift Art. 10 Abs. 5 KI-VO auf, der eine eng begrenzte Rechtsgrundlage für Bias-Tests bei Hochrisiko-KI-Systemen schafft. Die Vorschrift lässt jedoch aufgrund seines stark eingeschränkten Anwendungsbereichs^[57]in der Praxis erhebliche Rechtsunsicherheiten bestehen.^[58]

3. Transparenz- und Widerspruchsproblematik

Die nach Art. 13, 14 DS‑GVO bestehenden Informationspflichten gegenüber Betroffenen und die Sicherstellung der Ausübung des nach Art. 21 DS‑GVO in Verbindung mit Art. 6 Abs. 1 lit.  f) DS‑GVO bestehenden Widerspruchsrechts gegen die Verarbeitung stoßen bei der massenhaften Datensammlung an praktische Grenzen. Denn die Identifikation und individuelle Information sämtlicher betroffener Personen im Rahmen von Big-Data-Scraping ist praktisch kaum realisierbar.

Letztlich wird es aufgrund der Natur der KI zu Transparenzdefiziten kommen, so dass insoweit abgeschwächte Anforderungen notwendig sind.^[59] In der Trainingsphase von LLMs ist zudem auf den Ausnahmetatbestand für Informationspflichten gem. Art. 14 Abs. 5 lit. b) DS‑GVO hinzuweisen, wenn die Informationserteilung unmöglich oder unverhältnismäßig ist. Art. 14 Abs. 5 lit. b) DS‑GVO ist eng auszulegen und greift (nur dann), sofern dessen Anforderungen in vollem Umfang erfüllt sind.^[60]

Hinsichtlich des Widerspruchsrechts dürften zumindest dann „zwingende schutzwürdige Gründe“ nach Art. 21 Abs. 1 S. 2 DS‑GVO vorliegen, wenn ein Widerspruch dazu führen würde, dass ein KI-Modell, das rechtmäßig personenbezogene Daten enthält, aufgrund des Widerspruchs erneut trainiert werden müsste und die Risiken für die Interessen des widersprechenden Betroffenen gering sind.^[61] In diesem Falle dürfen die personenbezogenen Daten trotz Widerspruchs des Betroffenen verarbeitet werden (Art. 21 Abs. 1 S. 2 DS‑GVO).

Insgesamt zeigt sich ein Vollzugsdefizit der Transparenzund Betroffenenrechte im KI-Kontext. Dies legt es nahe, einen innovationsfreundlichen Auslegungsansatz zugrunde zu legen und ergänzende Schutzmechanismen zu entwickeln, etwa durch standardisierte Opt-out-Lösungen auf Webseiten oder kollektive Informationsansätze.^[62]

4. Kritische Würdigung

Das Training von LLMs mit frei zugänglichen Big Data, die personenbezogene Daten enthält, ist praktisch hochrelevant, da eine vollständige Anonymisierung derzeit kaum möglich ist und häufig Qualitätsverluste verursacht. Verantwortliche i.S.d. DS‑GVO unterliegen dabei umfassend den datenschutzrechtlichen Vorgaben, deren Missachtung insbesondere wegen des Bußgeldrahmens nach Art.  83 DS‑GVO erhebliche wirtschaftliche Risiken birgt. Die Umsetzung der DS‑GVO im KI-Training ist aufgrund komplexer, einzelfallabhängiger Anforderungen sowie fehlender gefestigter Rechtsprechung mit erheblicher Rechtsunsicherheit verbunden.

Für KI-Startups stellt dies besondere Hürden dar, insbesondere aufgrund umfangreicher Informations- und Dokumentationspflichten. Gleichwohl ist die DS‑GVO kein Innovationshemmnis per se und dient dem Schutz vor erheblichen Risiken wie Profilbildung oder unkontrollierter Datenverarbeitung. Das Spannungsverhältnis zwischen Innovation und Datenschutz ist durch eine risikobasierte, innovationsfreundliche Auslegung zu lösen, ergänzt durch eine abgestufte Anwendung im Rahmen behördlichen Ermessens. Kurzfristig bleibt Rechtsunsicherheit bestehen, die jedoch durch Rechtsprechung und technologische Entwicklungen wie z.B. Federated Learning^[63] perspektivisch reduziert werden dürfte.

III. Die Meta-Entscheidung des Oberlandesgerichts Köln

Rechtsprechung des EuGH zu datenschutzrechtlichen Fragestellungen zum Thema des KI-Training mit personenbezogenen Daten steht noch aus. Von der einschlägigen, bisher noch überschaubaren Rechtsprechung der nationalen ordentlichen Gerichtsbarkeit^[64] ist insbesondere das Urteil des OLG Köln vom 23.5.2025^[65] hervorzuheben.

1. Sachverhalt und Kernaussagen

Das OLG Köln lehnte darin im einstweiligen Rechtsschutzverfahren den Antrag der Verbraucherzentrale Nordrhein-Westfalen (Verbraucherzentrale NRW) ab, Meta^[66] die Nutzung von personenbezogenen Daten, die durch Nutzer in den sozialen Netzwerken Facebook und Instagram veröffentlich wurden, zum KI-Training vorläufig zu untersagen.^[67] Meta begann ab dem 27.5.2025 personenbezogene Daten aus Nutzerprofilen zum KI-Training zu verwenden. Auf die beabsichtigte Trainingsdatennutzung wies sie bereits 10.6.2024 mittels Pressemitteilung hin wobei sie als Stichtag den von ihr ursprünglich vorgesehenen 26.6.2024 angab. Nach Bedenken der irischen Datenschutzbehörde erfolgte das Training unter Auflagen, darunter insbesondere die Möglichkeit der Nutzer, der Verarbeitung ihrer Daten zu widersprechen.^[68] Die Verbraucherzentrale NRW beantragte vor dem OLG Köln die Untersagung der Datenverarbeitungen zu KI-Trainingszwecken und argumentierte insbesondere, Meta habe die Erforderlichkeit und Angemessenheit des KI-Trainings nach Art. 6 Abs. 1 lit. f) DS‑GVO nicht nachgewiesen, verstoße gegen das Verarbeitungsverbot nach Art. 9 Abs. 1 DS‑GVO und verletze Art. 5 Abs. 2 Digital Markets Act (DMA).^[69]

Bezüglich der Erforderlichkeit und Angemessenheit der Datenverarbeitung nach Art. 6 Abs. 1 lit. f) DS‑GVO bejahte das OLG Köln die Zulässigkeit der Datenverarbeitung auf Grundlage des berechtigten Interesses von Meta.^[70] Das Gericht sah das Training einer von Meta entwickelten KI als berechtigtes Interesse an^[71] und hielt dies für erforderlich, um eine an regionale Gegebenheiten angepasste KI (Chatbot) bereitzustellen^[72]. Die Interessen der Nutzer wurden vom OLG Köln als überwiegend gewahrt erachtet, weil Meta ausreichend über die Nutzung informiert habe und den Nutzern die Möglichkeit gegeben habe, der Verwendung zu widersprechen.^[73] Insbesondere sei für Betroffene bei Daten, die ab dem 26.6.2024 – dem in Metas Pressemitteilung genannten ursprünglichen Stichtag – veröffentlicht wurden, eine Verarbeitung erwartbar, für ältere Daten jedoch nicht.^[74] Dennoch dürften laut dem OLG Köln auch diese älteren Daten für das KI-Training verwendet werden, weil Betroffene durch Rücknahme des öffentlichen Status oder Widerspruch ausreichende Schutzmöglichkeiten hätten und das berechtigte Interesse der Verfügungsbeklagten im Ergebnis überwiege.^[75] Hinsichtlich des Verbots der Verarbeitung besonderer Kategorien personenbezogener Daten nach Art. 9 Abs. 1 DS‑GVO stellte das Gericht fest, dass hinsichtlich der durch die Nutzer selbst veröffentlichten sensiblen personenbezogenen Daten der Ausnahmetatbestand des Art. 9 Abs. 2 lit. e) DS‑GVO greife.^[76] Hinsichtlich durch andere Nutzer veröffentlichte sensible Daten bestehe jedenfalls eine tätigkeitsbezogene Reduktion der Unterlassungspflicht von Meta dahingehend, dass diese jedenfalls dann, wenn die Verarbeitung nicht zielgerichtet erfolge, einer näheren Konkretisierung durch einen Antrag des Betroffenen auf Herausnahme seines Datensatzes bedürfe.^[77]Die Voraussetzung der nicht zielgerichteten Verarbeitung der Daten sei aufgrund des hierauf nicht gerichteten Ziels des KITrainings, das lediglich allgemeine Muster für Wahrscheinlichkeitsberechnungen und keine Profilbildung zu einzelnen Personen schaffen solle, sowie durch die von Meta ergriffenen Schutzmaßnahmen hinreichend dargelegt.^[78] Schließlich verneinte das OLG Köln einen Verstoß gegen Art. 5 Abs. 2 des DMA.^[79] Eine unzulässige Zusammenführung von Daten im Sinne des Art. 5 Abs. 2 lit. b) DMA finde nicht statt, weil die Daten nicht aus verschiedenen Diensten kombiniert, sondern lediglich in einen unstrukturierten KI-Trainingsdatensatz eingeflossen seien.^[80]

2. Kritische Würdigung

Mit seiner innovationsfreundlichen Ausrichtung gelangt das OLG Köln zu überwiegend vertretbaren Ergebnissen hinsichtlich Art. 6 Abs. 1 lit. f) DS‑GVO, Art. 9 Abs. 1, 2 DS‑GVO und Art. 5 Abs. 2 DMA. Die Interessenabwägung nach Art. 6 Abs. 1 lit.  f) DS‑GVO ist schlüssig, überzeugt allerdings nicht hinsichtlich der Einbeziehung auch historischer Daten vor dem 26.6.2024, da Nutzer bei deren Veröffentlichung nicht mit einer Nutzung zu KI-Trainingszwecken rechnen konnten und zudem kaum nachvollziehbar ist, dass gerade diese historischen Daten zwingend erforderlich für das KI-Training waren. Zu Art. 9 DS‑GVO überzeugt die innovationsfreundliche teleologische Reduktion des Verarbeitungsverbots.^[81] Das Gericht differenziert zwischen Profilbildung und massenhafter, nicht individualisierter Nutzung sensibler Daten und berücksichtigt die geringe Re-Identifizierungswahrscheinlichkeit.^[82] Im Rahmen von Art.  5 Abs.  2 lit.  b) DMA überzeugt im Ergebnis die enge Auslegung des Senats, wonach kein „Zusammenführen“ vorliegt. Für eine weite Auslegung spricht zwar, dass die Aggregation von Daten Verbundeffekte erzeugen kann, die einer Datenverknüpfung nahekommen.^[83] Allerdings zielt Art. 5 Abs. 2 lit. b) DMA allein auf die individuelle Datenverknüpfung, nicht auf eine unspezifische Aggregation ab, sodass im Ergebnis zu Recht kein Zusammenführen vorliegt.^[84]

IV. Die Reformperspektive des Digitalen Omnibus

Die Europäische Kommission beabsichtigt mit dem Digitalen Omnibus den bestehenden Rechtsrahmen für digitale Dienste zu vereinheitlichen und klarer zu strukturieren.^[85] Im Mittelpunkt stehen dabei der Abbau von Dopplungen und die Herstellung eines stimmigen und nachvollziehbaren Gesamtgefüges der digitalen Rechtsvorschriften. Zugleich verfolgt die Kommission das Ziel, die Wettbewerbsfähigkeit der europäischen Wirtschaft zu stärken und die Entwicklung neuer Technologien – insbesondere auch der KI – gezielt zu unterstützen.

Zu diesem Zweck enthält der entsprechende Verordnungsvorschlag^[86] auch konkrete Anpassungen der DS‑GVO^[87] von denen ausgewählte Vorschriften im Folgenden dargestellt und bewertet werden. In der Begründung zum Verordnungsvorschlag heißt es unter anderem, dass „diese Änderungen bestimmte Aspekte der Datenverarbeitung zur Entwicklung und zum Training von KI klären [sollen]“.^[88]

1. Kritische Würdigung ausgewählter geplanter DS‑GVO-Anpassungen im KI-Kontext

a) Art. 4 Nr. 1 S. 3 Hs. 2 DS‑GVO-E

Die mit Art. 4 Nr. 1 S. 3 Hs. 2 DS‑GVO-E geplante Modifikation des Begriffs von personenbezogenen Daten^[89]lehnt sich an die bereits genannte jüngere EuGH-Rechtsprechung zur Bestimmbarkeit des Personenbezugs an und konkretisiert diese gesetzlich.^[90] Pseudonymisierte Daten sollten für den jeweiligen Verarbeiter dann nicht als personenbezogen gelten, wenn diesem keine zusätzlichen Informationen zur Re-Identifizierung zur Verfügung stehen. Die bloße Existenz solcher Zusatzinformationen bei Dritten sei nicht ausschlaggebend für die Bejahung des Personenbezugs. Maßgeblich für diesen sei damit eine subjektive Perspektive, ergänzt um die mit hinreichender Wahrscheinlichkeit genutzten Mittel. Zudem wird klargestellt, dass Daten nicht allein deshalb wieder personenbezogen werden, weil ein späterer Empfänger über Identifizierungsmöglichkeiten verfügt.

Durch Art. 4 Nr. 1 S. 3 Hs. 2 DS‑GVO-E wird die Anwendbarkeit der DS‑GVO auf praktisch relevante Fallkonstellationen begrenzt und die Datenverarbeitung im Rahmen der KI-Entwicklung vermutlich erleichtert. Ein objektiver Ansatz zur Bestimmung des Personenbezugs^[91] würde zwar ein hohes Datenschutzniveau gewährleisten, da die beim KI-Training verwendeten Daten regelmäßig dem Anwendungsbereich der DS‑GVO unterfielen. Die damit verbundenen Unsicherheiten würden sich jedoch auf die in der Praxis schwer bestimmbare Grenze zur Anonymisierung verlagern, insbesondere im Hinblick darauf, ob auch bei fortlaufenden Trainingsprozessen eine Re-Identifizierung dauerhaft ausgeschlossen werden kann.^[92] Der im Entwurf aufgegriffene subjektive Ansatz erhöht demgegenüber die Rechtssicherheit für die Verantwortlichen beim KI-Training, erfolgt jedoch auf Kosten eines abgesenkten Datenschutzniveaus für die betroffenen Personen. Dies gilt gerade auch beim KI-Training mit öffentlich zugänglichen personenbezogenen Daten, weil diese für den Betreiber zwar als nicht identifizierbar erscheinen dürften, tatsächlich aber aufgrund weiterhin bestehender Zuordnungsmöglichkeiten im Internet objektiv re-identifizierbar bleiben können.

b) Art. 88c DS‑GVO-E

Das Training sowie der Betrieb von KI-Systemen sollen künftig nach Art. 88c DS‑GVO-E auf ein berechtigtes Interesse im Sinne des Art.  6 Abs.  1 lit.  f) DS‑GVO gestützt werden können. Die Verarbeitung solle dabei an geeignete TOM geknüpft werden, die insbesondere der Datenminimierung, dem Schutz gespeicherter Daten, der Transparenz gegenüber den Betroffenen sowie der Gewährleistung eines umfassenden Widerspruchsrechts dienen. Die Vorschrift berühre nicht die Verpflichtung des Verantwortlichen, zu gewährleisten, dass alle anderen Bedingungen des Art. 6 Abs. 1 lit. f) DS‑GVO sowie alle anderen Anforderungen und Grundsätze der DS‑GVO erfüllt seien.^[93]Im Rahmen der Interessenabwägung sei zu prüfen, ob das vom Verantwortlichen verfolgte Interesse der betroffenen Person und der Gesellschaft insgesamt zugutekomme, was zum Beispiel der Fall sein könne, wenn die Verarbeitung personenbezogener Daten erforderlich sei, um systematische Verzerrungen aufzudecken und zu beseitigen und so die betroffenen Personen vor Diskriminierung zu schützen, oder dann, wenn die Datenverarbeitung genaue und sichere Ergebnisse für eine vorteilhafte Nutzung gewährleisten solle, etwa die Zugänglichkeit bestimmter Dienste verbessern solle.^[94] Die Entwicklung bestimmter KISysteme und KI-Modelle könne die Erhebung großer Datenmengen umfassen, einschließlich personenbezogener Daten (und besonderer Kategorien derselben).^[95]

Im Ergebnis kommt Art. 88c DS‑GVO-E keine eigenständige klärende Funktion zu, sondern verschriftlicht im Wesentlichen die bereits bestehende Möglichkeit, KI-Training (und -Betrieb) auf Art. 6 Abs. 1 lit. f) DS‑GVO zu stützen. Eine tatsächliche Auflösung der bestehenden Rechtsunsicherheiten erfolgt dadurch nicht, da die maßgebliche Prüfung – insbesondere der Erforderlichkeit und der Interessenabwägung – weiterhin im Einzelfall vorzunehmen ist. Zwar entfaltet die Vorschrift eine nicht unerhebliche Indizwirkung zugunsten der Verantwortlichen, indem sie die grundsätzliche Anwendbarkeit von Art. 6 Abs. 1 lit. f) DS‑GVO im KI-Kontext bestätigt und damit im Rahmen der Abwägung zugunsten der Betreiber zu berücksichtigen sein wird. Dabei dürfte insbesondere von praktischer Relevanz sein, dass es sich im Rahmen der Interessenabwägung positiv auswirkt, wenn die Verarbeitung dazu dient, genaue und sichere Ergebnisse für eine vorteilhafte Nutzung zu gewährleisten. Die strukturellen Unsicherheiten, insbesondere im Hinblick auf die Reichweite zulässiger Datenverarbeitung und die Gewichtung der betroffenen Interessen, werden jedoch nicht beseitigt, sondern bestehen fort.

c) Art. 9 Abs. 2 lit. k), Abs. 5 DS‑GVO-E

Der Verordnungsentwurf schafft mit Art. 9 Abs. 2 lit. k), Abs. 5 DS‑GVO-E erstmals einen KI-spezifischen Erlaubnistatbestand für besondere Kategorien personenbezogener Daten gem. Art. 9 Abs. 1 DS‑GVO. Maßgeblichen Anstoß hierfür gab das Urteil des OLG Köln.^[96] Danach soll die Verarbeitung sensibler Daten im Zusammenhang mit Entwicklung und Betrieb eines KI-Systems oder KI-Modells zulässig sein, wenn geeignete TOM getroffen werden, um ihre Erhebung und Verarbeitung möglichst zu vermeiden. Werden solche Daten dennoch festgestellt, seien sie zu entfernen, beziehungsweise bei unverhältnismäßigem Aufwand jedenfalls wirksam gegen Ergebnisverwendung, Offenlegung und Bereitstellung an Dritte zu schützen.

Art.  9 Abs.  2 lit. k), Abs.  5 DS‑GVO-E erhöht zwar die Praxisfähigkeit, überzeugt dogmatisch jedoch nur eingeschränkt. Positiv ist, dass die Vorschrift die faktische Unvermeidbarkeit „beifangartiger“ sensibler Daten im KI-Training anerkennt und entsprechende Schutzmaßnahmen normiert. Kritisch ist allerdings, dass die Rechtfertigung maßgeblich an die Implementierung von TOM geknüpft wird und damit die Bewertung der Risiken weitgehend in die Sphäre des Verantwortlichen verlagert.^[97] Die Verknüpfung von Rechtfertigung und TOM überzeugt zudem auch dogmatisch nicht. Denn Letztere sind nicht geeignet, die eigenständige Rechtfertigung der Verarbeitung zu begründen. Zudem verkompliziert dies letztlich die Datenverarbeitung zum Zwecke des KI-Trainings.^[98]

d) Art. 12 Abs. 5 DS‑GVO-E

Art. 12 Abs. 5 DS‑GVO-E ermöglicht es Verantwortlichen, bei offensichtlich unbegründeten oder exzessiven Anträgen auf Ausübung der Betroffenenrechte nach Art. 15 bis 22 DS‑GVO ein angemessenes Entgelt zu verlangen oder die Bearbeitung abzulehnen.

Der Regelungszweck der Vorschrift, nämlich eine missbräuchliche Geltendmachung des datenschutzrechtlichen Auskunftsanspruchs zu unterbinden, ist grundsätzlich zu begrüßen. Denn es hat sich gezeigt, dass insbesondere der Anspruch aus Art. 15 Abs. 1 DS‑GVO, der grundsätzlich jederzeit und unentgeltlich geltend gemacht werden kann, mitunter gezielt als Druckmittel in Verhandlungen oder missbräuchlich eingesetzt wird.^[99]

Die oben dargestellte Transparenz- und Widerspruchsproblematik beim KI-Training behebt Art. 12 Abs. 5 DS‑GVO-E nicht. Die Herausforderung, dass eine individuelle Information und die effektive Ausübung von Betroffenenrechten bei massenhafter Datenerhebung faktisch kaum umsetzbar sind, bleibt bestehen. Insbesondere wird weder das Spannungsverhältnis zwischen Transparenzpflichten und der technischen Funktionsweise von KI-Systemen aufgelöst noch eine klare dogmatische Neubewertung des Widerspruchsrechts vorgenommen. Insoweit bleibt Rechtsunsicherheit bestehen und es verbleibt bei einzelfallbezogenen Abwägungen, insbesondere im Rahmen von Art. 21 DS‑GVO.

2. Zwischenergebnis

Die vorskizzierten beabsichtigten Änderungen der DS‑GVO greifen bekannte Spannungsfelder auf und setzen bei der datengetriebenen KI-Nutzung an. Einzelne Regelungsansätze bringen zwar auf den ersten Blick mehr Klarheit und kommen insbesondere KI-Entwicklern entgegen. Ihr Gehalt bleibt jedoch selektiv. Eine tiefergehende Klärung grundlegender Auslegungsfragen erfolgt nicht. Die bestehenden praktischen Herausforderungen im Datenschutzrecht im KIKontext werden damit im Kern fortgeschrieben.

Fazit

Das Training von LLMs mit öffentlich zugänglichen personenbezogenen Daten steht weiterhin im Spannungsverhältnis zwischen den Anforderungen der DS‑GVO und dem Interesse an technologischer Entwicklung. Art.  6 Abs.  1 lit.  f) DS‑GVO bildet zwar die zentrale Rechtsgrundlage für die Trainingsdatensammlung und das Modelltraining, ist jedoch mit erheblichen Unsicherheiten verbunden. Diese ergeben sich insbesondere aus der offenen Ausrichtung der Norm, die eine einzelfallbezogene Prüfung der Erforderlichkeit sowie eine umfassende Interessenabwägung verlangt. Gerade im Kontext umfangreicher Datenerhebungen und komplexer KI-Systeme ist der Umstand, dass die rechtliche Bewertung maßgeblich von den konkreten Umständen abhängt, nicht uneingeschränkt praxistauglich.

Die Entscheidung des OLG Köln verdeutlicht, dass eine innovationsfreundliche Auslegung der bestehenden Vorschriften der DS‑GVO grundsätzlich möglich ist. Sie trägt zur Konkretisierung einzelner Aspekte bei, lässt jedoch zentrale Fragen – etwa hinsichtlich der Reichweite der Datennutzung und der Erwartungen der Betroffenen – weiterhin offen.

Die Reformansätze des Digitalen Omnibus greifen die bestehenden Problemlagen zwar auf und zielen erkennbar auf eine Erleichterung datenintensiver Verarbeitungen im KI-Kontext ab. Insbesondere die vorgeschlagenen Anpassungen zu Art. 4, Art. 9 und die Schaffung von Art. 88c DS‑GVO-E stärken die Position der Entwickler und tragen zu einer gewissen Systematisierung bei. Gleichwohl bleiben sie in ihrer Wirkung begrenzt, da sie überwiegend punktuelle Klarstellungen enthalten und keine grundlegende dogmatische Klärung herbeiführen.^[100] Vielmehr besteht die Gefahr, dass zentrale Wertungsfragen – etwa zur Reichweite des Personenbezugs, zur Zulässigkeit sensibler Datenverarbeitung oder zur praktischen Durchsetzung von Betroffenenrechten – lediglich verlagert oder zugunsten der Datennutzung verschoben werden. Die zentralen Anwendungsschwierigkeiten der DS‑GVO werden durch den Digitalen Omnibus nicht behoben und der praktische Nutzen bleibt letztlich begrenzt.^[101]

Insgesamt zeigt sich, dass die DS‑GVO die Entwicklung von KI-Systemen nicht verhindert, diese jedoch mit komplexen Anforderungen und anhaltender Rechtsunsicherheit verbunden ist (und bleibt). Eine weitere Konkretisierung durch (höchstrichterliche) Rechtsprechung und Gesetzgebung bleibt daher erforderlich, um ein ausgewogenes Verhältnis zwischen Datenschutz und technologischer Entwicklung zu gewährleisten.