Im Abgeordnetenhaus von Berlin hat Meike Kamp, Berliner Beauftragte für Datenschutz und Informationsfreiheit (BlnBDI), heute ihren Jahresbericht für das Jahr 2024 vorgestellt. Der Bericht behandelt unter anderem Datenschutzfragen bei der Nutzung Künstlicher Intelligenz sowie Prüfverfahren zur Videoüberwachung an der Polizeiwache Kottbusser Tor und zum Einsatz von biometrischer Gesichtserkennung.
Biometrische Gesichtserkennung
Im Frühjahr 2024 wurde durch Medienberichte bekannt, dass die Berliner Staatsanwaltschaft in mehreren Verfahren ein Gesichtserkennungssystem im öffentlichen Raum eingesetzt hat. Zur Anwendung kam ein System von Kameras, das Personen verdeckt aus der Ferne erfassen und identifizieren kann. Es gleicht biometrische Merkmale wie Gesichtszüge automatisiert mit Bildern einzelner Personen ab. Die anschließende Prüfung ergab, dass die zugrundeliegende Rechtsgrundlage weder speziell den Einsatz solcher Systeme regelt noch die verfassungsrechtlichen Anforderungen erfüllt. Die Datenschutzbeauftragte hat die Staatsanwaltschaft gewarnt, dass ein zukünftiger Einsatz des Gesichtserkennungssystems gegen das Datenschutzrecht verstoßen würde. Zudem hat die Staatsanwaltschaft gegen das Datenschutzrecht verstoßen, indem sie keine Datenschutzfolgenabschätzung für das System erstellt hat und unzureichend mit der BlnBDI zusammengearbeitet hat.
Meike Kamp: „Der Einsatz von Gesichtserkennungssystemen durch Strafverfolgungsbehörden greift intensiv in das Grundrecht auf informationelle Selbstbestimmung ein. Biometrische Merkmale sind unveränderlich. Menschen können nicht einfach ihr Gesicht absetzen. Werden sie anhand ihrer biometrischen Merkmale in der echten Welt erfasst und identifiziert, schwinden jene Bereiche, in denen sie sich anonym und ohne Spuren zu hinterlassen bewegen können. Beim Einsatz solcher Systeme im öffentlichen Raum sind eine Vielzahl von unverdächtigen Personen betroffen. Die bestehenden gesetzlichen Regelungen bieten hierfür keine ausreichende Grundlage.“
Rechtswidrige Videoüberwachung an der Polizeiwache Kottbusser Tor
Im Jahr 2024 prüfte die Datenschutzbeauftragte zudem die Videoüberwachung der Polizeiwache am Kottbusser Tor. Die Dienststelle befindet sich in einem Gebäuderiegel über der Adalbertstraße. Zur Sicherung der Wache werden in der Unterführung Videokameras eingesetzt, die sowohl die Fußwege als auch die Fahrbahn der Adalbertstraße erfassen. Zusätzlich wird der Eingangsbereich auf der Fußgängerterrasse videoüberwacht.
Meike Kamp: „Die Videoüberwachung erfolgt ohne ausreichende Rechtsgrundlage und greift unverhältnismäßig in die Grundrechte von Passant:innen und Verkehrsteilnehmer:innen ein. Die Polizei hat bislang nicht ausreichend geprüft, ob die Sicherheit der Wache durch mildere Mittel wie baulichere Sicherungen oder den Einsatz von Personal erreicht werden kann. Bedenken habe ich insbesondere bei der Überwachung der Fußgängerterrasse, da sich dort auch Beratungseinrichtungen befinden. Den Hilfesuchenden muss ermöglicht werden, diese Angebote wahrzunehmen, ohne dass sie dabei gezwungen sind, sich der Videoüberwachung auszusetzen. Ich habe daher gegenüber der Polizei eine Mangelfeststellung ausgesprochen. Die Polizei ist aufgefordert, alternative Konzepte in Betracht zu ziehen, die einen schonenden Ausgleich zwischen Sicherheitsinteressen und Freiheitsrechten ermöglichen.“
Künstliche Intelligenz in Unternehmen und in der Verwaltung
Immer mehr Unternehmen setzen Anwendungen der Künstlichen Intelligenz ein. Inwiefern Berliner Unternehmen dabei die Datenschutzbestimmungen einhalten, prüft die BlnBDI derzeit in mehreren Verfahren. Im Fokus steht auch die Transparenz: Oftmals werden die betroffenen Personen bisher entweder gar nicht oder nicht ausreichend über die Verarbeitung ihrer Daten in KI-Systemen informiert:
- So hat ein Berliner Unternehmen seine gesamte Kundenkommunikation für das Training eines KI-Systems zur Bearbeitung von Kundenanfragen genutzt, ohne jedoch die Kund:innen auf diese Verarbeitung hinzuweisen.
- In einem anderen Fall bot eine Fotoplattform bereits ins Internet hochgeladene personenbezogene Fotos gegen Bezahlung unter anderem für das Training von KI-Modellen an, ohne darüber zu informieren.
Die jeweiligen Verfahren sind noch nicht abgeschlossen.
Meike Kamp: „Wer seine Kund:innen oder Beschäftigten nicht darüber informiert, dass ihre Daten in ein KI-System fließen, verstößt gegen die Informationspflichten der Datenschutz-Grundverordnung. In den nächsten Jahren werden wir unsere Prüfungen von KI-Systemen verstärken. Dabei liegt ein besonderes Augenmerk auf den technischen und organisatorischen Maßnahmen, die die Risiken für Betroffene minimieren, sowie auf den Diskriminierungen, die durch Verzerrungen in den Daten entstehen können.“
Auch in der Berliner Verwaltung soll mehr KI genutzt werden. Die Datenschutzbeauftragte unterstützt bei der datenschutzrechtlichen Bewertung von KI-Anwendungen durch juristische und technische Expertise, zum Beispiel durch die Beteiligung an der Taskforce KI der Senatskanzlei. „Angesichts der hohen Datenschutzrelevanz des Einsatzes von KI-Anwendungen für Bürger:innen und Beschäftigte setzen wir uns dafür ein, dass der Schutz personenbezogener Daten von vornherein Berücksichtigung findet“, sagt Meike Kamp.
Bußgeld wegen Sicherheitslücken in Praxismanagementsoftware
Bei einer Praxismanagementsoftware stellte die Datenschutzbeauftragte eine Reihe von Sicherheitslücken fest, die es unter anderem angemeldeten Patient:innen ermöglichte auf umfangreiche Daten anderer Patient:innen zuzugreifen. Durch einen weiteren Programmierfehler war es unberechtigten Dritten potenziell möglich, medizinische Dokumente einzusehen, die von den Arztpraxen an die Patient:innen übermittelt wurden. Infolge verhängte die Datenschutzbeauftragte ein Bußgeld von 60.000 Euro gegen den Anbieter.
Informationsfreiheit im Land Berlin
Kamp ist auch die Beauftragte für die Informationsfreiheit im Land Berlin und unterstützt Personen, die ihr Recht auf Akteneinsicht gegenüber öffentlichen Stellen wahrnehmen möchten. Im letzten Jahr zeigte sich erneut, dass einige Verwaltungen der Informationsfreiheit noch immer eine geringe Bedeutung beimessen und sie nicht als eigenständige öffentliche Aufgabe verstehen. „25 Jahre nach Inkrafttreten des Berliner Gesetzes sollten Behörden die Informationsfreiheit nicht als Bürde, sondern als originäres Aufgabengebiet betrachten und behandeln“, sagt Meike Kamp.
Beratung und Bildungsangebote
Um es erst gar nicht zu Datenschutzverstößen kommen zu lassen, wendet die Datenschutzbeauftragte viel Zeit für die Beratung, Schulung und Sensibilisierung zum Datenschutz auf. Im letzten Jahr hat sie sich beispielsweise an der Entwicklung des digitalen Datenschutzwegweisers für Kitas beteiligt und die Erarbeitung von verschiedenen Handlungsleitfäden zum Kinderschutz begleitet. Mit den Materialien werden Fachkräfte unterstützt, die Datenschutzbestimmungen kompetent umzusetzen und die Rechte der Kinder konsequent zu wahren. Für Vereine, Start-ups und Kleinunternehmen bot sie die kostenlosen Schulungen der Starthilfe Datenschutz an, in denen die Grundlagen des Datenschutzes vermittelt werden. Auch an Schulen war die Datenschutzbeauftragte 2024 wieder präsent: In knapp 40 Workshops an Grundschulen klärte sie Schüler:innen über ihre Rechte, den verantwortungsvollen Umgang mit Medien und die Auswirkungen der Nutzung Künstlicher Intelligenz auf.
Statistik: Höchststand an Eingaben und Datenpannen
Im Jahr 2024 erreichte die Behörde ein neuer Höchststand an Eingaben von Bürger:innen: In Summe wandten sich Betroffene in 6.063 Fällen mit einer Beschwerde oder Beratungsanfrage an die Berliner Datenschutzbeauftragte. Einen neuen Rekord gab es auch bei den Datenpannen: Insgesamt meldeten private und öffentliche Stellen 1.262 Datenpannen – das sind mehr als drei am Tag. Die Behörde hat 104 Verwarnungen und 164 Geldbußen in Höhe von insgesamt 80.190 Euro erlassen.
Der vollständige Jahresbericht ist ist hier abrufbar.