„Chatkontrolle“ und Gesichtserkennung: Wie viel darf der Staat mitlesen und erkennen?

Worum es geht

Zwei Debatten drehen sich um dieselbe Frage: Wie viel darf der Staat mitlesen und erkennen? Bei der „Chatkontrolle“ geht es darum, private Nachrichten automatisch nach Darstellungen sexuellen Kindesmissbrauchs zu durchsuchen. Bei der Gesichtserkennung darum, Menschen biometrisch zu identifizieren, im Internet oder per Kamera im öffentlichen Raum. Beide sollen Sicherheit schaffen, beide greifen in die Privatsphäre ein.

Der Zielkonflikt ist echt, und mehrere Dinge sind gleichzeitig richtig: Der Missbrauch von Kindern im Netz ist ein reales Problem, das in einzelnen Bereichen wie der Anbahnung stark zunimmt. Zugleich produziert automatische Erkennung viele Fehltreffer, und flächendeckendes Scannen erfasst die Kommunikation aller. Drei Fragen führen durch den Beitrag: Wie viele Fälle werden gemeldet, und wie gut findet die Technik sie? Was ist erlaubt, was verboten? Und wie wird darüber gestritten?

„Chatkontrolle“: wie viele Meldungen, wie treffsicher?

Ein erster Anhaltspunkt sind die Meldungen, wobei ihre Zahl das Melde- und Erkennungsverhalten der Plattformen abbildet und kein direktes Maß der tatsächlichen Verbreitung ist. Beim US-Zentrum NCMEC, an das Plattformen weltweit Verdachtsfälle melden, gingen 2023 rund 36 Millionen Hinweise ein, 2024 waren es 20,5 Millionen und 2025 rund 21,3 Millionen. Der Rückgang 2024 bedeutet aber nicht weniger Missbrauch, sondern hat zwei technische Ursachen: NCMEC bündelt seit 2024 Mehrfachmeldungen, und Meta hat seine Messenger verschlüsselt, wodurch dort nicht mehr automatisch gescannt wird. In einzelnen Deliktfeldern steigen die Meldungen dagegen rasant: Die NCMEC-Kategorie Online-Anbahnung (einschließlich „Sextortion“) stieg von 44.000 (2021) über 186.000 (2023) auf 546.000 (2024) und rund 1,4 Millionen (2025); der Anstieg ab 2024 spiegelt allerdings auch neue Meldepflichten wider, während die 2024 geänderte Zählweise die Zahlen eher senkt.

Doch wie treffsicher ist die automatische Erkennung? Das hängt stark davon ab, was gesucht wird, und die Werte stammen aus verschiedenen Systemen und Metriken und sind nicht direkt vergleichbar. Der Abgleich bereits bekannter Darstellungen über digitale Fingerabdrücke (Hashes) gilt als vergleichsweise präzise. Was gemeldet wird, ist damit aber noch nicht strafbar: In der Schweiz gehen pro Jahr rund 10.000 Meldungen aller Art bei der Schweizer Bundespolizei ein; nur etwa 15 Prozent erweisen sich — über alle Meldetypen hinweg, nicht nur beim Hash-Abgleich — als strafrechtlich relevant, der Großteil ist es nicht (etwa Urlaubsfotos). Schwieriger als der Abgleich bekannter Bilder ist die Suche nach unbekanntem Material und nach Anbahnung in Texten: Für die Grooming-Erkennung nennt die EU-Folgenabschätzung eine Genauigkeit von rund 88 Prozent (die Bezugsgröße bleibt dabei unklar). Die Angabe geht auf ein Erkennungswerkzeug von Microsoft zurück; das Unternehmen selbst hat den Wert aber als unzuverlässig bezeichnet. Kritiker warnen, dass sich bei Milliarden Nachrichten schon geringe Fehleranteile zu vielen Fehltreffern summieren, die Unbeteiligte belasten und Ermittler binden; Befürworter halten dagegen, dass ohne Suche viele Fälle unentdeckt blieben.

Politisch ist die Chatkontrolle in der Schwebe. Der Ministerrat strich Ende 2025 auf Druck einer von Deutschland geführten Sperrminorität die Pflicht zum Scannen vor der Verschlüsselung. Im Europäischen Parlament scheiterte am 9. Juli 2026 ein Einspruch gegen die Fortführung: Er verfehlte mit 314 Stimmen die nötige absolute Mehrheit von 361. Die freiwillige Suche in unverschlüsselten Inhalten läuft damit bis 2028 weiter, verschlüsselte Dienste wie Signal, Threema und WhatsApp bleiben ausdrücklich ausgenommen. Über die dauerhafte Verordnung mit möglichen Aufdeckungspflichten verhandeln Rat, Parlament und Kommission weiter.

Gesichtserkennung: was erlaubt ist, und wie genau sie ist

Bei der biometrischen Überwachung zieht die EU eine klarere Linie. Seit Februar 2025 verbietet die KI-Verordnung (AI Act) die Echtzeit-Gesichtserkennung im öffentlichen Raum zur Strafverfolgung grundsätzlich, mit eng begrenzten Ausnahmen wie Terrorabwehr, der Suche nach Opfern von Menschenhandel oder Vermissten und der Fahndung nach Verdächtigen schwerer Straftaten, und nur mit richterlicher Genehmigung. Das ungezielte Absammeln von Gesichtsbildern aus dem Netz ist sogar ausnahmslos verboten; diese Regel zielt direkt auf Dienste wie Clearview AI oder PimEyes.

Deutschland geht einen anderen Weg. Das Kabinett beschloss Ende April 2026 ein Sicherheitspaket, das BKA und Bundespolizei erlauben soll, Fahndungsfotos mit öffentlich zugänglichen Bildern aus dem Internet abzugleichen; hinzu kommen automatisierte Datenanalyse und KI-Training mit Personendaten. Rechtlich ist die Abgrenzung zum AI Act umstritten: Dieser verbietet das ungezielte Absammeln von Gesichtern zum Aufbau von Datenbanken, während die Bundesregierung einen zielgerichteten Abgleich konkreter Fahndungsfotos vorsieht. Kritiker wie die Datenschutzkonferenz des Bundes und der Länder halten die Befugnisse „in der vorgesehenen Form“ für nicht mit der Verfassung vereinbar und sehen die Grenze zum verbotenen Scraping verwischt. Verabschiedet ist das Paket noch nicht.

Und wie genau ist Gesichtserkennung überhaupt? Unter guten Bedingungen sehr, aber nicht für alle gleich. Eine vielzitierte NIST-Studie von 2019 fand bei den meisten Systemen deutliche demografische Unterschiede: Falsch-Positive traten bei asiatischen und afroamerikanischen Gesichtern je nach Algorithmus 10- bis 100-mal häufiger auf als bei weißen, bei Frauen häufiger als bei Männern; die laufenden NIST-Auswertungen zeigen für die genauesten Systeme inzwischen kleinere Abstände. Ein Fehlalarm bei der Fahndung trifft damit nicht alle Gruppen gleich wahrscheinlich.

Wie darüber gestritten wird

Der Streit entzündet sich weniger am Ziel als an Mittel und Maß: Welcher Sicherheitsgewinn rechtfertigt welchen Eingriff, und wer trägt das Risiko der Fehler? Die folgenden Stimmen spannen das Feld auf.