Der Einsatz von Palantir Gotham aus technischer und rechtlicher Sicht
Die hessische Polizei arbeitet auf Basis einer Gesetzesklausel vor allem mit dem System Hessendata, das auf der Analysesoftware Gotham der umstrittenen US-Firma Palantir basiert. Die Befugnisse für die Ermittler in Hessen ließen – genauso wie die gleichzeitig für nichtig erklärten einschlägigen Vorschriften in Hamburg – die automatisierte Verarbeitung unbegrenzter Datenbestände mithilfe rechtlich unbegrenzter Methoden zu, rügte das Verfassungsgericht.
„Sie erlauben der Polizei so, mit einem Klick umfassende Profile von Personen, Gruppen und Milieus zu erstellen und auch zahlreiche rechtlich unbeteiligte Personen weiteren polizeilichen Maßnahmen zu unterziehen, die in irgendeinem Zusammenhang Daten hinterlassen haben, deren automatisierte Auswertung die Polizei auf die falsche Spur zu ihnen gebracht hat.“
Mit Systemen wie denen von Palantir werde der „heilige Gral“ der auch im Datenschutzrecht für die Polizei verankerten Zweckbindung „voll umgangen“, führte der GFF-Anwalt Jürgen Bering die in dem Urteil dargelegten Bedenken der Karlsruher Richter auf der Hackerkonferenz aus.
Eigentlich dürften etwa Daten, die Ermittler bei einer Telekommunikationsüberwachung zur Verfolgung einer schweren Straftat erhoben haben, nicht für ein Verfahren wegen Sachbeschädigung gegen den gleichen Verdächtigen verwendet werden.
Hessendata: Unbeteiligte weiter erfasst
Bei Hessendata & Co. flössen aber selbst Informationen aus den sehr breit angelegten Systemen zur Vorgangsbearbeitung meist ohne Kennzeichnung und ungeschwärzt in große Datentöpfe ein, sagte Bering. Eingeschlossen würden so neben Zeugen und anderen indirekten Verfahrensbeteiligten etwa auch Personen, die Auskunft über gespeicherte Informationen begehren, bei einer Verkehrskontrolle erfasst werden oder etwa eine Diebstahlsanzeige stellen. GOLEM
Möglichkeit automatisierter Totalüberwachung
per Mausklick
Der sehende Stein der Polizeibehörden
Der Markt von Palantir ist der öffentliche Sektor, längst in Europa und auch in Deutschland. Der umstrittene US-Softwareanbieter verarbeitet strukturierte und unstrukturierte Informationen aus Polizeidaten oder Patientendaten und versucht, sich unverzichtbar zu machen für die Behörden, mit denen er Verträge hat. In Deutschland steht Palantir allerdings eine Entscheidung des Bundesverfassungsgerichts im Weg, das erstmals über den Einsatz von heute gern als KI gehypter Software für Polizeidaten entschieden hat.
Der Vortrag behandelt vier Schwerpunkte:
1.: In welchen Bundesländern und zu welchem Zweck wird die Palantir-Software Gotham eingesetzt oder soll in Zukunft eingesetzt werden?
2.: Wie funktioniert die Software und welche Risiken bringt ihr Einsatz mit sich?
3.: Welche rechtlichen Einschränkungen gelten und wie könnten sie technisch umgesetzt werden?
4.: Hessen hat sein Gesetz aufgrund der Entscheidung des Bundesverfassungsgerichts angepasst. Stellt die Neuregelung für die Gotham-Software unter dem Namen „Hessendata“ wirklich eine Verbesserung dar?
Über mit dem Einsatz der Software verbundene Risiken – darunter Diskriminierung, Stigmatisierung, Datenschutz, IT-Sicherheit, Kontrollierbarkeit – sprechen Constanze Kurz (CCC), Simone Ruf und Jürgen Bering (beide Gesellschaft für Freiheitsrechte, GFF). Beide Organisationen waren am Verfahren vor dem BVerfG beteiligt: Die GFF hatte das Verfahren initiiert und der CCC wirkte als Sachverständiger mit. Media CCC
Siehe auch: STRAFNORM §353D GEFÄHRDET PRESSEFREIHEIT
Auch Landeskriminalamt Bayern schaffte still und heimlich Palantir-Analysesystem während der Pandemiezeit an
Das neue System verknüpft Daten aus verschiedenen Datenbanken und wertet sie automatisiert aus. Laut Angaben des BLKA soll es nur gegen Terrorismus und organisierte Kriminalität eingesetzt werden. Kritische Stimmen sprechen von einem Schritt in Richtung automatisierter Totalüberwachung.
Das „Verfahrensübergreifende Recherche- und Analysesystem“ (VeRA) könnte bereits in diesem Jahr zum Einsatz kommen. Doch nicht nur das: Bayern nimmt mit diesem Projekt eine Vorreiterrolle in Deutschland ein. Die Polizeibehörden der anderen Bundesländer könnten nun zügig nachrücken: „Die neue Software kann nicht nur in Bayern zum Einsatz kommen“, erklärte der BLKA-Präsident Harald Pickert. „Polizeien von Bund und Ländern haben jetzt die Möglichkeit, ohne zusätzliche aufwändige Vergabeverfahren dieses innovative Analysesystem zu nutzen.“
VeRA: ein „Massiver Eingriff in die Grundrechte vieler Menschen“
Kritik an dem neuen Analysesystem kommt von verschiedenen Seiten: So äußerte sich der bayerische Landesdatenschutzbeauftragte Thomas Petri laut Angaben der Deutschen Presseagentur (dpa) besorgt. Er sprach von einem „massiven Eingriff in die Grundrechte vieler Menschen“. Die sogenannten „Big Data“- und Datamining-Verfahren stellten einen noch erheblicheren Eingriff in die Privatsphäre der Bürger:innen dar. Perspektive-online-net
Siehe auch: Österreich – Ex-Kanzler Kurz wechselte zu Überwachungskonzern Palantir
–
Die Geheimdienst-Schnüffelsoftware von #Palantir wird auf die polizeilichen Daten der Deutschen losgelassen. Bayern ist nicht das erste Land, das eine #AI #Gotham-Lizenz erwirbt. #VeRA soll vorhandene Informationen aus verschiedenen Datenbanken verknüpfen. https://t.co/u9ix6dEyeG pic.twitter.com/uMyMSRK4TC
— Change-Awake (@ChangeAwake) April 10, 2022
