Kleine Anfrage – 25/SVV/0421 – Einsatz von künstlicher Intelligenz in der Wohngeldstelle

Anlass des Auskunftsersuchens gem. § 29 Abs. 1 BbgKVerf.:
Die Landeshauptstadt Potsdam erprobt derzeit in einem Pilotprojekt den Einsatz von künstlicher Intelligenz in der Wohngeldstelle. Ziel sei es, dadurch die Bearbeitung von Anträgen zu beschleunigen. Dabei werden wohl reale, aber bereits abgeschlossene Wohngeldfälle genutzt. Auch wenn keine Entscheidung automatisiert getroffen werden, ist die Verwendung echter personenbezogener Daten in Verbindung mit KI-gestützten Verfahren rechtlich und ethisch sensibel. Besonders die Anforderungen des AI Act, der DSGVO und verwaltungsrechtliche Grundsätze zur Transparenz und Nachvollziehbarkeit müssen beachtet werden.

Ich frage den Oberbürgermeister:
1. Welche KI-Technologie wird im aktuellen Pilotprojekt zur Antragsbearbeitung eingesetzt und erfolgt die konkrete Anwendung in der Wohlgeldstelle?

2. Wie wurde die Risikoeinstufung des Systems gemäß den Anforderungen des AI Act vorgenommen, insbesondere welche Maßnahmen zur Sicherung von Transparenz, Nachvollziehbarkeit und menschlicher Kontrolle wurden getroffen?

3. Welche Datenschutzrechtlichen Vorkehrungen wurden getroffen, um sicherzustellen, dass die Nutzung realer Wohngeldfälle mit der DSGVO vereinbar ist, insbesondere in Bezug auf Zweckbindung, Datenminimierung und mögliche Re-Identifizierbarkeit?

4. Wie wird ausgeschlossen, dass die Ergebnisse des Pilotprojektes bereits in die laufende Antragsbearbeitung oder die Bewertung von Antragssteller:innen einfließen, obwohl es sich um ein Testsystem handelt?

5. Wie und in welchem Umfang wurden die Stadtverordnetenversammlung, der Personalrat, die behördlichen Datenschutzbeauftragten sowie zivilgesellschaftliche Organisationen über das Projekt informiert und in die Bewertung einbezogen?