Rückblick – Vorträge auf der GPN23

Die 23. Gulaschprogrammiernacht (GPN) in Karlsruhe ist gerade zu Ende gegangen und wieder gab es auf dieser Hacker:innen Konferenz – teilweise mit Unterstützung der Rosa-Luxemburg-Stiftung Baden Württemberg – einige hochkarätige Vorträge zu Themen die auch uns als AG Kommunal.Digital in Potsdam oder LAG Netzpolitik im Land sowie im Ausschuss für Digitalisierung und Verwaltungsmodernisierung beschäftigen.

Nach einer kurzen Sichtung möchten wir Euch dabei vor allem die folgenden Talks ans Herz legen:

Stefan Kaufmann: „Entzaubert generative KI – …warum der Staat auf Linked Data setzen sollte statt auf IT-Alchemie.“

Wenn man nur einen Hammer hat, sieht alles aus wie ein Nagel – so fühlt es sich manchmal an, wenn man die Begeisterung rund um „KI“ betrachtet. Gemeint ist dabei fast immer nur der Teilbereich generativer KI, die mit stochastischen Methoden plausible Ergebnisse produzieren soll. Links liegen bleibt dagegen „Good Old-Fashioned AI“, also regel- und logikbasierte Systeme, die mit semantischen Daten deterministische Schlüsse ziehen, ganz ohne Konfabulationen. Wer diesen Weg begeht, schafft gleichzeitig die Voraussetzungen für mehr Transparenz, Open Data und solide IT-Basisinfrastruktur. Prolog statt Chatbot, Daten statt Office-Dokumente – wir schlagen einen kleinen argumentativen Werkzeugkasten vor, wie wir als Community für solide, abgehangene IT-Lösungen auf dem Stand der Zeit bei Stadt, Land und Bund werben können anstatt für generativen KI-Budenzauber.

Wer auf öffentlichen Bühnen „KI“ sagt, meint gerade viel zu häufig einfach nur das Teilgebiet der generativen Systeme, mit hohem Energieaufwand und einer Schleppnetzrunde durch die Inhalte des Web trainiert. Das User Interface und die Ergebnisse dieser Systeme wirken faszinierend, sie werden häufig anthropomorphisiert als seien sie Personen, und in der öffentlichen Debatte haben sie den Rang eingenommen, den vor sieben Jahren noch Blockchains haben – egal welches Problem, generative KI ist die Lösung.

GenAI ist aber nur ein Teilgebiet von zwei historischen Strömungen im Forschungsfeld KI. Die andere Strömung, symbolische KI oder GOFAI („Good Old-Fashioned AI“) kommt vergleichsweise bescheiden daher: Daten und Wissensbestände sollen so aufbereitet werden, dass sie maschinell nach logischen Regeln ausgewertet werden können. Auch Prolog ist also „KI“, nur weiß das spätestens auf politischer Ebene kaum jemand mehr!

Der einseitige Fokus auf generative Systeme hat aber absurde Seiteneffekte und Folgen vor allem für den Staat, der gerade genAI an allen möglichen passenden und vor allem unpassenden Stellen einzusetzen versucht. Denn ein heuristisches System ist zwar ausreichend, wenn es zum Beispiel darum geht, auf einem Bild einen Apfel zu erkennen. Für eine Verwaltung, die nach Regeln vorgehen und Gleiches stets gleich behandeln muss, sind regelmäßige stochastische Fehler aber nicht akzeptabel – ganz zu schweigen von den Seiteneffekten rund um Energieverbrauch und strategischen Abhängigkeiten.

Wir möchten einen kleinen Werkzeugkasten vorschlagen, mit dem Du genAI-Projekte zerfragen und auf die strategischen Vorteile von Wissensgraphen und regelbasierten Systemen hinweisen kannst – und mit dem Du auch deine örtlichen GemeinderätInnen und Abgeordneten in die Lage bringen kannst, das zu tun. Denn vieles hängt einfach nur daran, Informationen nicht mehr in Office-Dokumenten (der „Käfighaltung für Daten“), sondern in Wissensgraphen zu speichern. Oder mit kleinen ETL-Skripten viel mehr Wiederverwendbarkeit und auch Open Data schaffen zu können als mit einem teuer beauftragten genAI-Projekt.

Denn für viele vorgeschlagene Einsatzfelder gäbe es schon längst Lösungen, basierend auf abgehangener und bewährter Technologie – und gar nicht selten als Freie Software aus der digitalen Zivilgesellschaft entwickelt, die seither einfach ignoriert wurde.

Licensed to the public under https://creativecommons.org/licenses/by/4.0/

Jürgen Geuther: „Against Tech-Fascism“

Der Faschismus ist zurück, überall auf der Welt. Trump, Modi, Orban, AfD. Aber es gibt auch eine neue Form des Faschismus, der uns viel näher ist: Der Tech-Faschismus.

Doch es greift zu kurz auf Elon Musk oder Peter Thiel zu blicken. Tech-Faschismus durchsetzt unseren technischen wie auch politischen Stack von oben bis nach ganz unten.

Was genau charakterisiert den Tech-Faschismus, wie beeinflusst er unsere digitale Lebensrealität auch in der scheinbar sicheren Open Source Bubble? Und wie können, müssen wir uns ihm alle entgegenstellen?

Ein Weckruf.

In dieser Session soll „Tech-Faschismus“ etwas klarer umrissen werden: Wie unterscheidet er sich vom klassischen Faschismus, was genau definiert ihn? Und wie wirken diese Denkmuster auf unseren digitalen Systeme?

Der Talk teilt sich in zwei Teile:
– erst wird das Konzept theoretisch gefasst
– dann versucht es an konkreten Artefakten und Strukturen festzumachen
– und schließlich Wege des Widerstands aufzuzeigen

Dieser Vortrag findet in Kooperation und mit Unterstützung der Rosa-Luxemburg-Stiftung Baden-Württemberg statt.

Licensed to the public under https://creativecommons.org/licenses/by/4.0/

Anne Roth: „Digitale Gewalt gegen Frauen“

Die digitale Seite der sog. häuslichen Gewalt hat viele Facetten: Sie reichen von heimlichen Kameras über Stalkerware bis zur Überwachung smarter Geräten. Dieser Talk gibt einen Überblick über Formen, Ausmaß und politische Reaktionen.

Digitale Gewalt findet nicht nur auf Plattformen statt, sondern in Partnerschaften und Ex-Partnerschaften, durch Bekannte und Unbekannte, unter Kolleg*innen, in Familien oder Nachbarschaften. Digitale Technologien werden für alle denkbaren Formen der Manipulation und Kontrolle benutzt: Mitlesen von E-Mails, sichtbare und unsichtbare Kameras in öffentlichen und privaten Räumen, AirTags in Spielzeug, Handtaschen, Fahrzeugen. Spyware wird nicht nur von autokratischen Regimes eingesetzt, sondern auch zur Überwachung der eigenen Familie.
Techniknutzung ist – leider – noch immer stark geschlechtsspezifisch verschieden. Und auch Gewalt im sozialen Nahraum wird in der Mehrzahl der Fälle von Männern verübt. Das ergibt eine gefährliche Mischung, über die wenig gesprochen wird.

Die letzte Bundesregierung hatte sich vorgenommen, ein Gesetz zum Schutz vor digitaler Gewalt zu verabschieden, aber passiert ist nichts. Die neue Koalition wird eine EU-Richtlinie umsetzen müssen, die viele Vorgaben zum Thema digitale Gewalt macht. Damit hier keine Klarnamenspflicht und keine Datenspeicherung auf Vorrat um die Ecke biegt, sollten wir genau hinschauen.

Dieser Talk findet in Kooperation und mit Unterstützung der Rosa-Luxemburg-Stiftung Baden-Württemberg statt.

Alle Talks findet ihr unter: https://media.ccc.de/c/gpn23.