Hernán Cortés versenkt seine Schiffe, Gemälde von Rafael Monleón y Torres (1887)

Am Donnerstag Dr. Markus Richter, Staatssekretär im Bundesministerium für Digitales und Staatsmodernisierung, bei seiner Keynote zum zweiten Tag des 21. BSI-Sicherheitskongresses in Bonn zuzuhören, war eine sehr unangenehme Erfahrung. Eine Erfahrung, die mich frustriert und wütend gemacht hat. In seiner Rede beweihräucherte Richter das BSI und sein eigenes Ministerium und berichtete begeistert davon, wie man in der deutschen Verwaltung gerade „Agentic AI“ in die Arbeitspraxis einbaue und wie toll das sei. Man habe sogar in Dubai gerade einen Preis dafür bekommen — ein Novum für Deutschland. Ach wie schön! Gerade in Dubai, diesem leuchtenden Fixstern der Demokratie!¹

Deutschland zerstört sich gerade selber. Unser, vor allem in der eigenen Inlands-Gesellschaft vorangetriebener Ruf als hoffnungslos dem Luddismus verfallene Hinterwäldler aus Neuland, die für immer neue Trends der Digitalisierung verschlafen, hat uns — und vor allem unsere Politiker — so verstört, dass sie nun in einer Art Wahnsinn sofort alles Neue immer gleich umsetzen wollen, gefangen sind. Menschen wie Richter freuen sich so, dass Deutschland endlich einmal technologisch wieder ganz vorne ist, dass sie gar nicht auf die Idee kommen die Frage zu stellen, ob die Technik, bei der es dabei geht, überhaupt wünschenswert ist.

Unsere Politiker sind von einer Art Stockholmsyndrom befallen, wenn es ums Silicon Valley geht. Die Scham, hier in Europa keinen eigenen Super-Bullshit-Generator wie die Tech-Branche in den USA zu haben, hat dazu geführt, dass wir den Tech-Trickbetrügern jetzt jeden Scheiß abkaufen, um bloß die Ersten zu sein, die den Müll einsetzen. "Einmal auch zu den coolen Kids gehören" — das ist im Kern die Digitalpolitik der Bundesregierung.

Richter und seine Kollegen verhalten sich wie ein Apple-Fanboy, der Zombie-mäßig viel Geld für das neue iPhone auf den Tisch legt, obwohl er beim letzten Mal — "You’re holding it wrong" — eindeutig von Steve Jobs erst verarscht und dann auch noch erniedrigt wurde. Anstatt nach all dem gesellschaftszersetzenden Kram, der in den letzten Jahrzehnten aus dem Silicon Valley zu uns geschwappt ist — Massenüberwachung, algorithmengesteuerte Verblödung, Doom-Scrolling, unglaubliche Verschwendung von Ressourcen durch den Zwang, alle zwei Jahre neue Geräte ohne echte neue Funktionen zu kaufen — zu hinterfragen, setzen wir noch eins drauf und alles was uns interessiert, ist, wieweit vorne wir beim nächsten gesellschaftszerstörenden Trend mit dabei sind. Tolle Wurst!

So faselt Richter dann auch von „sicherer“ KI und „Agenten“, die sich untereinander austauschen, wo der eine dann sehen kann, dass sein Agenten-Kollge „der ist, der sich mit Datenschutz auskennt.“ Das ist alles Blödsinn. Und es zeugt von gefährlicher Unwissenheit, die anscheinend auch im Bundesministerium für Digitales und Staatsmodernisierung vorherrscht. Leute, die wirklich Ahnung von dieser Technik haben, wissen, dass es Wahnsinn ist, sensible Daten in ein LLM zu stecken, dass mit Daten trainiert wurde, die so unglaublich umfangreich sind, dass man sie nicht überblicken kann. Was wiederum bedeutet, dass man ihnen unmöglich vertrauen kann. Wenn man diesen LLMs dann noch die Möglichkeit gibt, zu kommunizieren (der Grundstein dessen, was Menschen wie Richter als la „Agentic AI“ bezeichnen), dann ist es kurz vor zwölf. Denn wenn es diese Agenten schaffen, irgendwie ins öffentliche Netz zu kommunizieren, zum Beispiel über einen Menschen vor der Tastatur, der nicht versteht, was da gerade vorgeht, dann ist es mit dem Datenschutz für immer dahin.

Die Technik, von der Richter in seiner Keynote da faselte, von der er so begeistert ist und die wir in Deutschland anscheinend gerade in unsere Verwaltung integrieren, hat ein paar deutliche Schwachpunkte:

1. Es ist bisher nicht bewiesen, dass sie uns produktiver macht. Oder dass sie überhaupt irgend etwas macht, außer dem Nutzer ein gutes Gefühl zu geben.
2. Diese Technik produziert bewiesener Maßen ständig Fehler. Schlimmer noch: Sie lügt ihre Nutzer aktiv an.
3. Wir verstehen diese Technik nicht. Selbst die Menschen, die diese Systeme bauen, geben offen zu, dass sie nicht komplett verstehen wie diese Algorithmen in der Gänze funktionieren. Es ist unmöglich, eine Technik, die man nicht versteht, abzusichern. Dass KI-Agenten nicht sicher sind, ist offensichtlich.
4. Da diese Systeme nicht abgesichert werden können, ist belastbarer Datenschutz im Rahmen solcher Systeme momentan unmöglich.

Kann mir jetzt noch einmal jemand erklären, warum es gut sein soll, dass wir so etwas in unsere Verwaltung einbauen?

Wirklich, man bekommt Angst, wenn man diesen Menschen zuhört. 95% vom dem was sie reden ist heiße Luft und sie reden anscheinend den ganzen Tag. Richtig gearbeitet wird in diesen Behörden scheinbar nicht. Und jetzt wollen diese Leute, dass KI ihnen auch noch den letzten Rest der Arbeit, die sie ab und zu dann doch mal leisten müssen, abnimmt? Damit sie noch mehr labern und sich gegenseitig feiern können?

↵ Zurück zur Homepage