Sabine Pfeiffer – Digitalisierung als Distributivkraft

Vor ein paar Wochen dachte ich bei Mastodon laut darüber nach, ob wir als Gesellschaft überhaupt noch in der Lage seien, künstliche Intelligenz beziehungsweise Large Language Models objektiv einzuschätzen, nachdem wir in den vergangenen zehn Jahren mit Krypto und dem Metaverse schon in die eine oder andere Sackgasse hineinmanövriert wären.

Daraufhin wurde ich auf Digitalisierung als Distributivkraft hingewiesen, in dem Sabine Pfeiffer das Neue am digitalen Kapitalismus sucht. Das Buch – kostenlos als PDF und EPUB beziehbar – ist eine überaus zugängliche Analyse, die sich überwiegend des marxistischen Instrumentenkastens bedient, um das Thema mit hoher begrifflicher Schärfe anzugehen.

Dabei hätte ich es dem Werk sogar verziehen, hätte es sich gar nicht mit KI und LLM befasst, das tut es nämlich erst auf den letzten paar Seiten, dort aber mit imposanter Wucht. So warnt Pfeiffer vor einem „unbewusst destruktiven“ Einsatz von KI/ML, „der durch uninformierte Anwendung und einen unprofessionellen Umgang passiert und in bestimmter Hinsicht sehr spezifisch für KI/ML ist„.

Aus empirischen Beobachtungen betrieblicher Einsatzstrategien in deutschen Unternehmen lasse sich ein unbewusst destruktiver Einsatz von KI/ML beobachten,

• wenn die Schlichtheit des statistischen Modells völlig über- und der gewählte Anwendungskontext in seiner Komplexität gleichzeitig unterschätzt wird.
• Weil Kausalitäten unterstellt werden, obwohl es sich nur um Datenrauschen handelt.
• Weil Algorithmen, die in ihren Lernprozessen in die Mitte tendieren, sachlich relevante Beobachtungen als statistische Ausreißer aussortieren.
• Weil das Wissen um Skalenniveaus der Daten und um die Notwendigkeit von deren Passfähigkeit zum gewählten Algorithmus fehlt.
• Weil das Wissen um die Notwendigkeit der Passfähigkeit von beidem (Skalenniveaus der Daten und gewähltem Algorithmus) mit den sachlichen Gegebenheiten des Anwendungskontexts fehlt.
• Weil die Implementierung oft allein in die Hände von Informatik und Data Science gelegt wird, ohne die Expertinnen und Experten für den angezielten Anwendungskontext mit einzubeziehen.
• Weil Daten genutzt werden, nur weil sie vorhanden sind, ohne ihre Validität sachlich (statt nur mathematisch) zu hinterfragen.
• Weil die Daten selbst schon systematisch verzerrt sind und reale (erwünschte oder unerwünschte) Schieflagen in Gesellschaft oder im Anwendungskontext widerspiegeln und diese sich ohne ausgleichende Gewichtung in autonomen Verarbeitungsprozessen weiter verstärken.
• Weil die Daten eine weniger offensichtliche Verzerrung aufweisen, die sich aus der Leichtigkeit oder Erschwernis beim Sammeln der Daten faktisch ergibt und auf die bei unreflektiertem Einsatz dann nicht mal mit Gewichtung reagiert wird.
• Weil für viele KI/ML-Anwendungen noch völlig unklar ist, wie lange mit welchen Daten gelernt werden soll und ob das nur anfänglich oder dauerhaft und immer wieder aufs Neue passieren soll – und nach welchen Kriterien dabei entschieden wird.

Wie gesagt, eindrucksvoll. Das Buch gibt es hier zu beziehen.