Ein kritischer Blick auf die Macht der Algorithmen

Bitte beachten Sie das Update ganz unten!

Algorithmen großer Konzerne beherrschen immer mehr unseren Alltag und das Problem mit fehlerhaften Algorithmen betrifft daher viele Handels- und Soziale-Netzwerk-Plattformen. Ich bezeichne die Handelsplattform, die gerade mein Buch für Werbung ausgeschlossen hat, in meinem Beitrag nur allgemein als Plattform.

Vom Werbeverbot betroffen ist mein Jugendbuch Die Jagd nach dem geheimnisvollen Illuminati-Auge. Dieses Buch ist der zweite Teil einer Jugendbuchreihe.

Die Plattform nutzt eine Kombination aus Algorithmen und menschlicher Moderation, um Werbeinhalte zu überprüfen. Wenn der Algorithmus zufriedengestellt wurde, kann ein Buch sehr schnell zur Werbung zugelassen werden, doch fällt dem Algorithmus etwas auf, kommt es zur menschlichen Überprüfung.

Meine Werbeanzeigen wurden nach wenigen Minuten genehmigt und geschaltet – doch nicht die für das “Illuminati-Auge”. Hier zog sich der Genehmigungsprozess mehrere Tage hin – bis zur Ablehnung nach menschlicher Überprüfung. Die knappe Begründung: Inhalte, die umstrittene oder stark diskutierte soziale Themen behandeln, sind nicht gestattet.

Doppelmoral und Willkür

Ein Buch, das sich gegen Rechtsterrorismus richtet, darf nicht beworben werden, während zahlreiche andere Werke, die weitaus krassere Themen behandeln, scheinbar problemlos durch die Prüfung kommen? Warum trifft es ein Buch, das jungen Lesern hilft, die Gefahren von Rechtsextremismus zu verstehen, während gewaltverherrlichende Thriller oder explizite Romane beworben werden können?

»Schwarze sind dümmer als Weiße!«, schrie Jäger.
»Die Hautfarbe ist nur eine genetische Anpassung an die Intensität der Sonneneinstrahlung«, entgegnete die KI. »Ich konnte bei meiner Recherche keine wirklich bedeutenden genetischen Unterschiede bei den Volksgruppen auf der Erde finden.«
Jäger verdrehte die Augen.
»Alternativ zu Herkunft oder Hautfarbe könnte ich einfach alle Menschen töten, die unterhalb eines bestimmten IQ sind«, fuhr die KI fort, »dann würden aber auch viele Weiße dran glauben. Es ist effizienter, alle Menschen zu töten und mit künstlichen Intelligenzen neu anzufangen.«

Auszug aus “Die Jagd nach dem geheimnisvollen Illuminati-Auge”

Und was genau sind “umstrittene soziale Themen” eigentlich? Das könnte ja fast alles sein, je nach dem aktuellen Zeitgeist. Eine so schwammige Bezeichnung ist nicht nur anfällig für Fehlinterpretationen, sondern auch für reine Willkür.

Warum jetzt?

Die Entscheidung, Bücher mit solchen Themen abzustrafen, ist besonders brisant, da sie zu einer Zeit kommt, in der weltweit politische Entwicklungen in eine besorgniserregende Richtung gehen. In den USA werden gerade Demokratie und Rechtsstaat zerstört – und in Deutschland entwickelt sich eine extrem rechte Partei zur stärksten Kraft im Land. Der Rechtsextremismus ist auf dem Vormarsch, und genau jetzt wird ein Buch, das junge Menschen für diese Gefahr sensibilisieren soll, quasi zensiert?

Wer entscheidet, was Jugendliche lesen dürfen?

Die Ablehnung der Werbeanzeige für dieses Buch zeigt, wie intransparente Moderationsrichtlinien dazu führen können, dass wichtige Themen aus dem öffentlichen Diskurs verschwinden. Es stellt sich die Frage, ob die Plattform mit dieser Entscheidung wirklich im Interesse der jungen Leser handelt – oder ob hier Algorithmen und fragwürdige Moderationsrichtlinien eine Form der folgenschweren Zensur betreiben.

Fazit

Leider kommen Buchverlage nicht um diese mächtige Plattform herum. So lange das so ist, werden wir damit leben müssen, dass Bücher ohne detaillierte und nachvollziehbare Begründung nicht beworben und damit auch nur noch schwer gefunden werden können.

Viele von Werbeverboten betroffene Autoren und Verlage werden das hinnehmen und sich im schlimmsten Fall an den großen US-Filmstudios orientieren und zukünftig keine umstrittenen sozialen Themen mehr behandeln. In einer nach rechts driftenden Gesellschaft schwindet ja leider auch der Markt für kritische Literatur, so wird ein langsames Verschwinden solcher Bücher immer wahrscheinlicher – und das algorithmische Niederdrücken dieser Bücher als moderne Form der Bücherverbrennung gibt ihnen den Rest – ganz ohne offizielle Verbote.

Für unser aller Zukunft hoffe ich, dass wir uns als Gesellschaft endlich wirksam gegen intransparente Algorithmen wehren und vorhandene Gesetze auch umsetzen.

Bis das geschieht, schalte ich auf der betreffenden Plattform Werbung für Teil 3 meiner Jugendbuch-Reihe. In dem Buch geht es um die viel zu große Macht der Algorithmen – und ich hoffe, dass die Algorithmen der Plattform das so bald nicht merken.

Update: Der menschliche Support genehmigt den Titel

Eine mehrere Wochen dauernde Anfrage beim Support, die auch zu einem internen Ticket geführt hat, hat am Ende zur Genehmigung des Titels geführt. Die Frage nach Details, die zur ursprünglichen Ablehnung geführt haben, wurde jedoch nicht beantwortet. Da vom Support ein mögliches technisches Problem vermutet wurde, könnte es sich tatsächlich um einen Fehler im Algorithmus gehandelt haben, der zu schnell von vorherigen menschlichen Prüfern abgenickt wurde.

Was auch immer die Ursache für die Ablehnung ist, es ist jedem Fall sinnvoll, in solchen Fällen sachlich und freundlich nachzufragen, notfalls mehrmals. Es kann jedoch lange dauern, bis das Problem gelöst wird, und dabei bleibt man immer abhängig von den aktuellen Launen des Algorithmus und seines späteren menschlichen Prüfers.