Am Mittwoch diskutierten wir beim #DigiTalk der Digital Society zum Thema „Demokratie – Künstliche Intelligenz (KI) – Social Media“.

Mit mir am Panel:
Julia Fuith ist Policy Advisor arbeitet am AI Act mit
Carina Zehetmaier leitet Women in AI Austria
Katja Mayer forscht zu zu KI-Themen an der Uni Wien
und ich: Barbara Wimmer schreibe über und recherchiere zu KI-Themen und Social Media

Hier eine kurze Zusammenfassung meiner Inputs:

• Welche Rolle spielen Social Media in der Gestaltung des öffentlichen Diskurses?

Wenn man sich ansieht, wo und über welchen Weg Menschen News konsumieren, die den öffentlichen Diskurs bestimmen, sind das vor allem bei jungen Menschen immer häufiger Social Media Kanäle. YouTube Videos werden aber durch Algorithmen selektiert und es gibt hier z.B. keine öffentlich-rechtlichen Auftrag und viele Influencer*innen gestalten Beiträge zwar nach bestem Wissen und Gewissen, es gelten dort aber keine journalistischen Kriterien (das heißt nicht, dass es nicht auch YouTuber gibt, die Journalismus machen oder den perfekt beherrschen!). 

Social Media trägt dazu bei, dass sich der Diskurs generell stark erhitzt. Es werden vor allem jene Postings angezeigt und vom Algorithmus nach vorne in die Newsfeeds gespielt, die Reizthemen aufgreifen und andere Menschen aufregen. Daher leben wir in einem Zeitalter der ständigen Aufgeregheit des öffentlichen Diskurses. Manchmal würde Entschleunigung und mehr Miteinander nicht schaden.

Natürlich haben Social Media Plattformen aber auch gute Seiten: Sie können Menschen sichtbar machen, die zuvor in der Gesellschaft unsichtbar waren und keine Stimme hatten. Man kann sich länderübergreifend miteinander vernetzen, wenn man die gleichen Interessen hat und der einzige Mensch in seinem Dorf mit diesen ist. Doch man muss eben auch darüber reden, dass die positiven Aspekte des Internets, wie wir uns es in den 1990er-Jahren vorgestellt haben, nicht zur Gänze eingetreten sind.

• Wie verändert sich unsere Wahrnehmung in Bezug auf Demokratie und Politik durch KI und die Social Media?

Tools wie ChatGPT, Midjourney und & Co, also generative KI können von Manipulator*innen gezielt verwendet werden, um die Verbreitung von Fake News zu beschleunigen, weil sich diese binnen Sekunden damit generieren lassen. Verbreitet werden sie im Anschluss über Social Media.

Der KI-Pionier Geoffrey E. Hinton warnte etwa vor kurzem:

„Chatsysteme (wie ChatGPT oder Bard) werden das Internet mit Falschinformationen überfluten und die Menschen sind nicht in der Lage, zu unterscheiden, was wahr oder was falsch ist,“ sagt er der New York Times. Andere Forscher*innen warnten davor bereits vor einigen Jahren, doch es hat sie damals niemand ernst genommen. Tun wir es jetzt? Nehmen wir es endlich ernst? Ich kann keine Schritte in diese Richtung erkennen.

Tatsächlich deckt sich das außerdem mit meiner bisher gemachten Erfahrung, dass Menschen nicht unterscheiden können, ob es sich um ein KI-generiertes Bild handelt oder nicht. Das wird auch immer schwieriger werden, je besser die KI-Systeme werden. Am Anfang konnten die ersten Bildgeneratoren etwa keine Finger richtig darstellen, doch mittlerweile sind sie darin auch brauchbar gut.

Sieht man auf einem Bild lediglich einen Kuchen, ist es vielleicht weniger dramatisch, wenn es sich um ein Fake Bild handelt – aber sieht man darauf etwa einen Bundeskanzler, der ein Kind schlägt, und das ist ein Fake Bild und es verbreitet sich wie ein Lauffeuer, könnten solche Dinge durchaus in der Lage sein, Wahlen zu beeinflussen…. 

Eine weitere große Gefahr, die völlig unterschätzt wird und praktisch nur von KI-Expertinnen adressiert wird, ist, dass KI-Systeme weitgehend für “neutral“ gehalten werden. Sie werden und wurden mit dem „Wissen der Welt“ gefüttert und trainiert und dieses Wissen ist „allmächtig“. Dabei hängt es ganz stark davon ab, worauf beim Trainieren der Fokus gelegt wurde: Was für Daten und wie waren diese gewichtet? Wer hat das System programmiert?

Wir dürfen das auf keinen Fall nur alten, weißen Männern überlassen und wir dürfen KI-Systeme nicht als neutral und allwissend ansehen, sondern wir müssen in der Lage sein zu reflektieren, woher die Daten kommen, um die Ergebnisse einordnen zu können. Ergo, wir müssen mitbestimmen, wie solche Systeme entwickelt werden. Aktuell kommen die „Big Player“ der KI-Systeme wieder aus den USA. Wollen wir wirklich, dass wieder KI-Systeme von Tech-Firmen unsere Sicht der Welt bestimmen, wie schon die Algorithmen von Social Media es taten? Haben wir denn gar nichts gelernt?