Neuer Trendreport der BAG "gegen Hass im Netz" veröffentlicht
Letzte Woche hat die Bundesarbeitsgemeinschaft (BAG) "Gegen Hass im Netz" ihren mittlerweie siebenten Trendreport veröffentlicht. Die neue Analyse zeigt, welche gesellschaftlichen, rechtlichen und technischen Aspekte in der Debatte über künstliche Intelligenz wichtig sind und untersucht, welche Rolle KI-Bilder aktuell in rechtsextremen Telegram-Kanälen spielen.
Insbesondere bei bildbasierten Plattformen könnte KI zukünftig eine größere Rolle spielen, und klare Regulierungen zum Schutz demokratischer Prozesse sind dringend erforderlich. Das und mehr ist Thema der heute veröffentlichten Ausgabe des Trendreports Machine Against the Rage.
Seitdem Bild-Generatoren als Anwendung generativer Künstlicher Intelligenz auf den Markt gekommen sind, gehen viele davon aus, dass Bilder quasi nur noch damit produziert würden – und zum anderen, dass all diese Bilder einen bleibenden Eindruck hinterließen. Obgleich generative KI zweifellos eine disruptive Wirkung darauf hat, wie Inhalte in der Informationsgesellschaft produziert und verarbeitet werden, sind Vermutungen über ihre Erstellung, Verbreitung und Wirkung (bislang) größtenteils nur Thesen. Welche Bilder tatsächlich eine Spur hinterlassen, hängt von vielen Faktoren ab, nicht nur davon, ob sie täuschend (echt) aussehen. Zumal KI-generierte Bilder heute noch vielfach Fehler aufweisen.
In der Diskussion rund um das Manipulationspotential solcher Bilder wird ihre technische Raffinesse oftmals mit Wirkungskraft verwechselt. Und so beweisen die Worte der Schriftstellerin Bertha von Suttner ihre Zeitlosigkeit, wenn es darum geht, was Menschen wirklich beeinflusst: »Man trägt doch eine eigentümliche Kamera im Kopfe, in die sich manche Bilder so tief und deutlich einätzen, während andere keine Spur zurücklassen.« Die aktuelle Ausgabe von Machine Against the Rage widmet sich solchen Spuren im digitalen Bildermarkt der rechtsalternativen Milieus.
Der Fokus zeigt ein differenziertes Bild der (schädlichen) Nutzung von generativer KI auf. Eine Rückschau auf die letzten zwei Jahre seit dem Release von ChatGPT zeichnet die Entwicklungen der Technologie und der damit einhergehenden Gefahrenpotentiale bzw. Befürchtungen nach. Tatsächlich bedienen sich rechtsextreme Akteure gerne neuer technologischer Tools. Die Analyse der Nutzung generativer KI in rechtsalternativen Netzwerken zeigt allerdings, dass sie bei ihnen gar nicht so oft und aus unterschiedlichen Motiven zum Einsatz kommt. Beleuchtet wird auch die Frage, welche rechtlichen Konsequenzen auf der Grundlage des DSA folgen können – und wo der weite Schutzbereich der Meinungsfreiheit auch unbequeme Äußerungen schützt.
Ein konkreter Fall, in dem das Manipulationspotential via Telegram eventuell überschätzt wurde, sind die diesjährigen Landtagswahlen in Sachsen, Thüringen und Brandenburg. Der Radar betrachtet die teilweise nachlassende Nutzung von Telegram durch Rechtsaußenakteure – in einer Zeit, in der man eine Steigerung hätte erwarten können.
In der Rundschau geht es um Plattformen, Daten und die Durchsetzung des geltenden Rechts. In Europa bzw. in Deutschland entstehen neue Strukturen (Trusted Flagger, Streitbeilegungsstellen), um den Digital Services Act wirksam anzuwenden und durchzusetzen. Währenddessen hat der Fall der X-Sperre in Brasilien gezeigt, dass Gerichte durchaus wirksame Maßnahmen verhängen können, wenn Online-Dienste die Einhaltung der Regeln nicht ernst nehmen.
Mit dieser Ausgabe schließt ein zweijähriger Beobachtungszyklus. Für die Forscher*innen hinter dem Monitoring heißt es nun, die Ergebnisse aus einer Langzeitperspektive zu bewerten, die Analysesystematik zu überprüfen und zu verbessern.
Der Trendreport "Machine Against the Rage" erscheint vierteljährlich und kann auf der Internetseite der BAG abgerufen werden:
https://machine-vs-rage.bag-gegen-hass.net/ausgabe-4/
Weitere Infos über die BAG "Gegen Hass im Netz" unter: