Deepfakes: Die schädlichen Auswirkungen auf die Glaubwürdigkeit der Medien

Ein typisches Beispiel dafür ist das neueste Deepfake-Video, das von Pinks Besitzer erstellt wurde Željko Mitrović, und für die das eigentliche Video missbraucht wurde Emira Kusturica, zeigt, dass es nicht mehr darum geht, ob der Missbrauch künstlicher Intelligenz in der Medienberichterstattung verheerende Auswirkungen auf das Vertrauen der Bürger in die Medien haben könnte, sondern nur noch darum, wann solche Missbrauchsfälle auftauchen werden, da sind wir bereits dabei „Der Weg geht weiter und es ist ganz sicher, dass es kein Zurück mehr gibt“, sagte die Hauptforscherin der SHARE-Stiftung, Mila Bajić, gegenüber „Vreme“.

„Sobald diese Barriere durchbrochen ist, gibt es keinen Grund, warum irgendjemand zögern würde, die Technologie zu missbrauchen.“ Wir wissen, dass diese Technologien sehr zugänglich und einfach zu verwenden sind. Sie sind nicht nur günstig, sondern können auch praktisch kostenlos sein und erfordern nur sehr wenige Ressourcen. „Es reicht aus, ein Foto einer Person zu haben, und schon kann man jede Art von Aufnahme erstellen, in der man diese Person dazu bringen kann, etwas zu sagen“, sagte Bajić.

Die Vermischung traditioneller und digitaler Sphären in den Medien

Sie warnte davor, dass die Vermischung der traditionellen und digitalen Sphären, in denen die Medien agieren, zusätzlich gefährlich sei, da es sehr schwierig sei, den Schaden zu reparieren, wenn etwas bereits veröffentlicht sei.

„Die Vorstellung, dass mit Hilfe künstlicher Intelligenz generierte Inhalte von einer Form in eine andere übergehen, hat nur den Effekt eines Waldbrandes, der schwer zu bestimmen ist, woher er stammt und was als nächstes damit zu tun ist“, sagte Bajić.

Sie wies darauf hin, dass der Missbrauch künstlicher Intelligenz eine große Herausforderung für Journalisten darstellen wird und dass diejenigen, die verantwortungsvoll und professionell journalistisch tätig sein wollen, zumindest über Grundkenntnisse verfügen müssen, um solche Inhalte zu erkennen.

„Es ist sehr wichtig, dass solche Inhalte nicht weitergegeben werden, insbesondere wenn klar ist, dass es sich um böswillige Manipulationen handelt.“ „Die beste Empfehlung wäre, den neuen Journalistenkodex Serbiens umzusetzen, der in seinen Empfehlungen ein ganzes Kapitel über den Einsatz künstlicher Intelligenz sowohl in Nachrichtenredaktionen als auch individuell enthält, und den Schaden, den der Missbrauch künstlicher Intelligenz verursachen kann, nicht zu vernachlässigen.“ ", sagte Bajić.

Der Einsatz von KI muss kenntlich gemacht werden

Sie betonte, dass es eine Verpflichtung gebe, bei der Ausstrahlung einiger Inhalte hervorzuheben, die mit Hilfe künstlicher Intelligenz erstellt wurden.

„NONNEN im Gesetzbuch der Journalisten Serbiens betonen, dass jede Verwendung künstlicher Intelligenz angegeben werden muss – wenn der Inhalt mit Hilfe künstlicher Intelligenz generiert, erstellt wird, auch wenn er reale Elemente enthält, wenn Fotos oder Aufzeichnungen verwendet werden, wie in Der Fall von Emir Kusturica ist dann zu beachten. „Es wäre ideal, wenn dieser Hinweis für die gesamte Dauer des mit künstlicher Intelligenz erstellten Videos stehen würde, um deutlich zu kennzeichnen, dass es sich bei dem, was in diesem Moment gezeigt wird, um ein Produkt künstlicher Intelligenz handelt“, sagte Bajić.

Sie erinnerte daran, dass in früheren Fällen, als die Aussagen der Führer der Freiheits- und Gerechtigkeitspartei Dragan Đilas und Marinika Tepić mit Hilfe künstlicher Intelligenz gefälscht wurden, der Schöpfer dieser Videos, Željko Mitrović, erklärte, dass es sich um ein „unterhaltsames und satirisches Format“ handele. .

Bajić wies darauf hin, dass der Verweis auf Satire keine Rechtfertigung für eine solche Fälschung sein könne.

„Es könnte sogar unter Verleumdung fallen.“ Dabei handelt es sich um eine Manipulation von Inhalten, die nicht in gutem Glauben erfolgt, insbesondere wenn es darum geht, eine bestimmte Person zu diskreditieren. Eine zusätzliche Gefahr besteht darin, dass solche Inhalte im Fernsehen auftauchen, sich also weiter verbreiten und ihren Kontext verändern. „Wie wir wissen, ist es schwierig, den ersten Eindruck von etwas, das wir im digitalen Raum sehen, später zurückzunehmen und zu sagen, dass etwas nicht real ist, dass es durch künstliche Intelligenz und ohne böse Absicht erzeugt wurde, weil der Schaden bereits angerichtet wurde.“ sagte Bajić.

Es ist sinnlos, Fake News aufzudecken

Auf die Frage, wie es den Bürgern geht, die oft sehr leicht Fake News glauben, die viel einfacher in der Form und viel weniger anzüglich sind als Deepfakes, sagte Bajić, dass es sich um ein sehr komplexes Thema handele.

Sie fügte hinzu, dass es einen Unterschied gebe zwischen böswilligen Nachrichten, die veröffentlicht werden, um die Öffentlichkeit in die Irre zu führen, und solchen, die Menschen veröffentlichen, ohne zu wissen, dass sie falsch sind, und Nachrichten, die bösartig sind, aber einige Elemente der Realität enthalten.

„Viele Studien, von denen ein großer Teil in den Vereinigten Staaten von Amerika durchgeführt wurde, zeigen, dass es nicht mehr darum geht, ob Menschen daran interessiert sind, ob etwas wahr ist oder nicht.“ Die Menschen werden es vorziehen, Nachrichten zu glauben, die ihre bestehenden Meinungen und Einstellungen bestätigen, und selbst wenn sich herausstellt, dass sie falsch sind, bleiben sie bei ihrer Position und erklären, dass die Nachrichten von Medien oder Quellen stammen, die sie für „glaubwürdig“ halten. Wir befinden uns bereits in einem sehr polarisierten System und daher sind einige Maßnahmen zur Aufdeckung von Fake News bereits sinnlos, weil wir nicht viel erreichen werden. Allein die Tatsache, dass solche Nachrichten bereits existieren, hat das Ökosystem, in dem wir leben, so sehr getrübt, dass es für uns unmöglich ist, alle falschen Inhalte, die wir entdecken, in Frage zu stellen. „Die Verantwortung der Bürger für die Verbreitung von Fake News und Deepfakes besteht, weil sie diese weiter verbreiten, aber es liegt in der großen Verantwortung der Medien, solche Inhalte möglichst objektiv zu kennzeichnen und darüber zu berichten“, sagte Bajić.

REM soll sich mit KI-Manipulationen befassen, aber…

Sie wies darauf hin, dass es in Serbien keine Regulierungsbehörde gibt, die sich mit diesen Fragen befasst, obwohl das Gesetz über künstliche Intelligenz derzeit ausgearbeitet wird.

„Dennoch ist die Frage, ob er sich überhaupt mit der Frage von Informationsinhalten auseinandersetzt, die unter Einsatz oder Manipulation künstlicher Intelligenz erstellt wurden.“ In einer idealen Welt wäre die Regulierungsbehörde für elektronische Medien (REM) die Stelle, die sich mit diesen Problemen befassen müsste, aber wie wir bereits wissen, können wir von ihr nicht viel erwarten.

Auf die Frage, wie Bürger sich schützen könnten, wenn sie Opfer von Missbrauch künstlicher Intelligenz und Deepfaking würden, sagte Bajić, es hänge vom jeweiligen Fall ab und davon, was unsere Gesetzgebung möglicherweise erkennen könne, was auch Auswirkungen darauf habe, ob etwas unternommen werden könne.

„Wenn es sich um eine Art Missbrauch, Verleumdung oder unbefugte Verwendung des Bildes einer Person handelt, dann könnte es sich um eine Straftat handeln, die die unbefugte Veröffentlichung von Fotos oder Videos anderer Personen verbietet. Problematisch ist jedoch, dass dies keine künstliche Intelligenz umfasst, denn in In unserem Land gibt es kein Gesetz zur künstlichen Intelligenz. Bestehende Straftaten könnten jedoch wahrscheinlich zusammengefasst werden, die Frage ist jedoch, wie weit dies gehen könnte. „Soweit ich weiß, hatten wir keine Fälle, in denen es den Geschädigten gelang, für Gerechtigkeit zu kämpfen, aber sie enthielten ein Element des Missbrauchs künstlicher Intelligenz“, schlussfolgerte Bajić.