Serbien sollte bis Ende des Jahres ein Gesetz zur künstlichen Intelligenz erhalten. Die Kernfrage ist, inwieweit die aus dem EU-Gesetz zur künstlichen Intelligenz übernommenen Lösungen in Serbien anwendbar sind.
Wenn Srbija Beabsichtigt die EU, die für den Wachstumsplan der Europäischen Union für den Westbalkan vorgesehenen Gelder zu verwenden, muss sie bis Ende des Jahres unter anderem das Gesetz verabschieden über künstliche Intelligenz (KI).
Das Gesetz liegt jedoch noch nicht als offizieller Entwurf vor, sondern nur als Arbeitsfassung. Kurze Fristen, insbesondere im Hinblick auf die anstehenden Wahlen, sind nicht das einzige Problem.
Die wichtigsten Punkte wurden ausgelassen
Ana Toskić Cvetinović von der Organisation Partners Serbia for "Vreme" hebt in der Arbeitsfassung mehrere umstrittene Lösungen hervor.
„Betrachtet man die Arbeitsfassung des Gesetzes über die VI, so scheint deren Struktur und Grundelemente fast vollständig vom EU-Gesetz über die VI übernommen worden zu sein. Bei genauerer Betrachtung zeigt sich jedoch, dass einige Punkte nicht zufällig ausgelassen wurden, insbesondere die kritischsten in Serbien: der Mangel an …“ Rechtsstaatlichkeit „und unabhängige Institutionen sowie unzureichende Garantien für den Schutz der Menschenrechte“, sagt Toskić Cvetinović.
Er nennt den Ausschluss des Verteidigungssektors aus dem Gesetz als größtes Problem. Obwohl die Arbeitsfassung darauf besteht, dem EU-VI-Gesetz zu entsprechen, weist sie darauf hin, dass eine solche Ausnahme nicht für Nicht-EU-Länder gilt.
"EU Serbien verfügt über keine einheitliche Außen- und Sicherheitspolitik; vielmehr regelt jeder Mitgliedstaat diesen Bereich mit eigenen Vorschriften. Serbien sollte ein Gesetz verabschieden, das sowohl für unser Rechtssystem als auch für die Entwicklung und Anwendung künstlicher Intelligenz gilt. Die Ausnahmeregelung für den Verteidigungssektor ist für Länder, die nicht der EU angehören, keinesfalls anwendbar“, so Toskić Cvetinović.
Ein weiteres Problem sieht er darin, dass bestimmte Teile der Arbeitsfassung nicht die im EU-Gesetz über die Rechte von Menschen mit Behinderungen und im nationalen Datenschutzgesetz vorgesehenen Garantien für den Schutz der Menschenrechte vorsehen.
Dies gilt auch für die Verarbeitung sensibler Daten, wie beispielsweise Gesundheits- und Sozialschutzdaten.
Gleichzeitig wird das Gesetz zum Schutz personenbezogener Daten geändert. Der Entwurf, der öffentlich diskutiert wurde, sieht eine Einschränkung der Rechte der Bürger bei der Datenverarbeitung für die Zwecke des Artikels VI vor.
„Mir scheint, dass bei der Entwicklung des VI-Instruments in Serbien eine koordinierte Absicht besteht, das Niveau der Menschenrechte zu senken“, so Toskić Cvetinović.
Er sieht das Problem auch darin, dass es keine Regelung für eine unabhängige Aufsicht über die Umsetzung der Künstlichen Intelligenz gibt. Die Arbeitsfassung sieht die Gründung der Agentur für Künstliche Intelligenz vor, deren Direktor von der serbischen Regierung ernannt und deren Budget ebenfalls von der Regierung genehmigt würde.
„Diese Behörde wäre in ihrer jetzigen Form, wie sie in der Arbeitsfassung vorliegt, keinesfalls unabhängig. Darüber hinaus sieht das EU-Gesetz über Informationsassistenz (IA) ganz klar die Rolle des zivilgesellschaftlichen Sektors und der Wissenschaft vor, die die Anwendung von IA, insbesondere im Hinblick auf deren ethische Vertretbarkeit, überwachen sollen. Diese Akteure fehlen jedoch in der Arbeitsfassung unseres Gesetzes“, so Toskić Cvetinović.
Wenn es um den Missbrauch von Deepfakes zur Diskreditierung politischer Gegner geht, weist Toskić Cvetinović darauf hin, dass der EU-Gesetzentwurf zur visuellen Intelligenz die Kennzeichnung von Inhalten vorsieht, die durch künstliche Intelligenz erzeugt werden, einschließlich solcher von öffentlichem Interesse. Dies sei jedoch in der nationalen Arbeitsfassung ausgelassen oder eingeschränkt worden.
„Es wurde auch nicht erwähnt, dass Deepfake-Nutzer diese – mit einigen individuellen Ausnahmen – für bestimmte künstlerische, satirische und fiktionale Werke kennzeichnen müssen. Die Transparenzpflichten wurden reduziert, was insbesondere im Bereich der politischen Debatte und demokratischen Prozesse problematisch ist“, sagt Toskić Cvetinović.
Er fügt hinzu, dass Transparenz sich nicht nur auf den Hinweis beschränken sollte, dass der Inhalt mithilfe von VI erstellt wurde, sondern dass sie für das Publikum sichtbar und verständlich sein muss.
Milan Stefanović, Berater für Regulierung und Inspektionen bei NALED, vertritt eine andere Auffassung. Laut seiner Aussage sieht die Arbeitsfassung die Pflicht zur Kennzeichnung synthetischer oder veränderter Audio- und Videoinhalte vor. Nutzer, die mithilfe von VI generierte oder veränderte Texte zu Informationszwecken veröffentlichen, müssten zudem angeben, dass diese künstlich erzeugt oder verändert wurden.
Er weist außerdem darauf hin, dass ein Verstoß gegen die Transparenzpflichten für die juristische Person eine Ordnungswidrigkeit darstellt und mit hohen Geldstrafen geahndet wird.
Stefanović betont jedoch, dass zwischen der Nichtkennzeichnung von Inhalten und deren Inhalt sowie den Folgen ihrer Veröffentlichung unterschieden werden muss. So können beispielsweise im Falle der Veröffentlichung eines gefälschten Videos, das einer politisch exponierten Person eine verfassungswidrige oder illegale Aussage zuschreibt, mehrere Gesetze verletzt werden – allen voran das Strafgesetzbuch, das Gesetz über öffentliche Information und Medien, das Gesetz über elektronische Kommunikation und das Gesetz zum Schutz personenbezogener Daten.
„Zusätzlich zu den übergeordneten Gesetzen wird dieses Thema auch in der Arbeitsfassung des Gesetzes geregelt, indem das Inverkehrbringen und die Nutzung, d. h. die Nutzung des VI-Systems, verboten wird, bei dem manipulative, d. h. irreführende Techniken angewendet werden, die das Verhalten einer Person oder einer Personengruppe so beeinflussen, dass deren Entscheidungsfähigkeit beeinträchtigt wird und dadurch Schaden entstehen kann“, sagt Stefanović.
„Verantwortung kann je nach Rolle beim Autor, dem Auftraggeber, der Person, die die Inhalte wissentlich verbreitet hat, dem Verlag oder dem verantwortlichen Redakteur liegen. Dabei muss jedoch betont werden, dass man keinesfalls ins andere Extrem verfallen sollte, denn es gilt, Raum für Kritik, Satire und Parodie zu lassen, die klar und verständlich erkennbar sein müssen“, so Stefanović abschließend.
Stefanović erklärt, dass die Agentur für Künstliche Intelligenz der Regierung unterstellt sein würde, während die Aufsicht zwischen dem Ministerium für Wissenschaft, technologische Entwicklung und Innovation, der Marktaufsicht, der Informationssicherheitsaufsicht und dem Datenschutzbeauftragten aufgeteilt wäre.
Es besteht auch die Möglichkeit, dass die Agentur gar nicht als neue Einrichtung gegründet wird, sondern dass ihre Aufgaben bestehenden Institutionen, darunter dem Amt für IT und E-Government, hinzugefügt werden.
Die Arbeitsfassung sieht das Register für Systeme künstlicher Intelligenz als zentrales öffentliches Register mit veröffentlichten Daten und Entscheidungen vor. Bürgerinnen und Bürger könnten grundlegende Daten über das Hochrisikosystem, seinen Anbieter, seinen Zweck und seinen Konformitätsstatus sowie die zuständige Behörde einsehen.
Das Register wäre jedoch keine vollständige Aufzeichnung jeder Nutzung von VI.
„Bei öffentlichen Daten können nicht alle Daten öffentlich zugänglich gemacht werden, da es notwendig ist, personenbezogene Daten, Geschäftsgeheimnisse, Quellcode und andere Formen des geistigen Eigentums, Gerichtsverfahren und vertrauliche Daten zu schützen, deren Veröffentlichung die nationale Sicherheit gefährden würde. Daher ist es erforderlich, zwischen dem öffentlichen und dem geschützten, d. h. vertraulichen, Teil des Registers zu unterscheiden“, so Stefanović.
Die Verteidigung ist formell ausgenommen, aber nicht ohne Regeln.
Stefanović bestätigt, dass die Arbeitsfassung, wie der EU-Rechtsakt über die Rechte an geistigem Eigentum, Systeme, die ausschließlich militärischen und verteidigungspolitischen Zwecken, also der nationalen Sicherheit, dienen, von der allgemeinen Regelung ausnimmt. Er erklärt, dass ein solcher Ansatz auch in anderen Bereichen Anwendung findet, während bestimmte Sachverhalte durch Sondergesetze geregelt werden.
Gleichzeitig werden bestimmte Systeme, die in der Strafverfolgung, der Migrations- und Grenzkontrolle eingesetzt werden, als risikoreich eingestuft. Die Arbeitsfassung verbietet zudem einige Praktiken, wie beispielsweise die Vorhersage, dass eine Person eine Straftat begehen wird, allein aufgrund von Profiling oder der Beurteilung ihrer persönlichen Merkmale.
Für bestimmte Formen der biometrischen Identifizierung sind auf Vorschlag der Staatsanwaltschaft zusätzliche Bedingungen und eine gerichtliche Kontrolle vorgesehen.
„Die Ausnahme von der Anwendung dieses Systemgesetzes bedeutet natürlich nicht, dass das von der für die öffentliche oder staatliche Sicherheit zuständigen Behörde eingesetzte VI-System, d. h. die Verhütung oder Aufdeckung von Straftaten, von der Rechtsordnung ausgenommen ist, denn die Verfassung und die Gesetze über BIA, Polizei, Strafverfahren, Schutz personenbezogener Daten und das Verbot der Diskriminierung finden selbstverständlich weiterhin Anwendung“, sagt Stefanović.
Er fügt hinzu, dass es im Interesse der Rechtssicherheit und zur Vermeidung von Zweifeln zweckmäßig wäre, die Funktionsweise dieser Systeme durch spezielle Gesetze zu regeln.
Bislang bleibt jedoch die Tatsache bestehen, dass Serbien noch nicht einmal einen offiziellen Gesetzesentwurf, sondern lediglich eine Arbeitsfassung besitzt, während die Frist für dessen Verabschiedung näher rückt.
Wahlzeit! Und jemand muss Ihnen unabhängig Bericht erstatten. Deshalb findet die Wahl im Oktober statt. Jahresabonnement Die digitale Ausgabe von „Vremena“ ist sogar 2.500 Dinar günstiger. Jetzt auswählen!
Was passiert im Land und in der Welt, was steht in den Zeitungen und wie vertreibt man sich die Zeit?
Jeden Mittwoch Mittag Dazwischen kommt per E-Mail. Es ist ein ziemlich solider Newsletter, also melden Sie sich an!
Rund dreißig Umweltverbände und -initiativen fordern den Rücktritt oder die Entlassung des Direktors von Srbijavod, Goran Puzović, und des amtierenden Direktors von Srbijašum, Krsto Janjušević.
Der Elternbeirat der Grundschule „20. Oktobar“ in Neu-Belgrad fordert das Bildungsministerium auf, die Schulleiterin Gordana Radojević unverzüglich zu entlassen und eine außerordentliche Schulaufsicht einzuleiten.
Die deutsche Handelskette Hornbach setzt ihre Vorbereitungen für den Markteintritt in Serbien fort. In Bubanj Potok ist der Bau eines Warenhauses mit einer Fläche von über 16.000 Quadratmetern und 410 Parkplätzen geplant.
Vučić begnadigte die Täter und Dijana Hrkalović. Die Wahlsieger sollten die Macht des Sultans abschaffen, die es einem Einzelnen ermöglicht, sich mit dem gesamten Justizsystem anzulegen.
Davor Maturas ALTA-Imperium ist das transplantierte Herzstück des korrupten Regimes von Aleksandar Vučić, der bei den Wahlen am 25. Oktober abgewählt wurde. Von der ALTA Bank führen die Wege direkt an die Spitze der progressiven Regierung.
Die Dinge überschlagen sich in einem atemberaubenden Tempo, genauso atemberaubend wie die Geschwindigkeit, mit der Vučić seine überzeugende Niederlage eingestand. Ungeduld ist verständlich, aber unangebracht.
Das Archiv der Wochenzeitung Vreme umfasst alle unsere digitalen Ausgaben seit Beginn unserer Arbeit. Alle Ausgaben können im PDF-Format heruntergeladen werden, indem Sie die digitale Ausgabe erwerben, oder Sie können alle verfügbaren Texte der ausgewählten Ausgabe lesen.
