Deepfake-Phishing: Vergessen wir nicht die Bedeutung von Schulungen
Die Sängerin Taylor Swift, die in einem viel geteilten Video in den sozialen Medien dreitausend Topfsets von Le Creuset an ihre Fans verschenkt; der Schauspieler Tom Hanks, der in einem viralen Video eine Zahnversicherung bewirbt; Joe Biden, der die Wähler auffordert, nicht an den Vorwahlen teilzunehmen; Zelensky, der die Ukrainer auffordert, die Waffen niederzulegen.
Das sind keine Witze, sondern Bilder und Stimmen, die im Internet weit verbreitet sind und mit der Geschwindigkeit aufgegriffen und geteilt werden, mit der soziale Medien heute genutzt werden.
Auch in Italien ist das Phänomen weit verbreitet.
Man denke nur an den Gouverneur der italienischen Zentralbank Fabio Panetta, der sichere und profitable Finanzinvestitionen bewirbt, und an viele andere Persönlichkeiten aus Politik und Unterhaltung, die geklont wurden: Elly Schlein, Giuseppe Conte, Giorgia Meloni, Mara Venier, die an der Seite von Elon Musk auftrat, um eine betrügerische Investition zu bewerben, oder Fabio Fazio, der eine Finanzplattform anpreist, um in wenigen Monaten viel Geld zu verdienen.
Ein Phänomen, das große Angst macht, ist das Deepfake-Phishing, eine Technologie, die verwendet wird, um gefälschte Bilder und Videos zu erstellen oder denselben Ton oder Stimmklang zu reproduzieren, und deren beunruhigendste Anwendung darin besteht, CEOs und Führungskräfte von Unternehmen perfekt zu imitieren, die ihren Untergebenen Anweisungen geben.
Es handelt sich um Angriffe, die verheerende Auswirkungen haben können.
So nutzten Cyberkriminelle im Jahr 2021 die Stimmklonierung, um den CEO eines großen Unternehmens zu imitieren, und brachten den Bankdirektor des Unternehmens dazu, 35 Millionen Dollar auf ein anderes Konto zu überweisen, um eine „Akquisition“ abzuschließen.
Ein ähnlicher Vorfall ereignete sich im Jahr 2019. Ein Betrüger rief den CEO eines britischen Unternehmens an, imitierte den CEO der deutschen Muttergesellschaft des Unternehmens und forderte eine dringende Überweisung von $243.000 an einen ungarischen Lieferanten.
Das Klonen von Bildern und Stimmen zur Verbreitung falscher Nachrichten ist ein zunehmend genutzter und verfeinerter Trend und stellt eine erhebliche Besorgnis für die Privatsphäre, die Sicherheit und die Richtigkeit von Informationen sowie für den Ruf und die Würde von Personen dar. Die unbefugte Verbreitung von Deepfakes hat alarmierende Ausmaße angenommen und betrifft nicht nur Persönlichkeiten des öffentlichen Lebens, sondern auch normale Bürger, wobei der Schwerpunkt insbesondere auf dem Phänomen der Deepfake-Pornografie liegt, von dem hauptsächlich Frauen betroffen sind.
Aus diesem Grund ergreifen einige Staaten schnell Maßnahmen. Zu diesen gehört Dänemark, das sich darauf vorbereitet, das erste europäische Land zu werden, das das Problem der Deepfakes systematisch durch eine radikale Reform der Urheberrechtsgesetzgebung angeht.
Der dänische Vorschlag
Die Reform sieht vor, dass der Körper, die Gesichtszüge und die Stimme jedes Einzelnen durch das Urheberrecht geschützt sind. Ein Ansatz, der die physische und stimmliche Identität einer Person mit einem Kunstwerk gleichsetzt und einen Rechtsschutz schafft, der bisher nicht existierte. Die in Kopenhagen untersuchte kann somit das erste Gesetz in Europa werden, das Menschen vor digitalen Nachahmungen ihrer Identität schützt. Der Vorschlag hat bereits breite politische Zustimmung gefunden, was ein Zeichen für die übergreifende Natur des Problems und die Notwendigkeit eines dringenden legislativen Eingriffs ist.
Die Details der Reform
Der Gesetzgebungsprozess ist bereits vorgezeichnet: Das Kulturministerium plant, vor der Sommerpause einen Vorschlag zur Änderung des geltenden Gesetzes vorzulegen und im Herbst die Änderung dem Parlament zur Abstimmung vorzulegen. Der dänische Kulturminister Jakob Engel-Schmidt hat klargestellt, dass der Gesetzentwurf die unmissverständliche Botschaft vermitteln soll, dass jeder das Recht auf sein Aussehen und seine Stimme hat und diese vor generativer KI schützt.
Die Änderungen des dänischen Urheberrechtsgesetzes würden dänischen Bürgern theoretisch das Recht geben, Online-Plattformen aufzufordern, solche Inhalte zu entfernen, wenn sie ohne Zustimmung geteilt werden. Der Schutz würde sich auch auf die Welt der Unterhaltung erstrecken und die digital erzeugten realistischen Nachahmungen der Darbietung eines Künstlers ohne dessen Zustimmung abdecken.
Das neue Gesetz beschränkt sich nicht auf die Anerkennung theoretischer Rechte, sondern sieht auch wirksame Durchsetzungsmechanismen vor. Im Falle eines Verstoßes gegen die Vorschriften könnten die Betroffenen auch Schadensersatz fordern. Ein grundlegender Aspekt, da er den Schutz der digitalen Identität von einer bloßen Prinzipienfrage in ein durchsetzbares Recht mit konkreten wirtschaftlichen Folgen für die Täter verwandelt.
In Bezug auf die Technologieplattformen hat die dänische Regierung einen entschlossenen Ansatz angekündigt: Wenn sich die Technologieplattformen nicht an das neue Gesetz halten, können ihnen hohe Geldstrafen auferlegt werden. Diese Androhung erheblicher wirtschaftlicher Sanktionen dürfte die Plattformen dazu anregen, wirksamere Systeme zur Erkennung und Entfernung von Deepfakes zu entwickeln.
Gleichgewicht zwischen Schutz und freier Meinungsäußerung
Eine der größten Herausforderungen bei der Regulierung von Deepfakes besteht darin, das richtige Gleichgewicht zwischen dem Schutz individueller Rechte und der Freiheit der Meinungsäußerung zu finden. Der dänische Vorschlag geht dieses Problem an, indem er spezifische Ausnahmen vorsieht: Das Gesetz schließt Satire und Parodien von seiner Anwendung aus und erkennt die Bedeutung der künstlerischen Freiheit und der öffentlichen Debatte an.
Eine entscheidende Unterscheidung, da sie verhindert, dass das Gesetz in ein Instrument der Zensur verwandelt wird, sondern den Fokus auf den Schutz vor böswilligen Missbräuchen beibehält. Im Allgemeinen wird der Erfolg dieser Initiative von der Fähigkeit abhängen, den Schutz individueller Rechte wirksam mit der Notwendigkeit in Einklang zu bringen, weder die technologische Innovation noch die freie Meinungsäußerung zu behindern.
Dänemark positioniert sich damit als eines der ersten europäischen Länder, das das Phänomen umfassend und systematisch angeht und den bisherigen Ansatz überwindet, der sich vor allem auf Deepfake-Pornografie konzentriert hat. Ein neues normatives Paradigma, das einen Fortschritt darstellt, der hoffentlich die Entwicklung der europäischen und internationalen Gesetzgebung zu Deepfakes maßgeblich beeinflusst und die Standards für den Schutz der digitalen Identität im 21. Jahrhundert neu definiert.
Gut der neue legislative Trend, aber vergessen wir nicht die Rolle der Bildung
Der neue legislative Trend, der von Dänemark ins Leben gerufen wurde, ist sicherlich eine gute Nachricht, die auf eine Zukunft hoffen lässt, in der die digitale Identität, die Privatsphäre und die Sicherheit gegenüber Deepfakes besser geschützt werden.
Dies darf uns jedoch nicht die Bedeutung der Rolle einer korrekten Ausbildung vergessen lassen, insbesondere deren Integration in die Programme von Unternehmen und Organisationen.
Die Nutzer müssen immer besser in der Lage sein, die gängigen Warnsignale zu erkennen, wie z. B. die fehlende Synchronisation zwischen Lippenbewegung und Audio, oder Indikatoren wie Verzerrungen, Verformungen oder Inkonsistenzen in Bildern und Videos zu entdecken.
Aber diese theoretischen Kenntnisse reichen nicht aus.
Man muss auch kontinuierlich üben, verdächtige Signale zu erkennen. Was eine ständige Trainingsarbeit impliziert. Das Konzept ist, dass man, um sicher zu sein, dem Cyberkriminellen einen Schritt voraus sein muss, und um dies zu tun, muss man sehr schnell laufen. Wir sprechen hier nämlich von Marathonläufern der Cyberkriminalität. Es ist kein unmögliches Ziel, wie es scheint, ganz im Gegenteil. Wichtig ist, zu lernen, zu wissen, zu trainieren und immer auf dem Laufenden zu sein.
