Deepfake phishing: no olvidemos la importancia de la formación
La cantante Taylor Swift que en un vídeo muy compartido en las redes sociales regala tres mil sets de ollas de Le Creuset a sus fans; el actor Tom Hanks que, en un vídeo viral, promociona un seguro dental; Joe Biden que invita a los electores a no ir a votar en las primarias; Zelensky que invita a los ucranianos a deponer las armas.
No se trata de chistes sino de imágenes y voces que han circulado mucho por la web y que han sido reproducidas y compartidas con la velocidad con la que hoy se usan las redes sociales.
También en Italia el fenómeno está muy extendido.
Basta pensar en el Gobernador del Banco de Italia Fabio Panetta que promociona inversiones financieras seguras y rentables y en muchos otros personajes de la política y del espectáculo que han sido clonados: Elly Schlein, Giuseppe Conte, Giorgia Meloni, Mara Venier, que se ha encontrado junto a Elon Musk para promocionar una inversión estafa o Fabio Fazio que publicita una plataforma financiera para obtener mucho dinero en pocos meses.
Un fenómeno que da mucho miedo es el del Deepfake Phishing, una tecnología utilizada para crear imágenes y vídeos falsos o para reproducir el mismo tono o timbre de voz y cuya aplicación más inquietante es la utilizada para imitar a la perfección a directores generales y directivos de empresas que imparten órdenes a sus subordinados.
Se trata de ataques que pueden tener un efecto devastador.
Por ejemplo, en 2021, los ciberdelincuentes utilizaron la clonación de voz para imitar al director general de una gran empresa y engañaron al director del banco de la organización para que transfiriera 35 millones de dólares a otra cuenta para completar una «adquisición».
Un incidente similar ocurrió en 2019. Un estafador llamó al director general de una empresa británica imitando al director general de la empresa matriz alemana de la compañía y pidiendo una transferencia urgente de 243.000 $ a un proveedor húngaro.
La clonación de imágenes y voces para difundir mensajes falsos es una tendencia cada vez más utilizada y refinada y representa una preocupación significativa para la privacidad, la seguridad y la veracidad de la información, así como para la reputación y la dignidad de las personas. La difusión no consensual de deepfakes ha asumido proporciones alarmantes, involucrando no solo a personajes públicos sino también a ciudadanos comunes, con especial atención al fenómeno de la pornografía deepfake que afecta principalmente a las mujeres.
Por eso algunos Estados están tomando medidas rápidamente. Entre estos, en primera posición encontramos a Dinamarca que se prepara para convertirse en el primer país europeo en abordar sistemáticamente el problema de los deepfakes a través de una reforma radical de la legislación sobre copyright.
La propuesta danesa
La reforma prevé que el cuerpo, los rasgos somáticos y la voz de cada uno estén cubiertos por el derecho de autor. Un enfoque que equipara la identidad física y vocal de una persona a una obra de arte, creando una protección legal que hasta ahora no existía. La que se está estudiando en Copenhague puede convertirse, así, en la primera ley en Europa que proteja a las personas contra las imitaciones digitales de su identidad. La propuesta ya ha obtenido un amplio consenso político, señal de la transversalidad del problema y de la necesidad de una intervención legislativa urgente.
Los detalles de la reforma
El camino legislativo ya está trazado: el Ministerio de Cultura prevé presentar una propuesta de modificación de la ley vigente antes de las vacaciones de verano y someter en otoño la enmienda a votación del Parlamento. El ministro de Cultura danés, Jakob Engel-Schmidt, ha aclarado que el proyecto de ley debería transmitir el mensaje inequívoco de que todos tienen derecho a su aspecto y a su voz, protegiéndolas de la IA generativa.
Las modificaciones a la ley danesa sobre copyright darán teóricamente a los ciudadanos daneses el derecho de pedir a las plataformas online que retiren tales contenidos si se comparten sin consentimiento. La protección se extenderá también al mundo del espectáculo, cubriendo las imitaciones realistas generadas digitalmente de la actuación de un artista sin su consentimiento.
La nueva ley no se limita a reconocer derechos teóricos, sino que prevé también mecanismos de aplicación eficaces. En caso de violación de las normas, los interesados podrían pedir también una indemnización. Un aspecto fundamental porque transforma la tutela de la identidad digital de una mera cuestión de principio a un derecho accionable con consecuencias económicas concretas para los infractores.
En cuanto a las plataformas tecnológicas, el gobierno danés ha anunciado un enfoque decidido: Si las plataformas tecnológicas no se adaptan a la nueva ley, podrían estar sujetas a multas severas. Esta amenaza de sanciones económicas significativas debería incentivar a las plataformas a desarrollar sistemas de detección y eliminación de deepfakes más eficaces.
Equilibrio entre tutela y libertad de expresión
Uno de los desafíos principales en la regulación de los deepfakes es encontrar el justo equilibrio entre la protección de los derechos individuales y la libertad de expresión. La propuesta danesa aborda esta cuestión previendo excepciones específicas: la ley excluye de su aplicación la sátira y las parodias, reconociendo la importancia de la libertad artística y del debate público.
Una distinción crucial porque evita transformar la ley en un instrumento de censura, manteniendo en cambio el foco en la protección contra los abusos malintencionados. En general, el éxito de esta iniciativa dependerá de la capacidad de equilibrar eficazmente la protección de los derechos individuales con la necesidad de no obstaculizar ni la innovación tecnológica ni la libertad de expresión.
Dinamarca se posiciona así entre los primeros países europeos en abordar de forma integral y sistemática el fenómeno, superando el enfoque hasta ahora concentrado sobre todo en la pornografía deepfake. Un nuevo paradigma normativo que representa un paso adelante que se espera influya significativamente en el desarrollo de la legislación europea e internacional sobre deepfakes y que redefina los estándares para la protección de la identidad digital en el siglo XXI.
Bien la nueva tendencia legislativa pero no olvidemos el papel de la formación
La nueva tendencia legislativa lanzada por Dinamarca es sin duda una buena noticia que hace esperar bien en un futuro en el que la identidad digital, la privacidad y la seguridad frente a los deepfakes estarán más protegidas.
Pero esto no debe hacernos olvidar la importancia del papel de una formación correcta, sobre todo de su integración en los programas de las empresas y organizaciones.
Los usuarios deberán ser cada vez más capaces de identificar las señales comunes de alarma, como por ejemplo la falta de sincronización entre el movimiento de los labios y el audio, o de descubrir indicadores como distorsiones, deformaciones o incoherencias en las imágenes y vídeos.
Pero tener estos conocimientos teóricos no es suficiente.
También hay que entrenarse continuamente para reconocer las señales sospechosas. Algo que implica un trabajo constante de formación. El concepto es que para estar seguros hay que ir un paso por delante del ciberdelincuente y para hacerlo hay que correr muy rápido. Estamos hablando de maratonianos del cibercrimen. No es un objetivo imposible como puede parecer, en absoluto. Lo importante es estudiar, conocer, entrenarse y estar siempre al día.
