Deepfake o ultrafalso es un acrónimo del inglés formado por las palabras »fake», falsificación, y »deep learning», aprendizaje profundo. Es una técnica de inteligencia artificial que permite editar vídeos falsos de personas que aparentemente son reales, utilizando para ello algoritmos de aprendizaje no supervisados, conocidos en español como RGAs, y vídeos, sonidos falsos o imágenes ya existentes. Y puede provocar el aumento de fake news.
Existen desde hace más de 30 años, pero durante los últimos cinco años se ha visto un crecimiento y facilidad para su creación.
México.- El diputado local del PRI, Fausto Zamorano, presentó una iniciativa para castigar con penas de cuatro a seis años de prisión a quien altere imágenes con Inteligencia Artificial (IA) que vulneren la intimidad sexual de las mujeres.
Propuso adicionar la fracción III al Artículo 181 Quintus del Código Penal local para sancionar a quien haga uso de la inteligencia artificial para crear, exponer, distribuir, difundir, exhibir, reproducir, transmitir, comercializar, ofertar, intercambiar y/o compartir imágenes, audios o videos de contenido sexual íntimo de una persona, sin su consentimiento, a través de materiales impresos, correo electrónico, mensajes telefónicos, redes sociales o cualquier otro medio tecnológico.
En su exposición de motivo refiere que la IA se ha convertido en una parte integral de nuestra vida cotidiana, mejorando la eficiencia, la comodidad y la personalización en una amplia gama de aplicaciones.
Señaló que su impacto seguirá creciendo a medida que la tecnología continúe avanzando y se aplique en nuevos campos, pero que su adopción y desarrollo también conlleva riesgos y desafíos significativos.
Específicamente, dijo, la IA puede utilizarse para crear imágenes falsas que parecen auténticas, lo que implica el riesgo de difundir información errónea o falsa que vulnere el derecho a la intimidad sexual de las personas y tenga graves consecuencias psicológicas para las víctimas.
Van contra deepfakes
El diputado añadió que este tipo de alteraciones puede dar lugar a la creación de contenido malicioso, como las llamadas deepfakes, un tipo de contenido audiovisual manipulado que reemplaza el rostro de una persona en una imagen o video existente, con el rostro de otra persona, a menudo de manera realista y difícil de detectar.
Subrayó que los deepfakes que afectan la intimidad sexual de las mujeres, no sólo son una invasión flagrante de la privacidad, sino que también representan una forma de violencia de género, y violencia digital, que puede tener consecuencias devastadoras en la vida de las víctimas, con graves repercusiones físicas, psicológicas y sociales.
La Iniciativa se turnó para su análisis y dictamen a la Comisión de Administración y Procuración de Justicia, con opinión de la Comisión de Igualdad de Género.
¿Cuáles son algunos detalles se deben tener en cuenta para detectar un Deepfake?
- 1. Video corto: casi todos los archivos falsos tienen una duración de pocos segundos ya que es un trabajo que lleva mucho tiempo.
- 2. Fallos: existen pequeñas diferencias entre los archivos verdaderos y los falsos, como por ejemplos las expresiones faciales o movimientos cortados que nos dan una señal de que puede ser un video manipulado.
- 3. Caras: el cuello, la cara, la boca y los ojos son una forma sencilla de darse cuenta de que es un deepfake, ya que los archivos falsos suelen ser primeros planos de las caras, por lo tanto, si se observa en detalle la forma de hablar, los dientes, y la rapidez con que se cierran los ojos, se aumentan las probabilidades de detectar esos fallos.
- 4. Sonido: los vídeos no sincronizan al 100% de forma correcta el sonido y la imagen, por lo que no suele coincidir el movimiento de los labios con la voz.
- 5. Sombras/iluminación: las fotos o videos falsos poseen una pequeña diferencia en la iluminación y las sombras comparado a las reales, con fallas como por ejemplo bordes borrosos o detalles antinaturales.
Con información de El Universal y Mercado
