Extorsiona familias y gana concursos: cuando la IA va demasiado lejos
POLÉMICAS. Un fotógrafo alemán rechazó recibir un importante premio al revelar que había generado la imagen con la tecnología. El "cuento del tío" también evolucionó en Arizona.
Redacción
Distintos incidentes ocurridos en las últimas semanas han acrecentado el debate sobre los usos de la Inteligencia Artificial (IA). Uno es el caso de un alemán que se apoyó en esta tecnología para ganar un concurso de fotografía. El otro, el de unos delincuentes en Arizona, Estados Unidos, que usaron la clonación de voz para extorsionar a una familia.
Según relató el New York Post, el famoso "cuento del tío" evolucionó con la inteligencia artificial para aprovecharse de la familia DeStefano.
Timadores contactaron a Jennifer DeStefano a través de una llamada de una de "sus hijas supuestamente secuestrada", según reportó el medio.
De acuerdo a la publicación, los delincuentes aprovecharon la IA para clonar la voz de la hija de Jennifer, haciéndole creer que la habían secuestrado, y le exigieron un millón de dólares para no hacerle daño.
Jennifer declaró que no dudó que fuera la voz de su hija, que no solo emitió palabras sino que también llantos, gritos y sollozos, lo que aportó verosimilitud al intento de extorsión, que fue fallido.
A través de otra línea, Jennifer logró contactarse con su hija y asegurarse de que no estaba en peligro.
A pesar de los delincuentes no tuvieron éxito, Jennifer declaró al medio que, además de la voz, las palabras utilizadas y la forma de hablar de la IA la tenían completamente convencida de que era su hija.
LAS REDES SOCIALES
En la publicación de New York Post se detalló que la identidad del atacante cibernético se desconoce, pero expertos en informática de Arizona alertaron sobre la evolución que ha tenido esta rama de la IA y que tanto la voz como la forma de hablar de una persona se puede recrear a partir de breves fragmentos de sonido, incluso de solo tres segundos.
Subbarao Kambhampati, profesor de informática y experto en IA de la Universidad Estatal de Arizona, explicó que con solo tres segundos de una grabación ya es posible "clonar" la voz de una persona, y que con más material, por ejemplo videos en redes sociales, se puede imitar perfectamente la "inflexión" y "emoción" de una persona.
En declaraciones al mismo medio, expertos del FBI advirtieron de los peligros de tener este tipo de material en redes sociales. "Si tienes tu información pública, te estás permitiendo ser estafado por personas como esta", dijo Dan Mayo, asistente del agente especial a cargo de la oficina del FBI en Phoenix.
En esa línea, y ante el aumento de casos como este, Mayo recomendó hacerle al timador muchas preguntas sobre el "secuestrado" que no podría saber, y también estar alerta por si la llamada viene desde un código de área desconocido o un número internacional.
Rechaza premio
En otro hecho tan audaz como el anterior, el artista alemán Boris Eldagsen rechazó el primer puesto en el Sony World Photography Awards 2023, ya que, según reveló, la imagen que envió no fue tomada por él, sino que fue generada con IA.
A través de una publicación en su blog, Eldagsen señaló que su pieza, llamada "The Electrician", es la "primera imagen generada por IA que gana un prestigioso concurso internacional de fotografía".
El alemán, en todo caso, afirmó que hizo esto para abrir un debate al respecto. "Las imágenes de IA y la fotografía no deberían competir entre sí en un premio como este. Son entidades diferentes. La IA no es fotografía. Por lo tanto, no aceptaré el premio", aseguró.
"Así como la fotografía reemplazó a la pintura en la reproducción de la realidad, la IA reemplazará a la fotografía", agregó el artista.
Eldagsen finalizó señalando que "me postulé como un descarado, para averiguar si los concursos están preparados para que las imágenes de las IA ingresen (a las competencias). No lo están. Nosotros, el mundo de la fotografía, necesitamos un debate abierto (...) Con mi rechazo del premio espero acelerar este debate".