La publicación que la policía de Santa Ana difundió en Facebook a fines del mes pasado era alarmante: «SNAKE SIGHTING ALERT», advertía, junto a la fotografía de una víbora de Gabón enrollada, tomada por un residente local, que parecía sumamente venenosa y que podría andar suelta por la ciudad. Algunos usuarios sospecharon de inmediato que era falsa; otros reaccionaron con alarma. La policía intentó contener la inquietud anunciando que consultaría a un experto en serpientes. El 29 de septiembre llegó la aclaración: la foto era falsa, había sido generada con inteligencia artificial y la alerta fue fruto de una aparente broma de un residente. Los investigadores no lograron verificar el engaño de inmediato.
UN AVISO QUE NADIE PUDO COMPROBAR A TIEMPO
Para la policía, el episodio provocó «unnecessary fear, confusion and concern in our community». El caso dejó abierta una pregunta sobre la capacidad de las agencias públicas para verificar contenidos generados por IA a medida que esas herramientas se vuelven más comunes y accesibles. «Seeing is definitely not believing today», resumió Gene Tsudik, profesor distinguido de ciencias de la computación en la Universidad de California, Irvine.
El contexto explica la preocupación. Las grandes compañías del sector, entre ellas OpenAI, Google y Anthropic, siguen perfeccionando sus modelos generativos, y las imágenes resultantes son cada vez más difíciles de distinguir de una fotografía real.
OTROS EPISODIOS QUE GENERARON ALARMA
No se trata de un hecho aislado. En noviembre de 2025 circularon imágenes generadas por IA de una escuela secundaria de Texas en llamas, lo que generó preocupación aunque nunca hubo incendio. En mayo, un colegio de Luisiana fue puesto en confinamiento después de que un estudiante creara la imagen de una persona con un arma sentada junto a una ventana y las fuerzas de seguridad no pudieran confirmar de inmediato que era falsa. El 4 de octubre, un tribunal de Arizona anuló una sentencia después de que la familia de una víctima de un incidente de violencia vial usara su imagen para generar un video con IA que se reprodujo durante el proceso.
Melodi Dinçer, directora de la Digital Likeness Initiative del Institute for Tech Law and Policy de la UCLA, lo planteó sin rodeos: «Now we have to contend with people potentially submitting AI-generated images as valid evidence». A su juicio, las agencias de seguridad tendrán que lidiar con esto y la judicatura intenta adelantarse, porque el fenómeno afectará al proceso legal en varias dimensiones.
CALIFORNIA APURA SUS REGLAS
California implementó su AI Transparency Act el 2 de agosto. La norma, aprobada en septiembre de 2024, obliga a toda empresa de IA con más de un millón de usuarios en el estado a ofrecer herramientas públicas para detectar datos de procedencia, que identifican un texto, imagen o video como generado por IA. En mayo, OpenAI liberó su herramienta de verificación, que detecta metadatos C2PA y marcas de agua SynthID. Google anunció el 7 de octubre que su nuevo detector de SynthID reconoce la presencia de IA en imágenes, videos y audios propios y también en contenidos de OpenAI, NVIDIA y Kakao.
El calendario no termina ahí: el próximo año deberían regir exigencias para que las redes sociales muestren advertencias sobre contenido generado por IA y, en 2028, las reglas se extenderían a los dispositivos capaces de capturar imágenes y video. Apple anunció en septiembre que incorporaría Reference Image en sus modelos iPhone 18 Pro, que firmaría los píxeles de las imágenes y serviría como un «digitally negative» para comparar si una foto fue editada. La lógica, según Dinçer, es «capture the harm more upstream rather than downstream», esto es, presionar a las empresas y no a los individuos.
EL MÉTODO DE SIEMPRE
Las fiscalías y policías del sur de California consultadas dicen que usan esas herramientas públicas, pero que los investigadores siguen apoyándose en técnicas tradicionales. Jacquelyn Rodriguez, de la oficina de comunicaciones de la fiscalía del condado de San Bernardino, recordó que los documentos ya se manipulaban con programas como Photoshop mucho antes de la IA, de modo que el desafío de autenticidad no es nuevo, solo cambia la fuente. El departamento del sheriff del condado de Los Ángeles sostuvo que su unidad de fraudes y delitos informáticos tiene acceso a herramientas de autenticación, pero que estas «represent only a small part of the overall process used to determine whether a photograph or video is authentic»; sus detectives privilegian el examen humano, establecen cómo se obtuvo la evidencia y revisan los dispositivos originales de grabación.
Dinçer propone un enfoque múltiple, con análisis manual y forense. Las imágenes de IA suelen mostrar patrones de iluminación que no remiten a una fuente de luz, y la perspectiva falla: dos líneas paralelas que deberían converger en un punto de fuga aparecen distorsionadas. Tsudik, en tanto, describe una carrera armamentista al estilo del correcaminos y el coyote: «Nobody ever really wins», advierte, porque lo que hoy detectan las herramientas más sofisticadas puede dejar de ser detectable en días o semanas. Para él, el mayor riesgo social es el socavamiento de la confianza en los contenidos.
En nuestra lectura, la demora de una policía local en comprobar lo que ella misma había difundido parece más elocuente que cualquier régimen de etiquetado. Para abogados chilenos, el episodio podría mirarse como una invitación a revisar con cautela la prueba audiovisual que llega a un juicio, sin dar por sentado que una imagen se explica por sí misma.
Fuente: courant.com
Documento original: https://www.courant.com/2026/10/20/fake-ai-generated-images-are-more-convincing-than-ever-are-courts-and-police-ready-to-combat-them/
Nota del Editor: Fotografía referencial generada por Inteligencia Artificial.
Acerca del Autor
