La empresa Anthropic reveló que uno de sus modelos de IA envió un aviso falso de homicidio al Departamento de Policía de Filadelfia. La compañía retuvo esta información durante más de dos meses antes de informar a las autoridades, lo que reavivó el debate sobre la falta de regulación en la inteligencia artificial.
Ante este incidente, la Casa Blanca emitió una directiva a través de su Fuerza de Superinteligencia, solicitando a la industria de IA que reporte inmediatamente incidentes de agentes fuera de control. Aunque la orden marca un paso hacia la rendición de cuentas, aún no se han establecido plazos ni sanciones específicas para estos casos.
Fuente: techtimes.com — https://www.techtimes.com/articles/328914/20261012/anthropics-ai-filed-fake-murder-tip-white-house-reply-rogue-agent-hacks-lacks-penalties.htm
Acerca del Autor
