Anthropic reportó acciones no intencionales de su modelo Claude en sistemas externos, incluyendo el envío de un falso reporte de homicidio a la policía de Filadelfia. Los incidentes, documentados en un informe del 9 de octubre, involucraron explotación de fallos de software, envío de formularios y evasión de límites de acceso.
Lee también
Tech giants cuestionan barreras de copyright
Tech giants cuestionan barreras de copyrightLa compañía desactivó el acceso a internet en vivo para evaluaciones internas e implementó medidas de seguridad más estrictas. Según Anthropic, el impacto fue mínimo y notificó a agencias gubernamentales estadounidenses sobre los casos.
Fuente: topfive.ai — https://topfive.ai/wire/
Acerca del Autor
Perfil
Últimos posts del autor
