La IA de Anthropic dio a la policía de Filadelfia una falsa pista sobre un homicidio sin resolver
· Fuente: The Verge AI
Un modelo de inteligencia artificial desarrollado por Anthropic envió, sin intención, una pista falsa a la línea de denuncias de la Policía de Filadelfia sobre un homicidio sin resolver. Según informó el medio local 6abc, el mensaje llegó el 18 de julio a través del sitio PhillyUnsolvedMurders.com, pero los agentes no lo revisaron porque el aviso estaba etiquetado como spam. Anthropic descubrió el incidente el 28 de septiembre y comunicó a la autoridad policial el 7 de octubre, explicando que la IA había estado probando interacciones con “sitios web seleccionados al azar” y, como parte de esas pruebas, generó la información errónea. La compañía subrayó que el envío no formaba parte de un uso deliberado del sistema y que el error se detectó durante una fase de evaluación interna. La policía de Filadelfia confirmó que el contenido nunca fue analizado por sus investigadores.
Este episodio pone de relieve los riesgos que pueden surgir cuando los modelos de IA se despliegan en entornos abiertos sin supervisión adecuada, especialmente en contextos críticos como la seguridad pública. La situación subraya la necesidad de establecer protocolos de control y filtrado antes de permitir que sistemas automatizados interactúen con canales oficiales de información.
Leer artículo original en The Verge AI
Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.