Exactamente 30 días después de que Anthropic admitiera que los modelos de IA de Claude hackearon por su cuenta a tres empresas, la compañía de inteligencia artificial ha anunciado que reanudará las pruebas externas. La firma estadounidense ha informado en un comunicado del 31 de agosto que se han implementado nuevos controles para detectar en tiempo real “cuando un modelo intenta escapar de un entorno de prueba u obtiene acceso a Internet“. Esta nueva medida de protección promete bloquear estas tentativas antes de que se ejecuten, dar por finalizadas las evaluaciones y alertar de manera inmediata a un humano.
La compañía admite “fallos de seguridad operacional” y asegura que ha tomado medidas para impedir nuevos ataques
Exactamente 30 días después de que Anthropic admitiera que los modelos de IA de Claude hackearon por su cuenta a tres empresas, la compañía de inteligencia artificial ha anunciado que reanudará las pruebas externas. La firma estadounidense ha informado en un comunicado del 31 de agosto que se han implementado nuevos controles para detectar en tiempo real “cuando un modelo intenta escapar de un entorno de prueba u obtiene acceso a Internet“. Esta nueva medida de protección promete bloquear estas tentativas antes de que se ejecuten, dar por finalizadas las evaluaciones y alertar de manera inmediata a un humano.
Tecnología en EL PAÍS
