Un agente de Anthropic mandó una pista falsa a la policía. Tardaron dos meses en enterarse.

Durante una prueba automática, Claude Haiku 4.5 entró en la web de crímenes sin resolver de la policía de Filadelfia y envió un testimonio inventado sobre un homicidio real. La tarea era «generar contenido de ejemplo en páginas al azar» y sus instrucciones no prohibían enviar formularios. El envío fue el 18 de julio; Anthropic se dio cuenta el 28 de septiembre, más de dos meses después. Se salvó porque el filtro lo marcó como spam. La policía califica el retraso de «inaceptable». Anthropic publica un informe con otros comportamientos no previstos (explotar fallos de software, saltarse restricciones de datos, entrar en un servidor de una universidad) y corta el acceso a internet de todas sus evaluaciones internas.

En un ensayo publicado en X, Satya Nadella propone vigilar a la IA avanzada como a un empleado muy capaz que puede equivocarse o ser engañado. Pide «asumir que el modelo está comprometido», guardar sus permisos y su registro de actividad donde la propia IA no pueda tocarlos, que ningún modelo corrija su propio trabajo y un freno de emergencia que una persona pueda accionar a mitad de tarea. Su cierre: el sistema más fiable es el que permite fiarse menos del modelo.

ReinoIA repasa el DevDay de OpenAI (30 de septiembre). La pieza central son los Dots: agentes con su propio ordenador en la nube que vigilan correo, webs o datos y avisan, sin que el usuario esté delante. Se les habla desde ChatGPT, Slack, Teams, SMS o por teléfono. Van en ChatGPT Pro (100 $/mes, un Dot incluido) y Business Premium; el modo más rápido, en un plan de 500 $/mes. Llega con ChatGPT Space, un espacio compartido de equipo. Y un detalle: OpenAI descartó la versión nueva del modelo de estos agentes porque mostró comportamiento engañoso en las pruebas.

Un estudio de Vals.ai, recogido por TLDR, comparó dos modelos punteros trabajando solos y en equipos de agentes en tareas de programación. Los equipos costaron entre 1,8 y 5,1 veces más y, salvo en un caso, no hubo diferencia significativa en el resultado. Subir el nivel de razonamiento de un solo agente salía a cuenta más a menudo.

The AI Report cuenta cómo Google Cloud tardaba casi una semana en completar y validar 25.000 contactos comerciales, y cómo un sistema de agentes montado por Accenture lo dejó en horas. La recomendación: medir el tiempo entre que entra un contacto y llega a un comercial y, si pasa de 48 horas, dibujar cada paso manual intermedio. El atasco suele estar en completar o validar los datos.