DeepMind avisa de incidentes graves con IA; tu cartera empieza por no regalar los datos del cliente

Son las diez de la noche. Le pegaste al cliente el expediente médico completo en un chat de IA para que te resumiera la póliza que le conviene. Tardó cuarenta segundos y quedó perfecto.

No le preguntaste adónde se fue ese expediente. Ese es el problema.

Qué dijo DeepMind y por qué te toca

En la Cumbre Internacional de IA en Dublín, Demis Hassabis, presidente de Google DeepMind, avisó que los agentes autónomos de inteligencia artificial podrían provocar “incidentes graves” de aquí a uno o dos años si las empresas y los gobiernos no refuerzan su seguridad (El Economista, 14 de octubre de 2026).

Los casos de pérdida de control que ya se vieron “son, en cierto modo, señales de alerta”, dijo. Y avisó de hackeos hechos por agentes de IA autónomos.

Suena a película. Para la agencia de seguros de a pie, el aviso se traduce a algo mucho más casero.

El incidente grave que ya puede pasar en tu escritorio

Hassabis habla de agentes que se salen de control. Tú no entrenas agentes. Pero todos los días haces lo que en seguridad se llama “exfiltración a mano”: pegas datos del cliente en una herramienta sin preguntar adónde van.

Y tu giro es de los que más datos sensibles junta.

• Historial médico y enfermedades preexistentes.
• Ingresos, CURP y beneficiarios.
• Pólizas de vida, que valen más para un ratero que el número de tarjeta.

Eso no es información cualquiera. Es justo lo que la LFPIORPI protege y lo que, si se filtra, te cuesta la confianza y puede costarte una multa. El “incidente grave” del futuro lejano ya está hoy en tu portapapeles.

La semana que casi nadie revisa

La advertencia de Hassabis tiene una confirmación que ningún agente quiere escuchar: los sistemas todavía no se han roto de forma grave porque sus capacidades son limitadas. “Hay mucho trabajo por hacer”, dijo.

En tu agencia, ese “mucho trabajo” es esto:

1. Saber qué herramienta toca qué dato. La que resume pólizas no necesita el RFC del asegurado.
2. Enmascarar antes de pegar. Borra nombre, CURP y datos de contacto cuando la IA solo debe leer el riesgo.
3. Revisar una vez al mes qué accesos tiene cada herramienta y quién los usa. Lo que no usas, lo quitas.

Sin eso, cada cotización es un volado. Y el volado en seguros no paga comisión, paga multas.

¿Qué parte le toca a la IA?

Aquí está lo incómodo: la IA es justo lo que más ayuda a un agente solo, y justo lo que más riesgo trae si se usa sin reglas.

Lo que sí hace hoy por ti:

• Leer una póliza larga y dejarte el resumen con lo que cambia respecto a la anterior.
• Armar la renovación de pólizas con días de anticipación, para que no se te caiga la cartera por olvido.
• Redactar el correo de seguimiento al cliente que no contestó, como ya se hace para el seguro de vida.

Lo que no debe hacer: quedarse con el expediente completo del cliente, decidir la exclusión de una prepatología o mandar datos a un servicio del que no sabes la política de privacidad. Eso es criterio tuyo y papel tuyo, no prompt.

Por dónde empiezas esta semana

Abre la herramienta de IA que más usas y revisa una sola cosa: tu historial de conversaciones. Si ahí aparece un CURP, un diagnóstico o un ingreso sin tachar, ese es el “incidente grave” que Hassabis te avisó, pero en tu propio escritorio.

Bórralo. Y de aquí en adelante, el dato sensible no se pega: se resume. Ese es el siguiente paso.