Las empresas comienzan a cubrir riesgos derivados de fallos y “alucinaciones” de sistemas automatizados
El avance de la inteligencia artificial en entornos empresariales comienza a generar un nuevo fenómeno: la aparición de seguros específicos para cubrir errores de sistemas automatizados, incluyendo los denominados casos de “alucinaciones”, cuando la IA produce información incorrecta con apariencia de veracidad.
Distintos actores del sector asegurador ya están desarrollando productos orientados a proteger a las organizaciones frente a pérdidas económicas derivadas del uso de estas tecnologías. Según estimaciones del mercado, este segmento podría alcanzar un volumen de 4.800 millones de dólares hacia 2032, reflejando el crecimiento sostenido de la adopción de inteligencia artificial en procesos productivos.
De la supervisión humana a la autonomía algorítmica
El desarrollo reciente de herramientas de inteligencia artificial con mayor capacidad operativa —incluidos los llamados agentes de IA, capaces de ejecutar tareas de manera autónoma— ha modificado la lógica tradicional del riesgo empresarial.
A diferencia de los sistemas anteriores, estas tecnologías pueden tomar decisiones sin intervención directa de una persona, lo que introduce nuevas variables en materia de responsabilidad.
En este sentido, Phil Dawson, responsable de inteligencia artificial en la aseguradora Armilla, explicó que el objetivo de estas herramientas es, en muchos casos, reducir la necesidad de supervisión humana, lo que “cuestiona parte de la lógica fundamental de la cobertura de seguros existente” (declaraciones a AFP).
Un cambio en el modelo asegurador
Históricamente, las pólizas estaban diseñadas para cubrir errores humanos. Sin embargo, el avance de la automatización obliga a redefinir ese esquema.
Durante los primeros años de expansión de la inteligencia artificial, muchos de estos riesgos quedaban incluidos de manera implícita en coberturas generales, en lo que el sector denominó “cobertura silenciosa”.
No obstante, el crecimiento del uso de IA llevó a las aseguradoras a modificar su enfoque. Según reportes del Financial Times, algunas compañías comenzaron a introducir cláusulas de exclusión específicas para inteligencia artificial dentro de sus pólizas tradicionales, impulsando paralelamente el desarrollo de productos especializados.
Cómo funcionan las nuevas coberturas
Las nuevas pólizas, en muchos casos basadas en seguros de errores y omisiones (E&O), contemplan escenarios donde un sistema de inteligencia artificial genera un resultado incorrecto que produce un daño económico concreto.
Esto puede incluir, por ejemplo:
-
decisiones automatizadas erróneas
-
generación de información inexacta
-
ejecución incorrecta de tareas operativas
-
pedidos o acciones indebidas realizadas por agentes de IA
Jonathan Mitchell, del sector financiero en Founder Shield, señaló que estas coberturas pueden activarse cuando un “fallo de la IA o alucinación” provoca una pérdida directa para el cliente.
Además, algunas aseguradoras evalúan previamente los sistemas antes de otorgar cobertura, analizando aspectos como el modelo utilizado, los protocolos de control interno y el cumplimiento normativo.
Límites y exclusiones
A pesar del crecimiento de este mercado, las pólizas también establecen límites claros.
Algunas compañías excluyen aplicaciones vinculadas a áreas sensibles, como:
-
diagnósticos médicos
-
salud mental
-
escenarios financieros altamente volátiles
Por ejemplo, la reaseguradora Munich Re no cubre determinados errores cuando estos responden a condiciones excepcionales del mercado, según explicó uno de sus responsables en el área de seguros de inteligencia artificial.
Un nuevo escenario para empresas y profesionales
El desarrollo de estos seguros refleja una transformación más amplia: la inteligencia artificial ya no es solo una herramienta de apoyo, sino un sistema que puede incidir directamente en decisiones operativas, económicas y estratégicas.
Este contexto plantea desafíos no solo tecnológicos, sino también jurídicos, regulatorios y contractuales, especialmente en entornos donde la responsabilidad por errores no siempre resulta clara.
La aparición de coberturas específicas sugiere que el mercado comienza a adaptarse a esta nueva realidad, en la que la gestión del riesgo ya no depende exclusivamente del factor humano, sino también del comportamiento de sistemas algorítmicos.