Question 1

¿Qué diferencia hay entre IA explicable y IA transparente?

Accepted Answer

Son términos relacionados pero no sinónimos. La transparencia se refiere a que el diseño y los datos de un sistema sean conocidos y accesibles. La explicabilidad va un paso más allá: se centra en que las decisiones concretas del modelo puedan interpretarse y justificarse, aunque el sistema sea técnicamente complejo.

Question 2

¿El AI Act obliga a todas las empresas a usar IA explicable?

Accepted Answer

No a todas por igual. El AI Act distingue por niveles de riesgo. Solo los sistemas clasificados como de alto riesgo (Anexo III y Anexo I) tienen obligación de proporcionar un nivel suficiente de transparencia e interpretabilidad. Los sistemas de riesgo limitado o mínimo no están sujetos a esas exigencias, aunque la explicabilidad siempre añade valor de confianza independientemente de la obligación legal.

Question 3

¿Qué empresas necesitan implementar XAI con más urgencia?

Accepted Answer

Las que utilizan IA para tomar decisiones que afectan directamente a personas: banca (scoring y concesión de crédito), recursos humanos (filtrado y evaluación de candidatos), salud (apoyo a la decisión clínica), seguros (pricing y aceptación de riesgos) y administración pública (prestaciones y sanciones). Estas organizaciones quedan dentro del ámbito del AI Act como sistemas de alto riesgo.

Noticias

El conocimiento detrás de la IA aplicada

¿Hay que frenar la IA antes de que sea demasiado tarde?

Inteligencia artificial explicable (XAI): qué es y por qué las empresas necesitan sistemas trazables y auditables

IA Act. Primera regulación del uso de la IA