El término Caja Negra (Black Box) en el contexto de la inteligencia artificial y el aprendizaje automático se refiere a modelos o sistemas cuyo funcionamiento interno es opaco o difícil de interpretar. Aunque estos modelos pueden tomar decisiones precisas y efectivas, como en el caso de redes neuronales profundas, es complicado entender cómo llegaron a una conclusión específica debido a su complejidad.

En una caja negra, los algoritmos procesan grandes volúmenes de datos y realizan cálculos que no son fácilmente comprensibles por los humanos, lo que plantea desafíos en términos de transparencia, explicabilidad y confianza en los resultados. Esto puede ser problemático, especialmente cuando se utilizan en aplicaciones críticas como la toma de decisiones médicas, financieras o legales.

Superar la "caja negra" es uno de los grandes retos actuales en la IA, y se están desarrollando técnicas para mejorar la interpretabilidad de los modelos y garantizar que las decisiones automatizadas sean justas y comprensibles.