Las herramientas de inteligencia artificial (IA) se han establecido firmemente en el mundo empresarial chileno. Según el índice de transformación digital de la Cámara de Comercio de Santiago (CCS) y PMG Chile, la adopción de IA en los procesos de gestión se ha duplicado en los últimos años, especialmente en pymes y grandes empresas. El análisis de datos avanzado ya forma parte de la nueva infraestructura de gestión y su expansión parece imparable.
Sin embargo, este progreso plantea una pregunta fundamental: ¿Sabemos realmente para qué utilizamos toda esa información?
Vivimos en la era de los datos. Las organizaciones recopilan, procesan y analizan información a una velocidad sin precedentes. Pero el verdadero desafío no está en la capacidad tecnológica, sino en el sentido en que se utiliza. La relevancia de este fenómeno para la cumplimiento radica precisamente en su dimensión ética: en cómo definimos lo que se mide, cómo se interpreta y con qué propósito se utiliza.
El riesgo es obvio. En muchas áreas, él cumplimiento se ha transformado en un proceso automatizado: matrices de riesgo preprogramadas, alertas que nadie revisa con discreción, decisiones basadas en algoritmos que no entienden el contexto ni los valores detrás de una organización. El cumplimiento se convierte en una rutina mecánica, cuando el verdadero significado del cumplimiento es precisamente el opuesto: hacer lo correcto, con conciencia y propósito.
No se trata sólo de qué datos se utilizan, sino de qué los valores guían su uso. La creciente preocupación mundial por los sesgos en los sistemas de IA y los efectos de la automatización sin supervisión humana tiene un profundo trasfondo ético. Los algoritmos pueden replicar la discriminación o la injusticia invisible, contrariamente a los principios de integridad que el cumplimiento busca promover.
Es por eso, Las organizaciones deben realizar evaluaciones éticas del uso del análisis de datos.identificando riesgos y diseñando medidas correctivas que prioricen la ética sobre la eficiencia. En los procesos de selección, por ejemplo, los algoritmos pueden sesgar la contratación o la evaluación del desempeño si no se incorporan métricas de equidad o revisiones humanas. En el ámbito financiero, los sistemas de tanteo Pueden penalizar injustamente a ciertos grupos si no se detectan sesgos en las fuentes. La automatización sin conciencia puede convertirse en una nueva forma de exclusión.
Hablar de gobernanza del dato es, por tanto, hablar de gobernanza ética. No basta con asegurar la calidad o la trazabilidad de la información: Se requiere una cultura que integre principios de transparencia, equidad y sostenibilidad a lo largo del ciclo de decisión. Los comités de auditoría, cumplimiento y sostenibilidad deben evolucionar desde la función de control hacia la de interpretación estratégica, capaz de conectar indicadores con propósito y métricas con significado.
La IA no es enemiga de la ética, pero necesita un marco de integridad para gobernarla. Las herramientas pueden mejorar la transparencia y la rendición de cuentas si se utilizan con criterio humano, pero requieren educación, vigilancia y formación ética en plena transformación tecnológica que estamos viviendo.
Ha llegado el momento de la formación en ética digital y tecnológica: una nueva competencia organizacional que complementa la integridad financiera y administrativa. Porque, al final, El desafío no es tener más datos, sino más conciencia sobre cómo los usamos.
En la era de los algoritmos, La integridad sigue siendo nuestro mejor sistema operativo.
*El autor de la columna es director empresarial y socio de Eticolabora
