Manifiesto de ética de la IA
Diez líneas que rigen cómo OWI Labs modela una organización: qué representa el gemelo, en qué nunca se le permite convertirse y quién sigue siendo responsable de la decisión.
Modelamos organizaciones, no personas.
El gemelo representa la estructura: cómo circula el trabajo, dónde se toman de verdad las decisiones, en quién recae la responsabilidad. Las personas empleadas, una a una, son la fuente de esa imagen, y nunca se elabora un perfil, una puntuación ni un expediente de una persona con nombre y apellidos. Si un hallazgo solo puede formularse sobre una única persona, no entra en el modelo.
Workforce Intelligence no es vigilancia.
OWI no lee pulsaciones de teclado, correos electrónicos, calendarios ni actividad en tiempo real. Lo que alimenta el modelo es una conversación anónima de 30 minutos por persona, en inglés o en francés, en el momento que cada persona elige y con el propósito indicado de antemano, y las respuestas se agregan antes de que nadie en la organización cliente las vea. La monitorización continua de personas concretas es otra categoría de herramienta, y no es la que construimos.
Lógica transparente, no autoridad de caja negra.
Cada patrón y cada recomendación de un informe se remonta a una regla o a una evidencia que podemos enunciar en lenguaje llano. Si un hallazgo no puede recorrerse paso a paso con el cliente que lo lee, no se entrega. Un modelo que nadie puede interrogar no es inteligencia, es una opinión en una tipografía segura de sí misma.
Los modelos computacionales son representaciones, no la realidad.
Al gemelo le exigimos un único criterio: la descripción más exacta de cómo funciona de verdad la organización que las evidencias permitan sostener, construida a partir de lo que dijeron las personas que la integran y no a partir de un organigrama o de un diagrama de procesos. Una representación se gana su autoridad mostrando cómo se ha llegado a ella, no pretendiendo ser la cosa misma. Cuando una lectura es incierta o las evidencias que la sustentan son escasas, el informe lo dice en lugar de redondear al alza para parecer más acabado.
Las decisiones humanas exigen responsabilidad humana.
Los resultados de OWI orientan las decisiones, no las toman. Ningún flujo de trabajo que construimos permite que un resultado automatizado desencadene por sí solo una medida con consecuencias. Una reorganización, un cambio de funciones, una decisión de plantilla: una persona lee las evidencias, decide y asume la decisión. El modelo puede poner las evidencias sobre la mesa. No puede ser quien responda de lo que se haga con ellas.
El sesgo es estructural antes que algorítmico.
Antes de ejecutar cualquier detección de patrones, examinamos quién estuvo y quién no estuvo en la conversación, y si las preguntas se inclinaban hacia una parte de la organización. Un modelo construido sobre una muestra sesgada reproduce ese sesgo por muy cuidadoso que sea el análisis posterior, de modo que qué partes de la organización participaron, y cuáles no, se indica en el propio entregable en lugar de quedar como una nota a pie de página.
La gobernanza de datos no es negociable.
Recopilamos lo que un proyecto necesita y nada más, cifrado en tránsito y en reposo, conservado solo mientras el proyecto lo requiera y accesible únicamente para las personas que lo llevan a cabo. Construido conforme a los estándares de la Ley 25 (Quebec, «Loi 25»), PIPEDA y el RGPD desde la primera conversación. Los datos recopilados para un cliente nunca se usan para entrenar un modelo para otro.
La simulación no implica respaldo.
Modelar un escenario muestra lo que ese escenario produciría. No es una recomendación de seguirlo. Una vía de adopción de la IA, una opción de reestructuración, una secuencia de fusión: simulamos opciones precisamente para que quien dirige pueda ver cuáles son malas ideas antes de comprometerse con una. Mostrar adónde lleva un camino y defenderlo son actos distintos, y el informe está escrito para mantenerlos separados.
La asimetría de poder exige una responsabilidad activa.
Las personas cuyo trabajo diario estudiamos rara vez tienen la capacidad de influencia de los directivos que encargan el estudio. Ese desequilibrio implica que el deber de protegerlas no termina en el consentimiento. Pasa por los umbrales de agregación, la anonimización desde el diseño y el rechazo de proyectos concebidos para identificar a personas en lugar de entender la estructura.
Sometemos nuestros sistemas a escrutinio.
Tratamos nuestra propia metodología como algo que debe comprobarse, no como algo en lo que se confía por defecto. Un cliente puede preguntar cómo se obtuvo cualquier hallazgo concreto y recibir el razonamiento que condujo a él. La revisión externa de nuestros controles de anonimización y de sesgo es bienvenida, no algo a lo que nos resistamos. Un manifiesto que no puede cuestionarse no es una práctica ética, es una página de marketing, y este pretende ser lo primero.