KI-Ethik-Manifest
Zehn Zeilen, die festlegen, wie OWI Labs eine Organisation modelliert: was der Zwilling darstellt, was er niemals werden darf und wer für die Entscheidung verantwortlich bleibt.
Wir modellieren Organisationen, nicht Menschen.
Der Zwilling bildet Struktur ab: wie Arbeit fließt, wo Entscheidungen tatsächlich fallen, wo Verantwortung liegt. Die einzelnen Mitarbeitenden sind die Quelle dieses Bildes, und für eine namentlich bekannte Person wird nie ein Profil, eine Bewertung oder ein Dossier angelegt. Lässt sich ein Befund nur über eine einzelne Person aussagen, geht er nicht in das Modell ein.
Workforce Intelligence ist keine Überwachung.
OWI liest keine Tastatureingaben, keine E-Mails, keine Kalender und keine Aktivität in Echtzeit. Was das Modell speist, ist ein anonymes 30-minütiges Gespräch pro Person, auf Englisch oder Französisch, zu einem selbst gewählten Zeitpunkt und mit vorab genanntem Zweck, und die Antworten werden aggregiert, bevor jemand in der Kundenorganisation sie sieht. Die laufende Überwachung einzelner Personen ist eine andere Kategorie von Werkzeug, und wir bauen sie nicht.
Transparente Logik, keine Blackbox-Autorität.
Jedes Muster und jede Empfehlung in einem Bericht führt zurück auf eine Regel oder einen Beleg, den wir in einfachen Worten benennen können. Lässt sich ein Befund mit dem Kunden, der ihn liest, nicht Schritt für Schritt nachvollziehen, wird er nicht ausgeliefert. Ein Modell, das niemand befragen kann, ist keine Intelligenz, sondern eine Meinung in selbstbewusster Schrift.
Rechenmodelle sind Darstellungen, nicht die Wirklichkeit.
Wir messen den Zwilling an einem einzigen Maßstab: dem genauesten Bild davon, wie die Organisation tatsächlich arbeitet, das die Belege tragen, gebaut aus dem, was die Menschen darin gesagt haben, nicht aus einem Organigramm oder einem Prozessdiagramm. Eine Darstellung gewinnt ihre Autorität, indem sie ihre Herleitung offenlegt, nicht indem sie behauptet, die Sache selbst zu sein. Wo eine Lesart unsicher ist oder die Belege dahinter dünn sind, sagt der Bericht das, statt aufzurunden, um fertiger auszusehen.
Menschliche Entscheidungen verlangen menschliche Verantwortung.
Die Ergebnisse von OWI stützen Entscheidungen, sie treffen sie nicht. Kein Arbeitsablauf, den wir bauen, lässt ein automatisiertes Ergebnis von sich aus einen folgenreichen Schritt auslösen. Eine Umstrukturierung, eine Rollenänderung, eine Personalentscheidung: Ein Mensch liest die Belege, entscheidet und steht dafür ein. Das Modell kann die Belege auf den Tisch legen. Es kann nicht dasjenige sein, das für den Umgang damit zur Verantwortung gezogen wird.
Verzerrung ist strukturell, bevor sie algorithmisch ist.
Bevor irgendeine Mustererkennung läuft, sehen wir uns an, wer am Gespräch beteiligt war und wer nicht, und ob die Fragen zu einem Teil der Organisation hin gewichtet waren. Ein Modell, das auf einer schiefen Stichprobe aufbaut, reproduziert diese Schieflage, so sorgfältig die nachgelagerte Analyse auch sein mag. Welche Teile der Organisation teilgenommen haben und welche nicht, steht deshalb im gelieferten Bericht selbst und nicht in einer Fußnote dazu.
Datengovernance ist nicht verhandelbar.
Wir erheben, was ein Mandat braucht, und nichts darüber hinaus: verschlüsselt bei der Übertragung und im Ruhezustand, nur so lange aufbewahrt, wie das Mandat es erfordert, und nur für die Menschen zugänglich, die es durchführen. Vom ersten Gespräch an nach den Maßstäben von Gesetz 25 (Québec, „Loi 25“), PIPEDA und DSGVO gebaut. Daten, die für einen Kunden erhoben wurden, dienen nie dazu, ein Modell für einen anderen zu trainieren.
Eine Simulation ist keine Befürwortung.
Ein Szenario zu modellieren zeigt, was dieses Szenario hervorbringen würde. Es ist keine Empfehlung, es zu verfolgen. Ein Pfad der KI-Einführung, eine Restrukturierungsoption, eine Fusionsabfolge: Wir simulieren Optionen gerade deshalb, damit eine Führungskraft sehen kann, welche davon schlechte Ideen sind, bevor sie sich auf eine festlegt. Zu zeigen, wohin ein Weg führt, und für ihn zu werben, sind zwei verschiedene Handlungen, und der Bericht ist so geschrieben, dass er sie auseinanderhält.
Die Asymmetrie der Macht verlangt aktive Verantwortung.
Die Menschen, deren tägliche Arbeit wir untersuchen, haben selten den Einfluss der Führungskräfte, die die Untersuchung in Auftrag geben. Dieses Ungleichgewicht bedeutet, dass die Pflicht, sie zu schützen, nicht bei der Einwilligung endet. Sie reicht weiter: über Aggregationsschwellen, Anonymisierung von Grund auf und die Ablehnung von Mandaten, die darauf angelegt sind, Einzelne zu identifizieren, statt Strukturen zu verstehen.
Wir stellen unsere Systeme auf den Prüfstand.
Wir behandeln unsere eigene Methodik als etwas, das zu prüfen ist, nicht als etwas, dem man von vornherein vertraut. Ein Kunde kann fragen, wie ein bestimmter Befund zustande kam, und erhält die Herleitung. Eine externe Überprüfung unserer Anonymisierungs- und Verzerrungskontrollen ist willkommen, nicht unerwünscht. Ein Manifest, das sich nicht infrage stellen lässt, ist keine ethische Praxis, sondern eine Marketingseite, und dieses hier soll Ersteres sein.