02511 Ethische Risikobewertung von KI-Systemen mit MEESTAR

Dieser Beitrag thematisiert die Notwendigkeit, Ethik als harten, strategischen Faktor (KPI) in die KI-Transformation von Unternehmen zu integrieren, anstatt sie als reines „Nice-to-have” zu betrachten. Es wird argumentiert, dass der rein juristische und checklistengestützte Umgang mit KI-Risiken oft zu einem „Compliance-Infarkt” und enormen Reputationsschäden führt, da KI-Anwendungen komplexe soziotechnische Systeme sind, die tief in menschliches Verhalten und gesellschaftliche Erwartungen eingreifen. Als pragmatischer Lösungsansatz wird MEESTAR (Modell zur Ethischen Evaluierung Sozio-Technischer Arrangements – das ursprünglich für den Bereich der Pflege entwickelt wurde) für die KI-Governance adaptiert, um Ethik operabel zu machen und als Frühwarnsystem für die „Brand Safety” – Markensicherheit – einzusetzen. Das Modell strukturiert die ethische Bewertung anhand von drei Kernbereichen:

Kriterien
KI-Systeme werden systematisch anhand der Kriterien

geprüft. Dies zwingt Unternehmen dazu, Spannungsfelder (Trade-offs) – etwa zwischen der Effizienz eines Systems und der Autonomie der Nutzerinnen und Nutzer – offenzulegen und zu moderieren

Mikro, Meso, Makro
Strategische Entscheidungen scheitern oft, wenn sie nur den Nutzen für die Organisation (Meso-Ebene) optimieren. MEESTAR fordert, Auswirkungen gleichzeitig auf das Individuum (Mikro-Ebene, z. B. Überwachungsdruck auf Mitarbeitende) und die Gesellschaft (Makro-Ebene, z. B. systemische Diskriminierung) zu analysieren, um Boykotte oder den Verlust von Fachkräften zu vermeiden.

Bewertungsschema
Das Framework liefert ein Bewertungsschema, das von Stufe eins (völlig unbedenklich) bis Stufe vier (absolutes Stoppschild, z. B. Social-Scoring) reicht. Es ermutigt das Management dazu, toxische KI-Modelle frühzeitig zu stoppen. Ein rechtzeitiger Projektabbruch bewahrt Unternehmen vor dem Collingridge-Dilemma – der Situation, in der ein fertiges System schwere Schäden verursacht, aber kaum noch abzuändern ist.

Ihr CTO hat glänzende Augen
Der CTO präsentiert die Roadmap für die „KI-Transformation”. Hunderte Millionen Euro an Potenzial. Effizienzsprünge, die bisher undenkbar waren. Predictive Maintenance auf Steroiden. Und dann blicken Sie in die Gesichter Ihrer Rechtsabteilung. Bleichheit. Panik. In den Händen halten sie den AI Act, die DSGVO und eine Liste von ISO-Normen, die so dick ist wie ein Telefonbuch. Sie spüren es sofort. Das ist kein konstruktiver Dialog. Das ist ein Frontalzusammenstoß?

Compliance-Infarkt
Wir erleben gerade eine Lähmungserscheinung, die als Compliance-Infarkt bezeichnet werden kann. Einerseits der unternehmerische Überlebensdrang mit den Narrativ, wer jetzt nicht bei sogenannter künstlicher Intelligenz einsteigt, wird in fünf Jahren nicht mehr existieren, denn die Konkurrenz aus den USA und China schlafe ja nie. Andere Länder warten nur darauf, dass Europa sich eigenen Regulierungsketten verheddert. Andererseits schwebt die Angst vor drakonischen Bußgeldern wie ein Damoklesschwert über den Köpfen der Entscheiderinnen und Entscheider. Ein Fehler bei der Implementierung der sogenannte KI-basierten Recruiting-Software und die Bilanz bricht zusammen.

Die meisten Unternehmen reagieren darauf mit dem, was sie am besten können: Sie erstellen Checklisten. Checklisten sind in der Compliance-Abteilung sehr beliebt, denn sie vermitteln das beruhigende Gefühl von Kontrolle. „Liegt die Einwilligung der Nutzerinnen und Nutzer vor?” Check. „Ist die Datensicherheit gewährleistet?” Check. „Haben wir ein Risiko-Management-System?” Check. Doch genau darin kann ein fundamentaler Irrtum liegen. Diese Art der klinischen Herangehensweise ist zeitaufwendig, teuer und schützt das Unternehmen nicht im Ernstfall, denn die sogenannte künstliche Intelligenz stellt eine neue Qualität von Risiko dar.

Soziotechnische Arrangements
Sogenannte KI-Anwendungen sind keine statische Software, sondern gehören zum Bereich soziotechnischer Arrangements. Das bedeutet, dass Technik mehr und mehr untrennbar mit menschlichem Verhalten sowie gesellschaftlichen Erwartungen verwoben ist. Wenn der Algorithmus aufgrund der zugrundeliegenden Daten bspw. bei Vorsortierung von Bewerbungsunterlagen diskriminiert, nützt auch eine perfekt ausgefüllte Checkliste zur DSGVO wenig. Der Reputationsschaden ist enorm, Kundinnen und Kunden springen ab und der Markt bestraft solches Fehlverhalten sofort.

Vertrauen als zentrale Währung
Ethik und Recht dürfen insbesondere im Zeitalter von sogenannter KI nicht als Bremsklötze betrachtet werden, sondern das Gegenteil ist der Fall. In einer Welt, die von Black-Box-Algorithmen und ubiquitärer Technik durchdrungen wird und die Prozesse zahlreicher Unternehmen bereichern, wird Vertrauen zu einer zentralen Währung.

Gleichzeitig gilt, der ausschließliche Blick auf Paragrafen übersieht die menschliche Dimension. Die Vulnerabilität von Mitarbeiterinnen und Mitarbeitern, sowie Kundinnen und Kunden. In der Pflege- und Medizintechnik ist diese Verletzlichkeit offensichtlich. Dort geht es häufig um Leben und Tod. Die Verletzbarkeit von Menschen endet jedoch nicht im Gesundheitsbereich, denn sie ist nicht geringer, wenn eine sogenannte künstliche Intelligenz über die Karrierechancen eines jungen Vaters oder einer jungen Mutter, einem Karrierestarter oder älteren Person entscheidet.