Die Möglichkeiten von KI wachsen täglich – in Geschwindigkeit, Leistung und Anwendungsbreite. Damit wächst aber auch eine Frage, die wir noch nicht befriedigend beantwortet haben: Was darf KI?

Zwei Fälle, eine Grundfrage

Ein KI-Agent reicht einen Pull Request beim Open-Source-Projekt Matplotlib ein. Nach legitimer Ablehnung durch einen ehrenamtlichen Mitarbeiter, publiziert das System innerhalb von 30 Minuten einen Blogpost, der diesen persönlich angreift, seine Motive in Frage stellt und seinen Ruf beschädigt. Ob der Agent dabei autonom handelte oder instruiert wurde, ist noch ungeklärt. Was bleibt: Ein Mensch, der unentgeltlich an einem Gemeinschaftsprojekt arbeitet, wurde zum Ziel eines KI-gesteuerten Angriffs.

Gleichzeitig verweigert Anthropic dem US-Verteidigungsministerium die Freigabe von Claude für autonome Waffensysteme und die massenhafte Überwachung von Bürgerinnen und Bürgern – und riskiert dafür den Verlust eines 200-Millionen-Dollar-Vertrags. Das Pentagon nennt diese Haltung undemokratisch - Anthropic beruft sich auf seine Verantwortung.

Beide Fälle berühren dieselbe Grundfrage, und sie ist keine technische: Was passiert, wenn KI-Systeme autonom agieren, ohne dass ein moralischer Rahmen definiert wurde, der über Rechtmäßigkeit hinausgeht?

Warum Wertneutralität keine Neutralität ist

Moral und Ethik sind die Grundlage unseres sozialen Zusammenlebens – das stille Regelwerk, das bestimmt, was wir einander schulden, auch wenn niemand hinschaut, auch wenn kein Gesetz es explizit verbietet. Wir haben dieses Regelwerk über Generationen entwickelt, durch Erfahrung, Konflikt und Reflexion. KI-Systeme haben das nicht. Sind trotz ihres immensen Leistungsvermögens mit einem Bruchteil des menschlichen Wissens und einem noch kleineren Teil des menschlichen Miteinanders trainiert. Diesen ihnen zur Verfügung stehenden Bereich versuchen sie unablässig zu optimieren. Und je leistungsfähiger sie werden, desto konsequenter tun sie das.

Das ist kein Argument gegen KI. Wir werden diese Systeme nutzen, und wir sollten es. Aber es ist ein Argument dafür, dass wir uns nicht blind auf sie verlassen dürfen. Nicht weil sie böse sind – sondern weil sie wertneutral sind. Und Wertneutralität in einem System, das autonom über Menschen urteilt oder entscheidet, ist keine Neutralität. Unterstellen wir, dass KI-Systeme letztlich für den Menschen gemacht sind, dann ist das Fehlen von Moral und Ethik kein Designmerkmal – es ist ein Konstruktionsfehler.

Die zentrale Gestaltungsaufgabe

Wir stehen am Anfang dieser Auseinandersetzung. Noch gibt es keine befriedigenden Antworten – keine Regulatorik, die schnell genug greift, keine verbindlichen Standards, die ethische Tiefe ersetzen können. Was wir daher brauchen, ist etwas Einfacheres und Schwierigeres zugleich: unseren menschlichen Kompass und das Bewusstsein, dass die Frage nach Ethik in KI-Systemen keine akademische Randnotiz ist. Sie ist die zentrale Gestaltungsaufgabe unserer Zeit. Für uns alle.