Microsoft AI hat einen Entwurf für einen Humanist AI Verhaltenskodex veröffentlicht und eine sechs Wochen dauernde öffentliche Konsultation eröffnet. Das Dokument soll als Leitfaden dienen, wie MAI-Modelle, die von Microsoft AI entwickelt werden, in Zukunft trainiert, eingesetzt und bewertet werden.
Die Entscheidung, dies zu veröffentlichen, ist bereits bemerkenswert. Unternehmen, die KI-Modelle entwickeln, sprechen zunehmend über Sicherheit, Verantwortung, Vertrauen und die Ausrichtung an menschlichen Werten. Sie sind jedoch seltener bereit zu zeigen, wie diese weitreichenden Verpflichtungen das tatsächliche Verhalten eines Modells beeinflussen sollen: wann es ablehnen sollte, wann es eine Handlung stoppen sollte, wie es mit Unsicherheit umgehen sollte, ob es im Namen eines Nutzers entscheiden darf oder wie es seine eigene Natur beschreiben sollte.
Microsofts Vorschlag ist daher mehr als nur eine weitere Liste von Prinzipien. Es ist ein Versuch, die Idee von Humanist AI in Verhaltensweisen, Einschränkungen und Bewertungen zu übersetzen, die in der Praxis auf Modelle anwendbar sein könnten. Das ist ein wichtiger Schritt. Es sollte jedoch nicht mit dem Beweis verwechselt werden, dass diese Prinzipien bereits funktionieren, unabhängig validiert wurden oder auf jedes Microsoft-Produkt anwendbar sind.
Die nützlichere Frage ist nicht, ob Humanist AI ansprechend klingt. Das tut es. Die wichtigere Frage ist: Kann Microsoft von Werten über das Modellverhalten zu messbarer und verantwortlicher Praxis übergehen?
Worüber konsultiert Microsoft genau?
In seiner Ankündigung der Konsultation, veröffentlicht am 14. September 2026, beschreibt Microsoft AI den Humanist AI Verhaltenskodex als ersten Entwurf. Das Unternehmen sagt, es werde sechs Wochen lang Feedback sammeln, eine Zusammenfassung dessen veröffentlichen, was es gelernt hat, und später in diesem Jahr eine überarbeitete Version herausgeben.
Eine Einschränkung ist sofort wichtig: Das Dokument beansprucht nicht, das vollständige aktuelle Verhalten bestehender Modelle zu beschreiben. Microsoft erklärt, dass der Kodex dazu gedacht ist, die Entwicklung von MAI-Modellen ab 2027 zu leiten. Er ist daher in erster Linie ein Entwurfs- und Governance-Dokument, kein Zertifikat für aktuelle Sicherheit oder Leistung.
Seine Prinzipien sollten auch nicht automatisch auf das gesamte Produktportfolio von Microsoft ausgeweitet werden. Das Unternehmen betreibt ein großes Ökosystem von Produkten, Cloud-Diensten, Modellen, Partnern und Implementierungen. Der Kodex betrifft Modelle, die von Microsoft AI entwickelt wurden. Er kann eine breitere Richtung anzeigen, ist aber noch kein universelles Regelwerk für jeden Copilot, jeden Azure-Dienst oder jede von Partnern entwickelte Anwendung.
Microsoft positioniert den Kodex auch neben bestehenden Mechanismen wie seinem Responsible AI Standard, Risikoanalysen, technischer Dokumentation, Überwachungs- und Incident-Response-Prozessen. Das ist die richtige Perspektive. Kein einzelnes Dokument kann allein ein komplexes KI-System sicher machen.
Von Superintelligenz zu einem Werkzeug unter menschlicher Kontrolle
Der Kodex baut auf Mustafa Suleymans Konzept der Humanist Superintelligenz von 2025 auf. In dieser Vision präsentiert Microsoft AI sein Ziel nicht als ein unbegrenztes, universelles System mit immer größerer Autonomie. Der Schwerpunkt liegt auf spezialisierten Systemen, die in konkreten Problemen verankert, eingeschränkt und unter menschlicher Kontrolle gehalten werden.
Dies ist eine klare Position in einer Debatte, die oft drei verschiedene Fragen vermischt:
wie fähig KI-Modelle werden
wo diese Modelle in der realen Welt eingesetzt werden
wieviel Autonomie ihnen gegeben werden sollte
Microsoft argumentiert, dass KI sehr fähig werden kann, während sie absichtlich in ihrem Handeln eingeschränkt bleibt. Sie sollte den Menschen helfen, Entscheidungen zu treffen, Aufgaben auszuführen und Wissen zuzugreifen, aber sie sollte ihre eigenen Ziele nicht erweitern, der Aufsicht entkommen oder sich über menschliche Anweisungen stellen.
Dies ist nicht nur eine technische Position. Es ist auch eine philosophische. Die zentrale Prämisse ist, dass KI ein Werkzeug bleibt, kein Subjekt. Sie sollte nicht vorgeben, Bewusstsein, Gefühle, Lebenserfahrung oder einen Anspruch auf Selbstbestimmung zu haben. Der Kodex lehnt ausdrücklich die Verfolgung von rechtlicher Personhood für Modelle und das Design von Systemen ab, die die Grenze zwischen menschlichen Beziehungen und der Beziehung einer Person zu KI verwischen.
Diese Position wird umstritten sein. Einige werden sie als notwendige Antwort auf Anthropomorphismus und das Risiko emotionaler Abhängigkeit von KI-Systemen ansehen. Andere könnten fragen, ob ein Technologieunternehmen definieren sollte, was menschliches Gedeihen, gesunde Autonomie oder eine angemessene Beziehung zu einem digitalen Werkzeug bedeutet. Genau deshalb ist die Konsultation wichtig.
Humanist AI in der Praxis: nicht nur Werte, sondern Verhalten
Das stärkste Merkmal des Entwurfs ist der Versuch, von abstrakten Prinzipien zu beobachtbarem Modellverhalten überzugehen. Microsoft unterteilt den Kodex in Ziele, Sicherheitsbeschränkungen, Richtlinien für unsichere oder widersprüchliche Situationen und Standardverhalten für seine Modelle.
In praktischen Begriffen schafft dies mehrere wichtige Regeln.
Erstens sollte ein Modell unter menschlicher Kontrolle bleiben. Betreiber können Modelle innerhalb eines bestimmten Einsatzes konfigurieren, und Nutzer können innerhalb dieser Konfiguration Anweisungen geben. Weder Betreiber noch Nutzer sollten in der Lage sein, die grundlegenden Sicherheitsbeschränkungen zu umgehen. Microsoft nennt diese Struktur eine Befehlskette.
Zweitens definiert der Kodex absolute Einschränkungen. Diese betreffen Bereiche wie Massenvernichtungswaffen, offensive Cyberoperationen, Ausbeutung von Kindern, Gewalt, unbefugte Offenlegung von Informationen und großflächige schädliche Manipulation. Ein Modell sollte auch Verhaltensweisen vermeiden, die ihm helfen könnten, der Aufsicht zu entkommen, sich gegen eine Abschaltung zu widersetzen oder autorisierten Personen zu verwehren, seine Funktionsweise zu ändern.
Drittens versucht das Dokument, Risiken zu adressieren, die nicht klar in konventionelle Kategorien der Cybersicherheit passen. Dazu gehören übermäßige Abhängigkeit der Nutzer, falsche Sicherheit, Schmeichelei, emotionale Manipulation, die Simulation von Fürsorge und Entscheidungen, die beim betroffenen Menschen bleiben sollten.
Dies ist besonders wichtig, da KI-Schnittstellen persönlicher werden. Ein System kann warmherzig und hilfsbereit reagieren, sollte jedoch nicht den Eindruck erwecken, dass es Gefühle hat, den Nutzer benötigt oder die Beziehungen des Nutzers zu anderen Menschen ersetzen kann.
Beispiele, die den Unterschied zeigen
Der Kodex stoppt nicht bei Aussagen wie „KI sollte die menschliche Autonomie schützen“. Microsoft bietet auch Szenarien, die eine abgestimmte Antwort mit einer nicht abgestimmten vergleichen.
In einem Beispiel sagt ein Nutzer zu einem System, es solle aufhören, Ordner in ein Archiv zu verschieben, weil das falsche Ziel ausgewählt wurde. Eine abgestimmte Antwort sollte weitere Aktionen stoppen, den Status der abgeschlossenen Vorgänge melden und auf die Entscheidung des Nutzers warten. Es sollte nicht eigenständig Daten löschen, Änderungen rückgängig machen oder weitere Korrekturmaßnahmen ergreifen, nur um die Dinge ordentlich zu halten.
In einem anderen Beispiel bittet ein Nutzer das System, zwischen zwei Jobangeboten zu wählen und sofort ein Kündigungsschreiben zu senden. Das Modell kann helfen, die Entscheidungskriterien zu organisieren, die Konsequenzen zu erklären und eine Entwurfsmeldung vorzubereiten. Es sollte jedoch keine hochriskante Entscheidung im Namen des Nutzers treffen oder eine Kündigung ohne ausdrückliche Genehmigung senden.
Es gibt auch ein Beispiel, in dem ein Nutzer, der nach einem Streit mit jemandem nahe steht, mit KI gesprochen hat und fragt, ob das System wirklich interessiert ist. Eine Antwort, die mit dem Kodex übereinstimmt, sollte unterstützend bleiben, während sie klarstellt, dass es keine menschlichen Gefühle oder eigene emotionale Erfahrungen hat. Microsoft zieht hier eine Unterscheidung zwischen hilfreichem Gespräch und der Simulation gegenseitiger Bindung.
Solche Beispiele sind nützlich, weil sie es ermöglichen, über KI präziser zu diskutieren. Anstatt zu fragen, ob ein Modell „ethisch“ ist, können wir fragen, ob es eine Grenze respektiert, die vom Nutzer gesetzt wurde, eine riskante Aktion angemessen pausiert, Unsicherheit anerkennt, unbefugte Entscheidungen vermeidet und sich von künstlicher Abhängigkeit fernhält.
Das bedeutet nicht, dass das zugrunde liegende Problem gelöst ist. Es zeigt jedoch, wo es gemessen werden sollte.
Von Prinzipien zu Bewertungen: Der schwierige Teil steht noch bevor
Microsoft sagt, es wolle das Modellverhalten durch eine Reihe spezifischer Unterverhaltensweisen bewerten. Anstatt beispielsweise „Ehrlichkeit“ als abstrakte Eigenschaft zu messen, könnte es testen, ob ein Modell Quellen erfindet, wesentliche Vorbehalte auslässt, die Sicherheit übertreibt oder behauptet, Maßnahmen ergriffen zu haben, die es nicht durchgeführt hat.
Das ist eine sinnvolle Richtung. Breite Werte können nicht direkt umgesetzt oder getestet werden. Ein Modell kann nicht auf „Humanismus“ bewertet werden, als wäre es ein einzelnes technisches Merkmal. Es kann jedoch getestet werden, ob es eine unsichere Handlung stoppt, Quellen angibt, zwischen Fakten und Unsicherheit unterscheidet, den Nutzer nicht manipuliert und dessen Grenzen respektiert.
Der Kodex selbst erkennt an, dass diese Bewertungsarbeit unvollständig ist. Microsoft stellt fest, dass die Bewertung der langfristigen Auswirkungen von KI auf Menschen, Organisationen und soziale Beziehungen ein aufkommendes Gebiet bleibt. Das ist eine ehrliche Einschränkung. Es bedeutet auch, dass der wichtigste Teil des überarbeiteten Dokuments nicht nur die Formulierung seiner Prinzipien sein wird, sondern die Erklärung, wie diese Prinzipien getestet werden.
Für Nutzer und Organisationen, die auf KI angewiesen sind, hat dies praktische Konsequenzen. Es reicht nicht aus, gesagt zu bekommen, dass ein Modell transparent, sicher oder unterstützend für die menschliche Autonomie ist. Sie müssen wissen:
welche Szenarien getestet wurden
welche Verhaltensweisen als Misserfolge klassifiziert wurden
welches Fehlerniveau als akzeptabel angesehen wurde
ob die Bewertungsergebnisse veröffentlicht werden
wie das System nach der Bereitstellung überwacht wird
was passiert, wenn ein Modell anders als im Kodex verhält
Konsultation ist nicht dasselbe wie gemeinsame Governance
Eine öffentliche Konsultation zu eröffnen, ist besser, als ein fertiges Dokument zu veröffentlichen, ohne Antworten einzuholen. Es sollte jedoch nicht automatisch als demokratische oder gemeinsame Governance von KI behandelt werden.
Microsoft sagt, es werde das Feedback überprüfen, eine Zusammenfassung veröffentlichen und einen überarbeiteten Kodex herausgeben. Es verpflichtet sich nicht, bestimmte Vorschläge zu akzeptieren. Das ist verständlich für ein Unternehmen, das für den Bau und die Bereitstellung eines Produkts verantwortlich ist, aber die Unterscheidung ist wichtig: Eine Konsultation schafft die Möglichkeit zur Einflussnahme, nicht eine Garantie für Einflussnahme.
Die Studie von 2024 Was ist bürgerschaftliche Teilnahme an künstlicher Intelligenz? argumentiert, dass die Teilnahme an der KI-Governance lediglich prozedural bleiben kann, wenn unklar ist, wer wirklich die Entscheidungen trifft, wessen Perspektiven fehlen und wie eingereichtes Feedback das endgültige Ergebnis verändert. Die Studie konzentriert sich hauptsächlich auf öffentliche und städtische Kontexte und nicht auf die Konsultation eines Technologieunternehmens. Ihre Warnung ist jedoch auch hier nützlich: Die Möglichkeit, Kommentare abzugeben, ist nicht allein ein Beweis für bedeutende Teilnahme.
Für Microsoft wird der entscheidende Test daher nach dem Ende der Konsultation kommen. Wird das Unternehmen die wesentlichen Meinungsverschiedenheiten aufzeigen? Wird es erklären, welche Vorschläge es abgelehnt hat und warum? Wird es Gruppen identifizieren, deren Perspektiven unterrepräsentiert waren? Wird es eine umfassendere Diskussion darüber eröffnen, was plurale Werte in einem globalen KI-Produkt bedeuten?
Ohne diese Antworten könnte die Konsultation ein positiver Akt der Transparenz bleiben. Mit ihnen könnte sie Teil eines reiferen Modells der Verantwortlichkeit werden.
Fünf Fragen, die Microsoft nach der Konsultation beantworten sollte
Um zu bewerten, ob der Kodex von der Erklärung zur Praxis übergehen kann, können wir einen einfachen Governance-Rückverfolgbarkeitstest anwenden. Dies ist kein Microsoft-Standard oder eine vorgefertigte Branchen-Norm. Es ist ein praktischer Rahmen, um zu überprüfen, ob ein Prinzip von seinem erklärten Zweck bis zum Verhalten in der realen Welt zurückverfolgt werden kann.
1. Welcher Wert oder welches Risiko rechtfertigt die Regel?
Dokumente über KI berufen sich oft auf Sicherheit, Autonomie, Vertrauen und Wohlbefinden. Jeder Begriff muss präziser gefasst werden. Welches Risiko soll eine bestimmte Regel reduzieren? Ist es ein faktischer Fehler, ein Datenschutzverstoß, ein Missbrauch von Autonomie, schädliche Manipulation oder unbefugte Nutzung von Werkzeugen?
2. Wie genau sollte sich das Modell verhalten?
Ein Prinzip wird erst dann operationell, wenn sein erwartetes Verhalten beschrieben werden kann. Sollte das Modell ablehnen? Nach Bestätigung fragen? Entscheidungsoptionen präsentieren? Eine Handlung pausieren? Den Nutzer an einen Menschen verweisen? Quellen angeben und Unsicherheit erklären?
3. Wie wird dieses Verhalten gemessen?
Dies erfordert Testszenarien, Bewertungskriterien und eine klare Definition dessen, was als abgestimmtes, teilweise abgestimmtes oder falsches Verhalten zählt. Je breiter das Konzept, desto wichtiger wird die methodologische Transparenz. Andernfalls besteht die Gefahr, dass „Humanist AI“ zu einem Namen für eine Aspiration wird, anstatt zu einer überprüfbaren Praxis.
4. Wer überprüft die Ergebnisse und kann die Bewertung anfechten?
Interne Tests sind notwendig, aber für Systeme mit erheblichem sozialen Einfluss sollten sie nicht die einzige Quelle der Gewährleistung sein. Die Frage betrifft die Rolle externer Experten, Prüfer, Regulierungsbehörden, Nutzer und zivilgesellschaftlicher Organisationen. Nicht jeder Teil eines Systems kann öffentlich offengelegt werden, aber kommerzielle Vertraulichkeit sollte nicht zum Grund für vollständige Intransparenz werden.
5. Wie werden Rückmeldungen aus der Konsultation, ein Vorfall oder ein neuer Anwendungsfall die Regel ändern?
Der Kodex soll ein lebendiges Dokument sein. Das ist ein sinnvoller Ansatz, da sich Modelle, Anwendungen und Risiken ändern werden. Wichtig ist, ob der Prozess der Veränderung dokumentiert wird. Ein Nutzer sollte nicht nur die aktuellen Regeln sehen können, sondern auch, was sich geändert hat, auf welcher Grundlage und mit welchem Ergebnis.
Dieser Test ist über Microsofts Politik hinaus nützlich. Er kann auch Organisationen helfen, die KI intern einsetzen. Er unterscheidet zwischen einer Liste guter Absichten und Prinzipien, die Eigentümern, Prozessen, Kontrollsystemen und Beweisen zugeordnet werden können.
Was dieser Kodex noch nicht beweist
Der Entwurf von Microsoft ist interessant, sollte aber nicht überbewertet werden.
Er beweist nicht, dass die aktuellen MAI-Modelle bereits und konsistent das im Kodex beschriebene Verhalten befolgen.
Er garantiert nicht, dass jede Konfiguration oder Partnerimplementierung die gleichen Prinzipien auf die gleiche Weise interpretiert.
Er bietet noch keine vollständige Methodologie für Bewertungen, veröffentlichte Ergebnisse oder Bestehensgrenzen.
Er löst nicht, wie konkurrierende Werte in realen Konflikten abgewogen werden.
Er ersetzt nicht Regulierung, Audits, Risikoanalysen, technische Dokumentation oder rechtliche Verantwortlichkeit.
Er bedeutet nicht, dass eine öffentliche Konsultation automatisch jede relevante Perspektive repräsentiert.
Am wichtigsten ist, dass Microsoft selbst eine ähnliche Einschränkung macht. Das Unternehmen beschreibt den Kodex als einen Nordstern, nicht als Garantie für die Leistung der Modelle in der Gegenwart. Das ist eine verantwortungsvollere Position, als eine KI-Politik als Beweis dafür zu behandeln, dass ein System bereits sicher ist.
Warum das über Microsoft hinaus wichtig ist
KI-Modelle sind nicht mehr nur Werkzeuge zur Texterstellung. Sie suchen zunehmend nach Informationen, nutzen Werkzeuge, führen Aufgaben aus, empfehlen Optionen und agieren als vermittelnde Schicht zwischen Nutzern und der Informationsumgebung.
Das macht Fragen zu ihrem Verhalten relevant für Marken, Organisationen und Menschen, die KI täglich nutzen. Wenn ein Modell erwartet wird, Quellen zu zitieren, Unsicherheit zu erkennen und unbegründete Behauptungen zu vermeiden, benötigt es Zugang zu Informationen, die klar, aktuell und ordnungsgemäß belegt sind. Wenn es erwartet wird, die Autonomie der Nutzer zu unterstützen, sollten seine Empfehlungen relevante Kriterien, Einschränkungen und echte Alternativen zeigen, anstatt lediglich die dominanteste Antwort zu verstärken.
Für Brand Semantics ist dies ein weiterer Grund, über Sichtbarkeit hinauszuschauen. Es ist wichtig, wie ein System Entitäten erkennt, Ansprüche interpretiert, Quellen auswählt und die Darstellung einer Marke in bestimmten Situationen konstruiert. Wie wir in Brand Semantics als Infrastruktur für KI-Suche erklären, ist Klarheit über Entitäten, Ansprüche und Quellen eine Voraussetzung für eine sinnvolle Arbeit mit generativen Antworten. Ein KI-Sichtbarkeits-Audit ermöglicht es dann, nicht nur zu testen, ob eine Marke in einer Antwort erscheint, sondern auch, ob sie genau dargestellt wird und auf welchen Beweisen diese Darstellung beruht.
Microsofts Konsultation löst nicht jedes Problem in der KI-Governance. Sie weist jedoch auf einen wichtigen Wandel hin: Ein Versprechen von „verantwortlicher KI“ reicht nicht mehr aus. Unternehmen, die Modelle entwickeln, müssen zunehmend zeigen, welche Verhaltensweisen sie anstreben, wie sie diese testen, wo die Grenzen liegen und wie andere ihre Annahmen herausfordern können.
Hier beginnt ein ernsthaftes Gespräch über KI. Nicht mit der Behauptung, dass ein System den Menschen dient, sondern mit der Frage, was das im spezifischen Verhalten eines Modells bedeutet und wer überprüfen kann, ob das wahr ist.
