Gedanken zur KI-Governance

    Drei Texte über Halluzinationen – und was ihnen fehlt

    Innerhalb weniger Wochen sind drei Texte erschienen, die dasselbe Risiko aus drei Perspektiven beschreiben: aus der M&A-Due-Diligence (Deloitte Schweiz), aus dem Boardroom (Cerebraix) und aus der Marktforschung (Infiniti Research). Ich habe sie nebeneinandergelegt – und neben das, was busqo daraus macht.

    Stand 18. September 2026

    Der Befund
    Was die Texte sagen
    busqo
    Was daraus folgt
    Deloitte Schweiz
    Der Befund„AI does not lie – it doesn't know how to." Aber sie irrt, oft und unbemerkt. Deloitte nennt 60 Prozent der Unternehmen, die agentische KI einführen wollen – über die Hälfte davon ohne Risikobewertung. In der Due Diligence wird ein KI-System deshalb wie ein Vermögenswert geprüft: Datenintegrität, Transparenz, Robustheit.
    busqoDieselbe Prüfung gehört auf jeden Bericht, der eine Entscheidung tragen soll – nicht nur auf das System, das ihn geschrieben hat. Der Validierungs-Scan prüft die Vorlage: Woher kommt jede Zahl, welche Annahme steht darunter, was ist offen.
    Cerebraix
    Der BefundErfundene Gerichtsentscheidungen, erfundene Quartalsberichte, erfundene ESG-Kennzahlen in einer Boardvorlage – die Beispiele im Text sind real. Empfehlung: Fachleute prüfen das Ergebnis, Audit-Logs halten Prompt und Quelle fest, ein Governance-Komitee schaut zu.
    busqoHuman-in-the-loop heißt bei busqo nicht: jemand liest drüber. Es heißt: Jede Aussage trägt Quelle, Evidenzstufe und Datum, und was keine Quelle hat, steht als UNVERIFIED im Text. Das Audit-Log ist der Bericht selbst.
    Infiniti Research
    Der BefundKundensegmente, die es nicht gibt. Nachfrage in Regionen, in denen keine ist. Der Text empfiehlt hybride Mensch-KI-Validierung, erklärbare KI und – bemerkenswert – KI, die die Halluzinationen anderer KI erkennt.
    busqoKI gegen KI prüft Plausibilität, nicht Wahrheit. Ein Segment, das plausibel klingt, ist damit nicht belegt. Deshalb trennt die Methodik Finden und Prüfen: erst die lange Liste, dann jede Zeile gegen eine Quelle – nicht gegen ein zweites Modell.

    Alle drei Texte enden an derselben Stelle: Es braucht Validierung. Was fehlt, ist die Antwort auf die nächste Frage – wie sieht ein validierter Bericht aus, und woran erkennt man ihn? Ich halte das für die eigentliche Governance-Frage. Nicht: Wer darf welche KI benutzen. Sondern: Was muss eine Vorlage mitbringen, bevor sie auf den Tisch kommt.

    Meine Antwort ist unspektakulär und deshalb prüfbar: eine Quelle pro Aussage, eine Kennung pro Annahme, ein Datum pro Beleg und ein Abschnitt für das, was nicht gefunden wurde. Ein Bericht, der das hat, kann immer noch falsch liegen. Aber er kann nicht mehr unbemerkt falsch liegen – und das ist der Unterschied, um den es in allen drei Texten geht.

    Halluzination ist das Wort der Artikel. Im Prüfprotokoll heißt es: unbelegt. Der Validierungs-Scan zeigt, was hält, was wackelt, was fehlt – bevor eine Entscheidung darauf steht.