Wenn der Schiedsrichter Chat GPT & Co. nutzt: Aufhebung eines Schiedsspruchs wegen halluzinierender KI

Ein Schiedsrichter, der KI-generierte Quellen zitiert, die es nie gab – und ein Gericht, das den Schiedsspruch deshalb aufhebt: Was wie ein Lehrbeispiel aus einem Legal-Tech-Seminar klingt, ist in Kanada Realität geworden. Bislang traf es vor allem Anwälte und Sachverständige, die wegen KI-Halluzinationen sanktioniert wurden. Nun rückt ein Schiedsgericht wegen KI-Nutzung in den Fokus. Die Entscheidung könnte über Kanada hinaus Signalwirkung entfalten – auch in Deutschland.

ARIHQ v. Santé Québec – 2026 QCCS 1360

Am 22. April 2026 traf der Québec Cour Supérieure die – soweit ersichtlich – weltweit erste Entscheidung, in der ein Gericht einen Schiedsspruch wegen der Nutzung generativer KI annullierte.

Was war passiert?

Gegenstand des Schiedsverfahrens war die Zahlungsforderung einer Klinik in Höhe von rund 1,2 Mio. CAD gegen eine öffentliche Einrichtung des Gesundheitswesens der Provinz Québec für Leistungen aus den Jahren 2019 bis 2022. Das Schiedsgericht wies die Klage wegen Versäumung einer Ausschlussfrist ab. Die Klägerinnen beantragten im November 2025 die Aufhebung des Schiedsspruchs, u. a. mit dem Argument, es bestünden starke Anhaltspunkte dafür, dass die Begründung unter Nutzung einer halluzinierenden KI verfasst wurde: Sämtliche Rechtsquellen, auf die der Schiedsspruch gestützt werde, seien das Ergebnis einer halluzinierenden KI.

Begründung der Aufhebung

Das kanadische Gericht, das sich mit dem Aufhebungsantrag befasste, bestätigte den Vorwurf der Klägerinnen und stützte die Aufhebung auf Art. 646 Nr. 3 des Code de procédure civile von Québec. Die Norm sieht – ähnlich wie Art. V Abs. 1 lit. d UNÜ – die Aufhebung eines Schiedsspruchs vor, wenn die auf das vereinbarte Schiedsverfahren anzuwendenden Regeln nicht eingehalten wurden. Das Gericht monierte den intuitu personae-Charakter der Schiedsgerichtsbarkeit. Ein Schiedsrichter werde gerade wegen seiner persönlichen Expertise und Urteilskraft gewählt. Wenn nun die inhaltliche Begründung an ein KI-Tool delegiert werde, ohne das Ergebnis hinreichend geprüft zu haben, verstoße das gegen den Grundsatz delegatus non potest delegare und verletze im Übrigen die Vertraulichkeit der Beratung. Das Gericht stützte sich dabei auf drei dogmatische Anknüpfungspunkte:

• Grundsatz der Parteiautonomie – Wahl des Schiedsrichters: Wer eine Schiedsvereinbarung schließe, habe ein Recht darauf, dass der gewählte Schiedsrichter die Entscheidung treffe.
• Entscheidungsbegründung: Nach der Rechtsprechung des Obersten Gerichtshofs Kanadas fördere der Begründungsprozess eine bessere Entscheidung und ermögliche den Parteien, die Entscheidung nachzuvollziehen und Rechtsmittel zu prüfen.
• Beratungsgeheimnis: Aufgrund des Beratungsgeheimnisses müssten sich Schiedsrichter jeglicher Kommunikation mit Dritten über die zu entscheidende Angelegenheit enthalten, sobald diese zur Beratung angenommen werde. Dies diene dem Zweck, dass der Schiedsspruch allein die Meinung der Schiedsrichter widerspiegele. Die Eingabe sensibler vertraulicher Informationen in ein KI-Tool verletze das Beratungsgeheimnis.

Das Gericht betonte zwar, dass nicht jede KI-Nutzung per se zur Aufhebung führe. Es verwies aber zugleich auf fünf Risiken beim Einsatz von KI in Entscheidungsprozessen:

• Halluzinationen: Large Language Models erfänden Quellen, die täuschend echt wirkten.
• Fehlendes menschliches Ermessen: KI könne „menschliche“ Werte und besondere Fallumstände ggf. nicht angemessen würdigen.
• Bias: Trainingsdaten könnten das Ergebnis der KI verzerren.
• Vertraulichkeit: Es bestehe Unklarheit über die konkrete Verwendung der genutzten Daten.
• Fehlendes Vertrauen: Entscheidungen durch „körperlose” Maschinen könnten das Vertrauen in die Justiz erschüttern.

Entscheidend sei daher, dass die Verantwortung für die Begründung beim Entscheidungsträger verbleibe. Ob der Einsatz von KI zur Aufhebung führen könne, hänge vom Einzelfall ab. Im vorliegenden Fall sei der Verstoß erheblich gewesen. Der Schiedsspruch enthalte zahlreiche Halluzinationen. Ein angeblicher Fachartikel sei ebenso unauffindbar wie drei zitierte Gerichtsentscheidungen und ein zitierter Schiedsspruch. Diese halluzinierten Verweise stünden im Zentrum der Begründung des Schiedsrichters. Sie bildeten die einzigen juristischen Verweise, die als rechtliche Stütze für den Schiedsspruch herangezogen wurden.

Bedeutung für die deutsche Schiedspraxis

Wie würde ein deutsches Oberlandesgericht einen vergleichbaren Sachverhalt bei deutschem Schiedsort beurteilen? Nach § 1059 Abs. 2 Nr. 1 lit. d ZPO kann ein Schiedsspruch aufgehoben werden, wenn „die Bildung des Schiedsgerichts oder das schiedsrichterliche Verfahren einer Bestimmung dieses Buches oder einer zulässigen Vereinbarung der Parteien nicht entsprochen hat und anzunehmen ist, dass sich dies auf den Schiedsspruch ausgewirkt hat“. Die Norm geht ebenso wie Art. 646 Nr. 3 des Code de procédure civile auf Art. 34 Abs. 2 lit. a iv) UNCITRAL-Modellgesetz (ähnlich: Art. V Abs. 1 lit. d UNÜ) zurück. Schon deshalb dürfte die kanadische Entscheidung für deutsche Schiedsverfahren Signalwirkung haben.

Der Einsatz von KI wird häufig mit dem einer menschlichen Hilfsperson verglichen. Schon in der analogen Welt ist die Grenzziehung zwischen zulässigem und unzulässigem Einsatz von Hilfspersonen komplex und hängt stark von den Parteivereinbarungen ab. Dies gilt erst recht in der digitalen Welt. Entscheidend dürfte auch nach deutschem Verständnis sein, dass die endgültige Entscheidungsfindung dem Schiedsrichter vorbehalten bleibt. Rezipiert der Schiedsrichter nur noch, ohne sich ein eigenes und unabhängiges Bild von der Sach- und Rechtslage zu machen, gibt er die Entscheidungsfindung aus der Hand. Ein Schiedsspruch, der im Wesentlichen auf ungeprüften KI-Inhalten beruht, verkörpert eben dieses Fehlen einer unabhängigen Auseinandersetzung mit der Sach- und Rechtslage des Falles.

Diesen Aspekt betonen auch die Guidelines mehrerer Schiedsinstitutionen:

• Silicon Valley Arbitration & Mediation Center, Guidelines on the Use of Artificial Intelligence in Arbitration (2024): “The use of AI tools by arbitrators shall not replace their independent analysis of the facts, the law, and the evidence.”
• SCC Arbitration Institute, Guide to the use of artificial intelligence in cases administered under the SCC Rules (2024): “AI tools may be used to support arbitral decision-making but cannot replace it. Arbitral Tribunals cannot delegate the decision or the reasoning leading to it to anyone or anything.”
• American Arbitration Association, Guidance on Arbitrators’ Use of AI Tools (2025): “When using AI tools for legal research or evidence analysis, arbitrators should ensure their decisions reflect their independent evaluation and reasoning.” 
• Chartered Institute of Arbitrators, Guideline on the Use of AI in Arbitration (2025): “[T]he Tribunal should avoid delegating any tasks to AI Tools, such as legal analysis, research and interpretation of facts and law, or application of the law to the facts, if such use could influence procedural or substantive decisions.”

In der Zukunft dürfte es Fälle geben, bei denen die Abgrenzung deutlich weniger klar sein wird als hier. Wie auch beim Einsatz einer menschlichen Hilfsperson liegt zwischen KI-gestützter Unterstützung und faktischer Entscheidungsverlagerung ein breites Spektrum. Die Abgrenzung wird besonders schwierig, sobald KI inhaltlich vorbereitend tätig wird: Sachverhaltszusammenfassungen, Recherchen zu entscheidungserheblichen Rechtsfragen oder gar Formulierungsvorschläge zu einzelnen Streitpunkten bergen das Risiko, die spätere Entscheidung unbewusst in eine bestimmte Richtung zu lenken (Stichwort „Automation Bias”).”

Fazit

Die Entscheidung aus Québec zeigt, dass die bereits intensiv geführte Diskussion um KI im Schiedsverfahren in der Praxis angekommen ist: Nicht nur Anwälte und Sachverständige, sondern auch Schiedsrichter werden an den Folgen unkontrollierter KI‑Nutzung gemessen. Im konkreten Fall ließen die zahlreichen Halluzinationen keinen Zweifel an der unzulässigen KI-Delegation. Aus anwaltlicher Sicht werden insbesondere Fälle an Bedeutung gewinnen, in denen die Abgrenzung zwischen zulässiger unterstützender KI‑Nutzung und unzulässiger Delegation an KI streitig ist, sowie Konstellationen, in denen sich der KI‑Einsatz nicht unmittelbar durch zahlreiche Halluzinationen im Schiedsspruch nachweisen lässt.