Hochrisiko-KI-Systeme und EU-Mustervertragsklauseln (MCT) für die Vergabe öffentlicher Aufträge

Ausgangspunkt des Beitrags sind die im Februar 2025 von der EU-Kommission veröffentlichten Mustervertragsklauseln für die Vergabe öffentlicher Aufträge über Hochrisiko-KI-Systeme. Der Verfasser analysiert, wie diese Klauseln die Anforderungen der KI-VO vertraglich aufnehmen und untersucht, ob sie über den Bereich der öffentlichen Beschaffung hinaus auch für privatrechtliche Verträge nutzbar sind. Einleitend stellt er die Einordnung von Hochrisiko-KI-Systemen nach Art. 6 KI-VO dar und grenzt sie von verbotenen KI-Praktiken i.S.v. Art. 5 KI-VO ab. Anschließend skizziert er die zentralen Pflichten für Anbieter und Betreiber, insbesondere zu Risikomanagement, Dokumentation, Transparenz, menschlicher Aufsicht, Robustheit und Cybersicherheit. Sodann zeigt er die Struktur der Mustervertragsklauseln auf. Im Ergebnis hält der Verfasser die Nutzung der Klauseln auch im Privatrechtsverkehr für möglich, sieht aber Anpassungsbedarf je nach Vertragsgegenstand und Beteiligtenstellung. Er weist daraufhin, dass die praktische Wirksamkeit und Durchsetzbarkeit solcher Klauseln von den Umständen des Einzelfalls abhängen und dass die KI-VO auch Anbieter aus Drittstaaten erfasst, sobald sie KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen.