Flex-Routing: Daten auf Abwegen

Stellen Sie sich vor, Sie betreiben ein KI-System. Nun kommt es vor, dass die Nutzenden unterschiedlich komplexe Anfragen an das System stellen. Wäre es dann nicht praktisch, wenn simple Anfragen an „günstige“ KI-Modelle übergeben werden und komplexere Prompts an leistungsstärkere und somit teurere Modelle?

Genau diese Idee hat Microsoft in seiner Copilot-Infrastruktur eingebaut und seit dem 17. April aktiviert. Dieses als „Flex-Routing“ (oft auch als Dynamic Routing oder Multi-Model-Pivot) bezeichnete Konzept gewinnt massiv an Bedeutung. Was technologisch nach maximaler Effizienz klingt, stellt Unternehmen in der EU vor rechtliche Hürden.

Beim Flex-Routing wird eine Benutzeranfrage nicht mehr standardmäßig an ein fest definiertes großes Sprachmodell (wie GPT-4) gesendet. Stattdessen analysiert ein vorgeschaltetes System den Prompt und leitet ihn dynamisch an das am besten geeignete Modell weiter.

Microsoft Copilot nutzt dieses Verfahren für das sogenannte Inferencing. Vereinfacht ausgedrückt bezeichnet „Inferencing“ den Prozess, bei dem ein trainiertes KI-Modell neue Daten verarbeitet und die Antwort auf Basis seiner erlernten Muster logisch ableitet. Um dieses Inferencing so effizient wie möglich zu gestalten, steuert der Router neben (z. B.) OpenAI-Modellen auch alternative Spitzenmodelle an, wie die Claude-3-Familie von Anthropic.

Der Treiber hinter diesem Konzept ist rein pragmatischer Natur: Kosteneffizienz & Geschwindigkeit. Einfache Prompts werden an kleinere, günstigere Modelle geroutet. Komplexe Aufgaben landen bei High-End-Systemen. Das spart Rechenkapazität und senkt Kosten und Latenz. Doch daraus ergibt sich ebenso ein Konflikt mit der Datenschutz-Grundverordnung (DS-GVO).

Um die eigentliche Herausforderung des Flex-Routings zu verstehen, muss man zunächst die tiefe Integration von Copilot in das Microsoft-Ökosystem betrachten. Copilot agiert nicht als isolierte KI, sondern arbeitet Hand in Hand mit der bestehenden Microsoft 365-Infrastruktur. Der Datenzugriff erfolgt über die allgemeine Schnittstelle „Microsoft Graph“. Dadurch hat Copilot im Rahmen der individuellen Berechtigungen des jeweiligen Nutzenden Zugriff auf E-Mails (Outlook), Dokumente (Word, OneDrive, SharePoint), Chatverläufe (Teams), Kalendereinträge und Kontakte.

Wenn nun der Nutzende eine Anfrage stellt, nutzt Copilot dieses semantische Wissen der Microsoft-Umgebung. In einem Prozess namens „Grounding“ wird der Prompt mit den relevanten Unternehmensdaten aus dem Microsoft Graph angereichert.

Die dynamische Verteilung von Daten bricht mit einem Grundpfeiler der europäischen IT-Compliance: der lückenlosen Datensouveränität. Wenn europäische Unternehmensdaten mittels Flex-Routing verarbeitet werden, geht die Transparenz über die Datenwege verloren.

Innerhalb der primären Azure-Infrastruktur bleiben Copilot-Daten verschlüsselt und werden laut Microsoft-Richtlinien nicht zum Training der globalen Modelle verwendet. Erst nach diesem internen Aufbereitungsprozess wird die Anfrage an das eigentliche KI-Modell übergeben. Und das Flex-Routing sorgt dafür, dass Sie nicht wissen können, welches Modell das ist. Während Microsoft für Azure und Kern-Copilot-Dienste eine EU-Datengrenze (EU Data Boundary) garantiert, führen viele Drittanbieter das Inferencing auf Servern außerhalb der EU durch. Dies gilt auch für Anthropic, deren Rechenzentren in den USA stehen.

Besonders pikant: Microsoft hat die Einführung dieses Verfahrens angekündigt. Diese Ankündigung erschien jedoch nur im „Message Center“ und war so allenfalls IT-Administratoren und Technikern zugänglich.

Seit September 2025 mussten Administratoren einer separaten Datenverarbeitungsvereinbarung direkt mit Anthropic zustimmen („Legacy-Modell“). Seit dem 7. Januar 2026 ist Anthropic Claude fest in das Microsoft Enterprise Framework integriert. Das bedeutet, dass die Anthropic-KI an Microsofts eigene Produktbedingungen und das Data Processing Addendum (DPA) gebunden ist. Kundendaten werden somit vertraglich geschützt und nicht zum Training der Anthropic-Modelle verwendet.

Der „EU-Haken“: Während diese Funktion für globale kommerzielle Kunden seit Januar 2026 standardmäßig aktiv ist, gilt für Kunden in der EU und dem Vereinigten Königreich eine strikte Ausnahme. Hier ist der Schalter im Microsoft 365 Admin Center standardmäßig auf „Aus“ gestellt.

Der Grund liegt in der „Data Boundary“. Obwohl Claude nun als Copilot-Subprozessor agiert, ist es nicht Teil der EU-Datengrenze (EU Data Boundary). Sobald eine EU-Firma den Schalter jedoch manuell umlegt, um beispielsweise Claude für komplexe Excel-Analysen oder den Recherche-Agenten zu nutzen, werden die Daten für das Inferencing an Server außerhalb der EU (meist in die USA) weitergeleitet. Diesem Umstand müssen sich Nutzende in der EU bewusst sein.

Um Flex-Routing rechtssicher zu nutzen oder zu umgehen, stehen Unternehmen verschiedene strategische Wege offen.

1. Der Standardweg: Die administrative und vertragliche Absicherung
   Unternehmen müssen sicherstellen, dass die Microsoft-Verträge (und die darin inkludierten Drittanbieter-Durchreichungen) den EU-Anforderungen genügen. In den Admin-Zentren von Microsoft 365 lässt sich zudem das Einbeziehen von Drittanbieter-Modellen oder das Inferencing außerhalb der EU-Grenzen per Richtlinie einschränken oder gänzlich deaktivieren.
2. Der (weniger) radikale Weg: Infrastrukturelle Alternativen
   Beschränken Sie die Verarbeitung von Daten strikt auf Azure-Instanzen, die ausschließlich innerhalb der EU operieren und vertraglich garantieren, dass kein externes Flex-Routing stattfindet. Für maximale Sicherheit wird das Inferencing mit Open-Source-Modellen auf eigener Hardware oder in einer dedizierten Private Cloud betrieben. Dadurch entfällt jegliches Risiko durch externe Router.
3. Der (wirklich) radikale Weg: Ablösung von Microsoft 365
   Flex-Routing ist nicht die erste bedeutende Veränderung, die Microsoft in den letzten Jahren umgesetzt hat. Und es wird vermutlich auch nicht die letzte sein, die den Unmut von EU-Datenschützer:innen hervorruft. Möchten Sie wirklich sicher sein, in der Zukunft nicht doch von einer weiteren grundlegenden Änderung betroffen zu sein, gibt es nur den Weg der Ablösung von Microsoft-Produkten. Da diese Lösungen jedoch der Quasi-Standard in der Unternehmenslandschaft sind, ist dieser Weg in jedem Fall der beschwerlichste.

Flex-Routing optimiert das KI-Inferencing enorm und ist für die Anbieter ein unverzichtbares Konzept geworden, um Geld zu sparen. In der EU darf es jedoch niemals blind aktiviert werden. Zudem müssen Sie sich über die datenschutzrechtlichen Konsequenzen dieser Technologie im Klaren sein.

Das IT-Management muss über technische Sperren oder wasserdichte Verträge sicherstellen, dass die Datenwege trotz dynamischer KI-Infrastruktur transparent und schützenswerte Daten auch innerhalb der EU-Grenzen bleiben.