Cortecs ist ein KI-Gateway aus Wien in Österreich, das Entwickler:innen eine OpenAI-kompatible API für viele Sprachmodelle bietet. Jede Anfrage wird anhand von Kosten, Geschwindigkeit oder einer Kombination beider Kriterien an einen geeigneten Cloud-Anbieter geleitet, und bei Ausfällen kann das Gateway auf ein anderes Modell ausweichen. Eine Projekteinstellung und ein Anfrageparameter namens eu_native beschränken das Routing auf Anbieter mit Sitz in der EU, weitere Optionen steuern die Nulldatenspeicherung und den Einsatz quantisierter Modelle. Teams verwalten API-Schlüssel, Budgets, Nutzungsberichte und Voreinstellungen in einer Web-Konsole und können eigene Anbieterschlüssel einbinden. Cortecs eignet sich für Unternehmen, die gehostete Modelle nutzen und dabei kontrollieren wollen, welche Anbieter ihre Daten verarbeiten.
Europäische KI-Gateways
KI-Gateways stellen Anwendungen einen einzigen API-Endpunkt bereit, über den Anfragen an Modelle vieler verschiedener Anbieter weitergeleitet werden. Sie verwalten API-Schlüssel, erfassen die Nutzung, setzen Budgets um und sorgen für Ausweichlösungen bei Ausfällen. Oft kommen Caching, Protokollierung und Schutzmechanismen hinzu, sodass Teams Modelle wechseln oder kombinieren können, ohne ihren Anwendungscode zu ändern. Diese Kategorie umfasst europäische KI-Gateways mit einem API-Endpunkt, der in der EU, im EWR, in der EFTA oder im Vereinigten Königreich gehostet wird und sich so konfigurieren lässt, dass Anfragen nur an europäische Anbieter mit dort gehosteter Infrastruktur gehen. Ein Gateway muss Zugriff auf mehrere Modellanbieter bieten, da die Weiterleitung zwischen ihnen seine Kernfunktion ist. Es unterscheidet sich von LLM-APIs, bei denen der Anbieter die Modelle selbst betreibt, während ein KI-Gateway Anfragen an solche Anbieter weiterreicht. Reines GPU-Hosting und Dienste, die an einen einzelnen Modellanbieter gebunden sind, gehören nicht dazu.
Diese Kategorie enthält Dienstleistungen von Unternehmen mit Sitz in einem Mitgliedsstaat der Europäischen Union (EU), des Europäischen Wirtschaftsraums (EWR) und der Europäischen Freihandelsassoziation (EFTA).
Weitere Informationen zu den Zulassungskriterien finden Sie den Zulassungskriterien.
Europäische Services
Melious ist ein KI-Gateway aus Saarbrücken in Deutschland, das über eine mit den OpenAI- und Anthropic-SDKs kompatible API Zugriff auf mehr als 60 Open-Weight-Modelle bietet. Anfragen werden auf Inferenzanbieter in acht europäischen Ländern verteilt, und bei einem Ausfall versucht das Gateway automatisch den nächsten Anbieter. Nutzer:innen wählen über einen Zusatz im Modellnamen eine Routing-Variante wie ausgewogen, Geschwindigkeit, Preis, Eco oder Batch. Neben Textmodellen gibt es Embeddings, Bildgenerierung, Sprachmodelle und eine Chat-Oberfläche mit Werkzeugen wie Websuche und Codeausführung. Melious leitet Anfragen nicht an Anbieter außerhalb Europas weiter, sodass für ein rein europäisches Routing keine Einstellung nötig ist.
EUrouter ist ein KI-Gateway aus Amsterdam in den Niederlanden, das eine OpenAI-kompatible API für mehr als 100 Sprachmodelle und weitere KI-Modelle bereitstellt. Anfragen werden nach Preis, Latenz und Verfügbarkeit verteilt, dazu kommen Ausfallsicherung zwischen Anbietern, Ausgabenlimits pro Schlüssel und eine Nutzungsüberwachung. Zu den Anbietern zählen Mistral AI, OVHcloud, Scaleway, IONOS und weitere europäische Unternehmen sowie europäische Regionen von AWS Bedrock und Microsoft Foundry. Über Routing-Optionen lassen sich einzelne Anbieter zulassen oder ausschließen, die Datenspeicherung auf null Tage begrenzen und mit der Option eu_owned Anfragen auf Anbieter mit Hauptsitz im EWR beschränken. Entwickler:innen mit bestehenden Integrationen im Stil von OpenRouter können durch Ändern der Basis-URL wechseln.
LLMrouter.eu ist ein KI-Gateway aus München in Deutschland, das vom IT-Beratungsunternehmen MAKONIS GmbH betrieben wird. Es bietet einen OpenAI-kompatiblen Endpunkt, über den Organisationen Sprachmodelle mehrerer Anbieter erreichen, mit automatischem Ausweichen bei Ausfällen. Administrator:innen verwalten Nutzer:innen und API-Schlüssel zentral und können Modelle nach Anbieter, Region und Standort des Rechenzentrums auswählen. Höhere Tarife ergänzen einen Datenschutzfilter und einen Schutz vor Jailbreak-Versuchen, die Eingaben auf sensible Inhalte prüfen, einen Manager für Dokumentation nach dem EU AI Act sowie erweiterte Routing-Regeln. Das Gateway lässt sich außerdem im eigenen Kubernetes-Cluster betreiben.