Higress tritt der CNCF bei: Bereitstellung eines Enterprise-Grade AI Gateways und nahtloser Übergang von Nginx Ingress

TL;DR

Higress ist ein neues, leistungsstarkes API-Gateway, das der Cloud Native Computing Foundation (CNCF) als Sandbox-Projekt beigetreten ist. Es vereint Ingress- und AI-Gateway-Funktionen und bietet eine sichere, skalierbare Lösung zur Verwaltung von Cloud-nativen und KI-Workloads.

Hauptinhalt

Higress hat die Abstimmung des Technischen Aufsichtsausschusses (TOC) der CNCF bestanden und ist nun Teil des CNCF-Ökosystems. Das API-Gateway wurde auf Basis von Envoy und Istio entwickelt und zielt darauf ab, die Komplexität des Betriebs von Cloud-nativen und KI-Anwendungen zu reduzieren. Es integriert die Funktionen eines Traffic Gateways, Microservices Gateways und AI Gateways in einer einzigen Kontrollinstanz.

Die Kernkompetenzen von Higress beruhen auf zwei Hauptsäulen: den Ingress-Controller- und Gateway-Funktionen sowie den AI-nativen Gateway-Funktionen. Als ausgereifter Kubernetes Ingress Controller unterstützt Higress vollständig die Gateway-API und deren Inference Extension. Mit der geplanten Ablösung von Nginx Ingress im Jahr 2026 stellt Higress eine sichere, sofort einsatzbereite Alternative dar. Es bietet volle Kompatibilität mit gängigen Nginx Ingress-Anmerkungen und ersetzt das anfällige Konfigurationsinjektionsmodell durch ein robustes xDS-Kontrollsystem und eine Wasm-Sandbox, was die Sicherheitsrisiken veralteter Architekturen eliminiert.

Im Bereich der AI-nativen Gateway-Funktionen behandelt Higress KI-Verkehr als gleichwertig. Es bietet native Unterstützung für die Invocation von Large Language Models (LLM), das Model Context Protocol (MCP) und vielfältige KI-Inferenzszenarien. Zu den Funktionen gehören tokenbasierte Ratenbegrenzung, Multi-Model-Fallback, Integration von Retrieval-Augmented Generation (RAG), modellbewusste Routenführung und intelligentes Lastenbalancing. Diese Ansätze standardisieren, wie cloud-native Anwendungen LLMs konsumieren, und positionieren Higress als zentrale Anlaufstelle für KI-Agenten und LLM-Verkehr.

Higress hat sich bereits in verschiedenen anspruchsvollen Produktionsumgebungen bewährt, mit Adoptern aus verschiedenen Branchen, darunter Internetdienste, Finanzen, Reisen, Hardware und Unterhaltung. Zu den aktuellen Nutzern zählen Unternehmen wie Alibaba Group, Ant Group und DJI, die Higress nicht nur für robustes Cloud-natives Traffic-Routing, sondern auch für die Bereitstellung von AI-Gateway-Funktionen in ihren Anwendungen nutzen.

Technische Details/Implikationen

Die Entscheidung, der CNCF beizutreten, ist strategisch und zielt darauf ab, die Zusammenarbeit mit anderen führenden Projekten wie Kubernetes und Envoy zu intensivieren. Dies wird Higress ermöglichen, technische Standards zu co-kreieren und seine Rolle in modernen cloud-nativen Architekturen zu festigen. Die neutrale Governance der CNCF fördert eine aktive, vielfältige Entwickler- und Benutzerbasis, die für die langfristige Vitalität des Projekts entscheidend ist. Zudem wird die Notwendigkeit einer Infrastruktur für KI-Anwendungen, die speziell für solche Workloads optimiert ist, immer dringlicher. Higress ist gut positioniert, um universelle Standards für AI-Gateways innerhalb der CNCF zu etablieren.

Die zukünftige Entwicklung von Higress wird sich auf zwei Hauptbereiche konzentrieren: die langfristige Kompatibilität mit Ingress-Standards und die kontinuierliche Erweiterung der AI-Fähigkeiten. Dies umfasst die Unterstützung der Gateway-API und die Bereitstellung umfassender Migrationslösungen für Nginx Ingress-Nutzer.

Fazit/Ausblick

Higress stellt einen bedeutenden Fortschritt in der Bereitstellung von API-Gateway-Lösungen dar und wird voraussichtlich eine Schlüsselrolle in der Evolution der Cloud-nativen und KI-Infrastruktur übernehmen. Die Integration in die CNCF bietet eine Plattform für weiteres Wachstum und Innovation.