Wie bewältigt man 160 Millionen User im Monat? Mit K8s und Docker!

Hochverfügbare SaaS-Infrastruktur für mehr als 2 Milliarden Requests pro Monat

In der heutigen digitalisierten Welt sind Ausfallsicherheit und Skalierbarkeit unverzichtbare Merkmale jeder erfolgreichen Software-as-a-Service (SaaS)-Plattform. Prime Insights, ein führender Anbieter von Datenanalyselösungen, erkannte diesen Bedarf frühzeitig und suchte nach einer fortschrittlichen Infrastruktur, um seine rasant wachsende Anzahl von Nutzeranfragen effizient zu bewältigen. Hier kommt ayedo ins Spiel – unsere Experten entwickelten und betreiben eine hochverfügbare, geo-redundante SaaS-Infrastruktur, die den Anforderungen von Prime Insights gerecht wird.

Die Herausforderung: Exponentielles Wachstum und hohe Verfügbarkeit

Prime Insights verzeichnet exponentielles Wachstum in ihrer User-Base und stand vor der Herausforderung, diesem Wachstum durch angemessene Infrastruktur gerecht zu werden. Die bestehenden Systeme stießen an ihre Grenzen, und es war offensichtlich, dass eine neue, robuste Infrastruktur erforderlich war. Die zentrale Anforderung war jedoch nicht nur die Skalierbarkeit, sondern insbesondere die Hochverfügbarkeit und Geo-Redundanz, um sicherzustellen, dass die Plattform auch bei regionalen Ausfällen und Spitzenzeiten stets verfügbar bleibt.

Die ersten Iterationen der neuen Hosting-Infrastruktur wurden noch mit Docker Swarm implementiert, was sich nach kurzer Zeit als zu unflexibel herausstellte.

Die Lösung: Kubernetes, HAProxy, KeyDB, MariaDB und Maxscale

Ultimativ haben für uns für den Einsatz von Kubernetes entschieden, einer bewährten Container-Orchestrationsplattform, um die gewünschte Skalierbarkeit und Ausfallsicherheit zu gewährleisten. Mit Kubernetes können Anwendungen nahtlos skaliert und bei Bedarf automatisch wiederhergestellt werden, was die perfekte Grundlage für die anspruchsvolle Umgebung von Prime Insights darstellte.

Als Herzstück der Datenbankarchitektur wählten wir MariaDB, ein leistungsstarkes relationales Datenbankmanagementsystem. MariaDB bietet nicht nur hervorragende Leistung und Flexibilität, sondern ist auch für die Verarbeitung großer Datenmengen hervorragend geeignet. Durch den Einsatz von Maxscale, einem Proxy-Server für MariaDB, konnten wir eine zusätzliche Schicht der Lastverteilung und Ausfallsicherheit implementieren, die auch in der Lage ist, die Topologie des MariaDB-Clusters automatisch anzupassen. Dadurch kann bei Ausfall einer Primary Node automatisch eine neue Primary Node bestimmt und alle Replicas umgestellt werden.

Um die PHP-basierten Backend-Systeme möglichst umfangreich zu überwachen und User-Requests sowie Auslastung der FPM-Worker nahtlos tracken zu können wurden mit Hilfe von VictoriaMetrics und Grafana spezielle Dashboards und Alert-Rules entwickelt. Damit stellen wir sicher, dass wegen Ressourcen-Limits keine User-Requests unentdeckt fehlschlagen können.

Um einerseits die Systeme vor Schaden zu bewahren und andererseits die größmögliche Verfügbarkeit für den End-User zu gewährleisten, leiten wir den Ingress-Traffic durch eine Kombination aus Cloudflare als Edge Proxy und HAProxy als zentralen Loadbalancer innerhalb der kundeneigenen-Infrastruktur. Das gewährleistet nicht nur maximale Sicherheit sondern vor allem Zero-Downtime Updates und Deployments.

KeyDB kommt als Ersatz für das klassische Redis zum Einsatz. KeyDB bringt viele der Redis Enterprise-Features in der Community Edition mit - unter anderem das Aktiv-Aktiv Clustering von KeyDB Instanzen. KeyDB eignet sich durch seine Multi-Threading-Capabilities und Clusterbarkeit besser für die sehr CPU-intensiven Workloads von Prime Insights als Redis und konnte außerdem durch enorm hohe Zuverlässigkeit und großartige Debugging-Tools überzeugen.

Implementierung einer geo-redundanten Infrastruktur

Um die Anforderung der Geo-Redundanz zu erfüllen, haben wir mehrere Rechenzentren an unterschiedlichen geografischen Standorten involviert. Diese Rechenzentren sind so konfiguriert, dass sie nahtlos zusammenarbeiten und dafür sorgen, dass die Daten durch Replikation immer synchron sind. Sollte ein Rechenzentrum ausfallen, übernimmt ein anderes sofort und ohne Unterbrechung die Anfragen, wodurch die Datenintegrität und Verfügbarkeit jederzeit sichergestellt sind. Alle Standorte arbeiten in einem Aktiv-Aktiv-Setup, sodass keine unnötigen Ressourcen verschwendet werden.

Ergebnis: Höhere Zuverlässigkeit und Kundenzufriedenheit

Seit der Implementierung dieser Lösung hat Prime Insights eine deutliche Verbesserung in der Gesamtleistung und Zuverlässigkeit ihrer Plattform verzeichnet. Die Infrastruktur bewältigt nun spielend die über 2 Milliarden Anfragen pro Monat, und die Ausfallzeiten wurden nahezu auf null reduziert. Kunden von Prime Insights profitieren von einer reibungslosen und stets verfügbaren Dienstleistung, was zu einer signifikanten Steigerung der Kundenzufriedenheit geführt hat.

Fortlaufende Optimierung und Support

Die Partnerschaft zwischen ayedo und Prime Insights endet nicht mit dem erfolgreichen Abschluss der Implementierung. Unser Team überwacht die Infrastruktur kontinuierlich und führt regelmäßige Wartungsarbeiten aus, um sicherzustellen, dass die Plattform stets optimal funktioniert. Zudem arbeiten wir im Rahmen unseres Priority Supports eng mit Prime Insights zusammen, um weitere Möglichkeiten zur Optimierung und Anpassung an zukünftige Anforderungen zu identifizieren.

Fazit: Eine Erfolgsgeschichte der digitalen Transformation

Durch die erfolgreiche Integration von Kubernetes, KeyDB, HAProxy, MariaDB und Maxscale hat ayedo eine wegweisende, hochverfügbare und skalierbare SaaS-Infrastruktur für Prime Insights geschaffen. Diese Zusammenarbeit ist ein Paradebeispiel für die erfolgreiche digitale Transformation und zeigt, wie fortschrittliche Technologieunternehmen wie ayedo innovative Lösungen bieten können, um den wachsenden Anforderungen moderner Unternehmen gerecht zu werden. Prime Insights ist nun bestens gerüstet, um weiterhin zu wachsen und seinen Kunden erstklassige Datenanalysedienste zu bieten.