SAE 2.0 erleichtert die Entwicklung von Containeranwendungen

12.23 Yuanchuanghui·Shanghai Station, sprechen wir über die LLM-Infrastruktur

Autor: Shao Dan

Die Entwicklung cloudnativer, containerisierter Anwendungshosting-Modelle

Das Konzept von Cloud Native befindet sich seit seiner Einführung und Erweiterung in einem Prozess kontinuierlicher Weiterentwicklung und Innovation und erfreut sich heute großer Beliebtheit. Die Hosting-Form von Anwendungen unter dem Cloud-nativen System entwickelt sich mit der Unternehmensanwendungsarchitektur weiter. Die meisten der ersten Anwendungen waren zentralisiert und monolithisch. Anwendungen erreichten die gemeinsame Nutzung von Domänenmodellen und eine detailliertere Modulaufteilung durch elegante Schichtung. Mit der explosionsartigen Entwicklung des Internets ersetzt die verteilte Architektur nach und nach die zentralisierte Architektur, und auch das Cloud-native Anwendungshosting hat vier Entwicklungsstufen durchlaufen.

Phase eins: Containerisierung

Das Aufkommen und die große Popularität von Docker durch Container-Paketierung, standardisierte Entwicklung sowie Betrieb und Wartung haben groß angelegte, sprachübergreifende verteilte Anwendungen zur Realität gemacht.

Phase 2: Kubernetes voll und ganz nutzen

Seitdem erfreut sich die Microservice-Architektur in größerem Maßstab immer größerer Beliebtheit. Damit ist die Infrastruktur, die Unternehmen betreiben und warten müssen, immer komplexer geworden und die Anzahl der zu verwaltenden Container ist exponentiell gestiegen. Einerseits schirmt Kubernetes die Unterschiede in der IaaS-Layer-Infrastruktur ab und unterstützt mit seiner hervorragenden Portabilität die konsistente Ausführung von Anwendungen in verschiedenen Umgebungen, einschließlich Rechenzentren, Clouds und Edge-Computing Aufgrund seiner Skalierbarkeit und aktiven Entwickler-Community zeichnet es sich im Kampf um die Orchestrierung von Containern im großen Maßstab aus und ist zum De-facto-Standard für verteilte Ressourcenplanung sowie automatisierten Betrieb und Wartung geworden.

Phase 3: Serverloses Kubernetes

Obwohl Kubernetes viele Vorteile mit sich gebracht hat, ist es für die meisten Unternehmen immer noch voller Herausforderungen, Kubernetes in einer Produktionsumgebung zu implementieren und weiterhin Systemstabilität, Sicherheit und Skalierungswachstum sicherzustellen. In diesem Zusammenhang rückt Nodeless Kubernetes ins Blickfeld: Unter Beibehaltung der vollständigen Kubernetes-Fähigkeiten werden komplexe Betriebs-, Wartungs- und Kapazitätsmanagementarbeiten in die Cloud-Infrastrukturbasis verlagert.

Phase 4: Serverloses Container-Anwendungshosting

Obwohl serverloses Kubernetes den Aufwand für den Betrieb und die Wartung von Kubernetes für Unternehmen erheblich reduziert hat, sind die Komplexität und die steile Lernkurve von Kubernetes selbst immer noch entmutigend. Wie können Benutzer ihre Anwendungen auf Kubernetes ausführen und gleichzeitig die vielen Vorteile von Kubernetes genießen? Technologische Dividenden und das Die Möglichkeit einer größtmöglichen Nulltransformation ist zu einem weiteren Problem geworden, das dringend gelöst werden muss.

Die serverlose Anwendungs-Engine SAE ist geboren

Vor diesem Hintergrund wurde die serverlose Anwendungs-Engine SAE geboren. Es handelt sich um eine äußerst benutzerfreundliche, anpassungsfähige und flexible Hosting-Plattform für Anwendungen ohne Code-Änderungen. Mit SAE können Sie IaaS und K8s ohne Betrieb und Wartung betreiben und Online-Anwendungen in jeder Sprache (z. B. Web/Microservices/Job-Aufgaben) vom Quellcode/Codepaket/Docker-Image bis hin zu SAE in Sekundenschnelle bereitstellen und Instanzen und Rechnungen automatisch skalieren basierend auf der Nutzung. Unterstützende Funktionen wie Protokollierung, Überwachung und Lastausgleich sind sofort verfügbar.

Das Aufkommen von SAE löst das Problem, dass viele Unternehmen K8s nutzen möchten, aber Schwierigkeiten beim Einstieg haben. Sie können die technischen Vorteile von K8s mit einem sehr niedrigen Schwellenwert genießen und über ein On-Demand-Nutzung- und Pay-as-you-go-Lademodell verfügen und adaptive Elastizität. Darüber hinaus bietet es den Unternehmen einen starken Anreiz, Kosten zu senken und die Effizienz zu steigern.

Umfassendes Upgrade der serverlosen Anwendungs-Engine SAE2.0

In diesem Jahr ist die serverlose Anwendungs-Engine SAE in die 2.0-Ära eingetreten und hat ein umfassendes Upgrade erhalten. Das erste ist die Elastizität:

Spielen Sie schneller

Um eine vollständige Kompatibilität mit den Entwicklungsgewohnheiten von Unternehmen zu gewährleisten, wurde die elastische Effizienz von SAE2.0 erheblich verbessert, von der zweiten Ebene auf Hunderte von Millisekunden, und beginnt, die Fähigkeit zur Verkürzung auf 0 zu unterstützen. Das Reduzieren der Kapazität auf 0 bedeutet, dass keine Gebühren anfallen, wenn kein Geschäftsverkehr stattfindet, wodurch die Ressourcenauslastung unendlich nahe an die Auslastung der angeforderten Ressourcen herankommen kann.

Mehr Einsparungen nach der Bombardierung

Nach umfangreichen Benutzerrecherchen haben wir festgestellt, dass für viele Unternehmensanwendungen keine Notwendigkeit besteht, eine große Menge an Ressourcen vorzuhalten, wenn keine Anforderungen vorliegen oder die Anforderungsverarbeitung abgeschlossen ist. Dann können wir seine CPU freigeben oder nur sehr geringe CPU-Ressourcen behalten, nachdem die Anforderung verarbeitet wurde, und den Speicherstatus beibehalten, um den Zweck zu erreichen, Ressourcen und Instanzen am Leben zu halten. Dies ist eine Leerlaufabrechnung.

Der wichtigste Zweck der Leerlaufabrechnung besteht darin, die CPU-Freigabe zu nutzen, um CPU-Kosten zu sparen. Durch die Beibehaltung des Speichers kann beim Start der nächsten Instanz eine Wiederherstellung auf Millisekundenebene erreicht werden, wodurch Ressourcen maximal gespart und gleichzeitig garantiert werden geringe Wartezeit.

Spielen Sie stabiler

Durch die Optimierung des gesamten Links auf der Plattformseite wird die Verzögerung um 45 % reduziert und die Schwankung der Laufzeitleistung auf 7 % reduziert. Während die Elastizität dünner und die Elastizität stabiler ist, wird auch die Stabilität optimiert.

SAE2.0 verfügt über ein integriertes Verkehrs-Gateway , und die entsprechende Einzelinstanz-Parallelität kann entsprechend jeder Instanz konfiguriert werden, was der Anzahl der Parallelitäten ähnelt, über die wir normalerweise sprechen. Wenn die Parallelität zunimmt, kann die entsprechende Instanz basierend auf der tatsächlichen Anzahl von Anforderungen erweitert werden.

Wenn ich keine Anfragen habe, wird die CPU nicht in Rechnung gestellt, was der oben erwähnten Leerlaufabrechnung entspricht. Wenn eine Anfrage eingeht, wird eine Instanz zuerst basierend auf der tatsächlichen Anzahl von Parallelitäten zugewiesen. Wenn diese Instanz voll ist, wird die nächste Instanz erweitert. Dies ermöglicht eine automatische Erweiterung basierend auf dem tatsächlichen Datenverkehr, wenn der Datenverkehr schwankt. Die Fähigkeit zur Verkleinerung .

SAE2.0 bietet die Möglichkeit , Multiversionsverkehr für Webanwendungen zu konfigurieren . Es ermöglicht eine unabhängige Netzwerkkonfiguration für jede Version. Je nach Geschäftsanforderungen kann das Verkehrsverhältnis, das mehreren Versionen entspricht, dynamisch konfiguriert werden, und es ist nicht erforderlich, die Anzahl der entsprechenden Instanzen anzugeben. Die Anzahl der Instanzen basiert auf der konfigurierten Instanzobergrenze und dem Verkehrsverhältnis durch automatische Elastizität Kapazitätserweiterung. , wodurch die Koexistenz mehrerer Versionen erreicht wird.

Darüber hinaus kann SAE2.0 in Bezug auf die Entwicklungserfahrung die traditionelle monolithische Architektur oder Microservice-Architektur ohne Codierungsänderungen auf eine serverlose Anwendungsarchitektur aktualisieren . Und mit der Ein-Klick-Bereitstellung und den Funktionen zur Anwendungserstellung auf zweiter Ebene wird eine effiziente Anwendungsfreigabe erreicht. Gleichzeitig verfügt SAE2.0 auch über Plattform-Engineering-Funktionen wie CLI und S2A, was die Forschungs- und Entwicklungseffizienz der Benutzer erheblich verbessert. Darüber hinaus verfügt es auch über die Knative-Adapter-Funktion, wodurch Knative-Anwendungen sehr reibungslos auf SAE2.0 veröffentlicht werden können.