Vor uns entfaltet sich langsam die enge und starke Beziehung zwischen Menschen, Daten und KI. Angetrieben durch Daten und KI wird generative KI zur Kraftquelle zur Förderung von Anwendungsinnovationen in Tausenden von Branchen und zum Schwerpunkt der Entwicklung im Bereich Wissenschaft und Technik. .
Amazon Cloud Technologies hat auf der diesjährigen re:Invent 2023-Konferenz hervorgehoben, dass die Technologie ganz oben auf der Agenda des Cloud-Riesen steht. Während der heutigen Keynote sagte Adam Selipsky, CEO von Amazon Cloud: „Innovationen rund um generative KI-Modelle sind explosiv.“ Er fügte hinzu: „Sie werden jede Anwendung, mit der wir bei der Arbeit und zu Hause interagieren, neu gestalten. Wir nähern uns dem gesamten Konzept der generativen KI in.“ ganz anders als vorher.
Amazon Cloud Technology rekonstruiert ständig die drei Ebenen der generativen Full-Stack-KI: Die unterste Schicht ist die Infrastrukturschicht für Training und Inferenz, die mittlere Schicht enthält alle Tool-Services, die zur Feinabstimmung des Modells erforderlich sind, und die obere Schicht ist die Schicht zum Erstellen generativer KI-Anwendungen.
1. Infrastrukturschicht – Computerchips und Speicheraktualisierungen
Amazon Cloud Technology stellte auf der Konferenz offiziell den Cloud-KI-Chip Amazon Trainium2 vor, der für generative KI und maschinelles Lernen entwickelt wurde. Basierend auf den erfolgreichen Erfahrungen mit dem Trainingschip Trainium, dem Basismodell (FM) von Amazon Trainium2 für Billionen von Parametern und LLM-Design (Large Language Model), das in Amazon EC2 Trn2-Instanzen verwendet wird. Eine einzelne Instanz enthält 16 Trainium-Chips. , bei gleichzeitiger Skalierung auf bis zu 100.000 Chips im Amazon EC2 UltraCluster-Produkt. Laut Amazon kann die Verwendung eines Clusters von 100.000 Trainium-Chips zum Trainieren eines großen KI-Modells mit 300 Milliarden Parametern die Trainingszeit von Monaten auf nur wenige Wochen verkürzen.
Amazon Cloud Technology verfügt über mehr als 5 Jahre Erfahrung mit selbst entwickelten Chips. Amazon Trainium- und Amazon Inferentia-Chips bieten die kostengünstigste Möglichkeit, Modelle zu trainieren und Inferenzen in der Cloud auszuführen. Auf Inferentia2 basierende Amazon EC2 Inf2-Instanzen sind darauf ausgelegt, hohe Leistung in Amazon EC2 zu niedrigsten Kosten für Deep-Inference- und generative KI-Anwendungen der Kunden bereitzustellen. Im Vergleich zu Inferentia ist der Durchsatz von Inferentia2 um das Vierfache erhöht und 1/10 niedriger als beim ersteren.
Darüber hinaus wurde auf der Konferenz auch der selbst entwickelte Server-CPU-Chip der vierten Generation Amazon Graviton4 vorgestellt. Selipsky behauptet, dass Graviton4 eine 30 Prozent schnellere Verarbeitung, 50 Prozent mehr Kerne und 75 Prozent mehr Speicherbandbreite bietet als der Graviton-Prozessor der vorherigen Generation, Graviton3 (aber nicht der neuere Graviton3E), der auf Amazon EC2 läuft. Selipsky betonte außerdem: „Wir sind jetzt in nur fünf Jahren bei der vierten Generation von Chips. Andere Cloud-Anbieter haben noch nicht einmal ihre ersten Serverprozessoren ausgeliefert.“
Zusätzlich zu den Rechenchips kündigte Amazon Cloud Technology auch ein umfangreiches Update seines S3-Objektspeicherdienstes an: eine neue hochleistungsfähige S3-Speicherklasse mit niedriger Latenz, Amazon S3 Express One Zone, die für eine einstellige Latenzempfindlichkeit ausgelegt ist Anwendungen. Hunderttausende Datenzugriffe pro Sekunde im Millisekundenbereich. Amazon S3 Express One Zone bietet einen 10-mal schnelleren Datenzugriff, 50 % niedrigere Anfragekosten und 60 % niedrigere Rechenkosten als die Amazon S3 Standard Edition.
2. Tool-Schicht – Service-Hosting von Amazon Bedrock
„Es wird kein einziges Modell geben, das sie alle beherrscht“, sagte Adam Selipsky auf der heutigen Konferenz. „Man muss verschiedene Modelle ausprobieren und den richtigen Modellanbieter auswählen. Ich denke, die Ereignisse der letzten 10 Tage haben das sehr deutlich gemacht.“
Auf dieser Ebene konzentrierte sich Selipsky auf Amazon Bedrock, einen vollständig verwalteten generativen KI-Dienst. Amazon Bedrock ist ein vollständig verwalteter Dienst, der leistungsstarke Basismodelle für Auslandsgeschäfte von vielen führenden KI-Unternehmen (einschließlich AI21 Labs, Anthropic, Cohere, Meta, Stability AI und Amazon) bereitstellt. Kunden müssen keine Infrastruktur verwalten. Sie können mit Amazon Bedrock über einfache API-Schnittstellen in einer sicheren Umgebung auf führende Basismodelle wie Meta Llama2, Anthropic Claude, Titan, Stability AI, AI21 Labs, Cohere usw. zugreifen, um ihre generativen KI-Anwendungen aufzubauen und zu erweitern. Seit diesem Jahr wurde auch Amazon Bedrock umfassend aktualisiert und um neue Funktionen wie Feinabstimmung, Agenten, Wissensdatenbanken, Leitplanken usw. erweitert, um Kunden dabei zu helfen, Anwendungen effizienter, intelligenter und sicherer zu erstellen!
Amazon Bedrock wurde vor zwei Monaten eingeführt und hat mehr als 10.000 aktive Kunden aus verschiedenen Branchen angezogen, um damit schnell generative KI-Anwendungen zu erstellen und zu skalieren, die Entwicklung zu vereinfachen und gleichzeitig Datenschutz und Sicherheit zu gewährleisten, wodurch die Kosten für die Erstellung erheblich gesenkt werden Mit generativen KI-Anwendungen können Kunden die neuen GA Agents für Amazon Bedrock verwenden, um in wenigen einfachen Schritten vollständig verwaltete Agents zu erstellen und bereitzustellen und komplexe Geschäftsaufgaben durch dynamisches Aufrufen von APIs auszuführen.
3. Anwendungsschicht – KI-Assistent Amazon Q
Adam Selipsky sagte in seinem Vortrag: „Mit Amazon Q können Sie ganz einfach Gespräche führen, Inhalte generieren und Maßnahmen ergreifen.Amazon Q Holen Sie es sich Ihre Systeme, Datenrepositorys und Betriebsanforderungen."
In dieser Keynote-Rede stellte Amazon Cloud Technology auch eine Vorschauversion von Amazon Q vor. Amazon Q beantwortet Fragen wie „Wie erstelle ich Webanwendungen mithilfe der Amazon-Cloud-Technologie?“ Basierend auf dem in den letzten 17 Jahren gesammelten Wissen von Amazon kann Amazon Q Fragen beantworten und entsprechende Erklärungen liefern. Benutzer können Amazon Q mit den von ihrer Organisation angegebenen Anwendungen und Software verbinden (z. B. Salesforce, Jira, Zendesk, Gmail, Amazon S3-Speicherinstanzen usw.) und die Konfiguration entsprechend anpassen. Amazon Q kann alle zugehörigen Daten und Inhalte indizieren und alle Aspekte des aktuellen Geschäfts „lernen“, einschließlich Organisationsstruktur, Kernkonzepte und Produktnamen.
Amazon Q kann nicht nur Fragen beantworten, sondern auch als Assistent beim Generieren oder Zusammenfassen von Blog-Beitragsinhalten, Pressemitteilungen und E-Mails fungieren. Es bietet außerdem eine Reihe konfigurierbarer Plugins für allgemeine Vorgänge am Arbeitsplatz, einschließlich der automatischen Erstellung von Servicetickets, der Arbeit mit bestimmten Teams in Slack und der Aktualisierung von Dashboards in ServiceNow. Um Fehler zu vermeiden, verlangt Amazon Q, dass Benutzer seine Handlungsempfehlungen überprüfen, bevor sie Maßnahmen ergreifen, und zeigt die Ergebnisse zur Überprüfung an.
Amazon Q wird mit dem Amazon CodeWhisperer-Dienst kombiniert, um Anwendungscode zu generieren und zu interpretieren. In unterstützten IDEs wie CodeCatalyst von Amazon Cloud Technologies kann Amazon Q Tests für Kundencode generieren, um dessen Qualität zu messen. Amazon Q kann außerdem neue Softwarefunktionen erstellen, Codetransformationen durchführen sowie Entwürfe und Dokumentationen für Codepakete, Repositorys und Frameworks aktualisieren und dabei natürliche Sprache verwenden, um Pläne zu verfeinern und auszuführen.
Als generatives Programmiertool für künstliche Intelligenz, das von Amazon Cloud Technology entwickelt wurde, wurde Amazon CodeWhisperer mit Milliarden von Codezeilen trainiert und angepasst und kann aus Kommentaren und vorhandenem Code Echtzeitcode generieren. Code Vorschläge, die von Codeausschnitten bis hin zu vollständigen Funktionen reichen, können auch verwendet werden, um schwer zu findende Codeschwachstellen zu scannen und auf potenzielle Sicherheitsprobleme zu prüfen. Darüber hinaus verfügt CodeWhisperer über integrierte Amazon Cloud9- und Amazon Lambda-Konsolen und kann durch Hinzufügen der CodeWhisperer-Erweiterung auch in JupyterLab, Amazon SageMaker Studio und Amazon Glue Studio Code verwendet werden.
4. Schauen Sie zu den Sternen auf, die Zukunft ist bereits da
Aus der Sicht einzelner Entwickler hat 2023 Amazon Cloud Technology re:Invent das enorme Potenzial und den Innovationsraum der generativen KI demonstriert. Generative KI kann uns beispiellose Kreativität und Inspiration bieten. Die kontinuierliche Weiterentwicklung der generativen KI-Technologie wird uns einzelnen Entwicklern umfassendere Tools bringen und Ressourcen, um großartige Innovationen und Anwendungsentwicklung zu fördern. Durch die Verwendung generativer KI-Modelle können wir realistische Bilder, einzigartige Musikkompositionen und beeindruckende Textinhalte generieren und so Ideen in die Realität umsetzen. Die von Amazon Cloud Technology auf dieser re:Invent 2023 veröffentlichten Produkte und neuen Tools bieten uns eine umfassendere und flexiblere Entwicklungsumgebung und einen umfassenderen Technologie-Stack.
Klicken Sie hier, um es jetzt anzusehenHighlight-Moment 2023 Amazon Cloud Technology re:Invent Erleben Sie gemeinsam einen kleinen Schritt der Amazon Cloud Technology, einen Schritt nach vorne im Cloud Computing Großer Schritt!
Abschließend möchte ich mit einem Zitat aus Adam Selipskys Keynote-Rede bei re:Invent enden: Wir rekonstruieren weiter, treiben technologische Innovationen durch Rekonstruktion voran und gestalten das Benutzererlebnis neu. Machen wir uns noch einmal auf den Weg, um zu rekonstruieren, die Fantasie in die Realität umzusetzen und alles, was in der Zukunft passieren wird, mitzuerleben.