ChatGPT sorgte für einen Blitzschlag und ermöglichte der Welt, die Leistungsfähigkeit der generativen KI zu sehen. Gegenwärtig befindet sich die generative KI in einem explosiven Moment und hat in vielen Bereichen ihr unbegrenztes Potenzial unter Beweis gestellt. Wie sollten Unternehmen also in dieser Runde der generativen KI-Explosion die Chance nutzen, dem Trend dieser Zeit folgen und ihre eigenen einzigartigen Dividenden erzielen? Dieser Amazon Cloud Technology China Summit gab uns die Antwort.
0-Code zum Erstellen der App
Viele Unternehmen hoffen, von der KI-Explosion profitieren zu können, aber ob es nun Kosten oder technische Hürden sind, die hohe Schwelle großer Modelle wird viele Unternehmen davon abhalten. Amazon Bedrock von Amazon Cloud Technology hat die Schwelle zu großen Modellen überwunden.
Auf dem Gipfel zeigte Matt Wood, Vice President of Global Product bei Amazon Cloud Technology, allen eine beeindruckende No-Code-Produktdemo.
Generative KI-Transformation
Die sukzessive Geburt von KI-Tools wie DALL-E 2, Stable Diffusion und ChatGPT läutete erfolgreich die Ära der AIGC ein. Daher wird 2022 auch als „das erste Jahr der generativen KI“ bezeichnet. In den letzten zwei Jahrzehnten haben wir die Entwicklung von Algorithmen des „maschinellen Lernens“ über „Deep Learning“ und dann zu „Basismodellen“ erlebt. Mit der massiven Ausweitung des Datenvolumens, der skalierbaren Rechenleistung und kontinuierlichen Innovationen im maschinellen Lernen hat die generative KI einen Wendepunkt erreicht.
Auf dem Amazon Cloud Technology China Summit erwähnte Matt Wood, Vizepräsident für globale Produkte bei Amazon Cloud Technology, dass generative KI zunächst in vier Aspekten tiefgreifende Veränderungen erfahren wird. Dies sind: kreativer Output, Funktionserweiterung, interaktives Erlebnis, Entscheidungsunterstützung.
Unter kreativem Output versteht man die Erbringung kreativer Arbeit mithilfe generativer KI, beispielsweise Schreiben, Codieren, Video, Design usw. Office-Software kann Ihnen dabei helfen, die Umsetzung verschiedener personalisierter Inhalte zusammenzufassen und zu analysieren sowie nach verwandten Inhalten zu suchen, die allesamt Ausdruck erweiterter Funktionen sind. Darüber hinaus erfolgt das interaktive Erlebnis durch die Frage-und-Antwort-Interaktion mit Chat-Robotern, einschließlich ChatGPT. Endgültige Entscheidungsunterstützung, z. B. intelligenter KI-Assistent für Datenberichte.
Jetzt steht die Explosion der generativen KI vor der Tür, und es handelt sich immer noch um eine Explosion mehrerer Punkte. Viele Unternehmen hoffen, die Chance zu nutzen.
Vier Herausforderungen, eine Lösung aus einer Hand
In der Realität stehen Unternehmen jedoch immer noch vor vielen Schwierigkeiten, wenn sie generative KI nutzen wollen.
Und Amazon Cloud Technology schließt diese Lücke durch verschiedene Serviceprodukte und ist bestrebt, die Vorteile generativer KI allen Unternehmen zugänglich zu machen.
1. Holen Sie sich ein erstklassiges Modell
Im heutigen Kontext müssen die meisten Unternehmen große Sprachmodelle verwenden. Bequemer Zugang und zuverlässige Modelle sind nach und nach zu starren Anforderungen geworden. Aber Chatbots, darunter ChatGPT und Bing AI, können das Problem der „Illusion“ nicht umgehen und geben Antworten aus, die überzeugend aussehen, in Wirklichkeit aber Unsinn sind.
Wie bekomme ich ein erstklassiges Modell? Amazon Bedrock von Amazon Cloud Technology bietet eine sehr gute Wahl. Der wichtigste Vorteil von Amazon Bedrock besteht zunächst darin, dass Benutzer es mit anderen Teilen der Amazon Cloud-Technologie integrieren können. Dies bedeutet, dass Unternehmen einfacher auf die im Amazon S3-Objektspeicherdienst gespeicherten Daten zugreifen und von den Zugriffskontroll- und Governance-Richtlinien von Amazon Cloud Technology profitieren können. Zweitens können Benutzer über Amazon Bedrock problemlos auf Jurassic-2 von AI21, Claude von Anthropic, Stable Diffusion von Stability AI und das eigene Amazon Titan-Modell von Amazon Cloud Technology zugreifen.
Amazon Titan enthält zwei große Sprachmodelle, eines ist Titan Text zum Generieren von Text und das andere ist Titan Embedding zur Personalisierung von Websuchen.
Benutzer können das Amazon Titan-Modell mit ihren eigenen Daten anpassen. Darüber hinaus schützt die Amazon Cloud-Technologie den Datenschutz der Benutzer sehr und verwendet keine Benutzerdaten, um das Amazon Titan-Modell neu zu trainieren.
Darüber hinaus legt Amazon Titan im Gegensatz zu der „Illusion“, die bei anderen großen Modellen häufig auftritt, großen Wert auf Genauigkeit beim Training, um sicherzustellen, dass die generierten Antworten von hoher Qualität sein müssen.
2. Sichere und private Umgebung
Obwohl es notwendig ist, ein großes Modell zu verwenden, möchten nicht alle Kunden, dass ihre Daten zum Trainieren des Modells verwendet werden.
In einer Umfrage stellte Amazon Cloud Technology außerdem fest, dass es aufgrund der Tatsache, dass Daten sehr wertvoll sind, eines der Hauptbedürfnisse der Kunden darin besteht, während des Modelltrainings jederzeit Datensicherheit und Datenschutz zu gewährleisten.
Und Amazon SageMaker von Amazon Bedrock bietet eine solch sichere Modelltrainingsumgebung, die es Kunden ermöglicht, das vorab trainierte Modell durch Feinabstimmung ihrer eigenen Daten in ein individuelles Modell umzuwandeln.
Der Vizepräsident von Amazon Cloud Technology sagte, dass Kunden ihre eigenen Daten verwenden können, um das Amazon Titan-Modell anzupassen, diese Daten jedoch niemals zum Trainieren des Amazon Titan-Modells verwendet werden, wodurch sichergestellt werden kann, dass andere Kunden (einschließlich Wettbewerber) nicht davon profitieren Diese Daten. vorteilhaft.
3. Niedrige Kosten und geringe Latenz
Auf dieser Basis werden entsprechende Werkzeuge benötigt, um eine schnellere Entwicklung zu erreichen.
Im Zeitalter der Großmodelle gewinnen diejenigen, die über Rechenleistung verfügen, die Welt.
In diesem Zusammenhang haben die von Amazon Cloud Technology eingeführten Trainings- und Argumentationschips Amazon Inferentia, Amazon Inferentia2 und Amazon Trainium den Entwicklungsprozess von KI-Tools beschleunigt.
Amazon Trainium ist der Beschleuniger für maschinelles Lernen der zweiten Generation, der speziell von Amazon Cloud Technology für das Deep-Learning-Training von Modellen mit mehr als 100 Milliarden Parametern entwickelt wurde. Jede Amazon Elastic Compute Cloud (EC2) Trn1-Instanz kann bis zu 16 Trainium-Beschleuniger bereitstellen und bietet so eine leistungsstarke, kostengünstige Lösung für Deep Learning (DL)-Training in der Cloud.
Amazon Inferentia ist ein von Amazon Cloud Technology entwickelter Inferenzbeschleuniger für maschinelles Lernen, der leistungsstarke und kostengünstige Inferenzen für maschinelles Lernen in der Cloud bereitstellen kann. Im Vergleich zum Amazon Inferentia der ersten Generation hat der Amazon Inferentia2-Beschleuniger einen großen Leistungs- und Funktionssprung gemacht, mit einem viermal höheren Durchsatz und einer um 1/10 geringeren Latenz.
4. Professionelle Codegenerierung
Neben günstiger und effizienter Rechenleistung ist der Code ein weiteres großes Problem für Unternehmensentwickler.
Vor einiger Zeit startete GiHub eine Umfrage zum Thema „Auswirkungen von KI auf die Entwicklererfahrung“. Den Ergebnissen zufolge verwenden fast alle (92 %) Entwickler KI-Codierungstools bei der Arbeit, und die meisten (67 %) Entwickler nutzen sie in der Arbeitsumgebung und in der Freizeit, aber 6 % der Entwickler geben an, dass sie Codierungshilfen nur außerhalb verwenden arbeiten. Unter ihnen gaben mehr als 70 % der Entwickler an, dass KI-Codierungstools bestehende Leistungsstandards erfüllen, die Codequalität verbessern, Code schneller ausgeben und weniger Unfälle auf Produktionsebene verursachen können.
Zufälligerweise führte Amazon Cloud Technology auch eine Produktivitätsherausforderung durch. Die Ergebnisse zeigten, dass Teilnehmer, die Amazon CodeWhisperer verwendeten, Aufgaben 27 % häufiger erledigten als diejenigen, die dies nicht taten, und die Durchschnittsgeschwindigkeit war 57 % schneller. Für den Projektleiter ist dies jedoch keine kleine Herausforderung.
Aufgrund des „Illusions“-Problems großer Modelle sind Code- und Sicherheitsüberprüfungen zu diesem Zeitpunkt besonders wichtig.
Um diese Herausforderungen zu lösen, hat Amazon Cloud Technology das KI-gestützte Code-Entwicklungstool Amazon CodeWhisperer vollständig auf den Markt gebracht, das Benutzern eine schnellere und robustere Entwicklung ermöglicht.
Insbesondere kann Amazon CodeWhisperer nach dem Training mit Milliarden Zeilen Amazon- und öffentlich verfügbarem Code nicht nur in natürlicher Sprache (Englisch) verfasste Kommentare verstehen, sondern auch ganze Funktionen und logische Codeblöcke generieren (die normalerweise 10–15 Codezeilen enthalten). ).
Gleichzeitig filtert Amazon CodeWhisperer automatisch alle Codevorschläge heraus, die voreingenommen oder unfair sein könnten, und filtert und markiert verdächtigen Open-Source-Code.
Sie sollten wissen, dass Entwickler, wenn sie Codeausschnitte aus dem Internet kopieren, wahrscheinlich Code mit Sicherheitsrisiken kopieren oder dass es keine wirksame Rückverfolgbarkeit der Verwendung von Open-Source-Code gibt. Und Amazon CodeWhisperer hat diese potenziellen Probleme weitgehend beseitigt.
In puncto Sicherheit beherrscht Amazon CodeWhisperer auch die Prüfung von Schwachstellen und das Debuggen. Darüber hinaus prüft es sehr sorgfältig Fehler und scannt nicht nur den von Entwicklern geschriebenen Code, sondern auch den von ihm selbst generierten Code.
Für Einzelnutzer ist der wichtigste Punkt natürlich: Amazon CodeWhisperer kann kostenlos genutzt werden!