Amazon Web Services (AWS) hat auf seiner jährlichen Veranstaltung re:Invent Erweiterungen für seine Managed-Service-Plattform Amazon Bedrock vorgestellt. Diese Erweiterungen umfassen den Amazon Bedrock Marketplace, der neue KI-Modelle bietet, sowie verbesserte Funktionen für die automatische Auswahl und Verwaltung von Modellen. Zudem erweitert AWS die Möglichkeiten für den Zugriff auf strukturierte Daten und integriert Wissensgraphen sowie automatisierte Datenaufbereitungen.
Der Amazon Bedrock Marketplace bietet eine erweiterte Auswahl an Foundation-Modellen. Kunden haben Zugang zu über 100 Modellen, die für verschiedene Nutzungsszenarien entwickelt wurden. Nutzer können beispielsweise Quellcode oder Videos mit KI-Unterstützung erstellen. Luma AI präsentierte auf der Messe das neue KI-Modell Ray 2, das im Marketplace-Portfolio enthalten sein wird. Dieses Modell ermöglicht es, aus Textvorgaben kurze Clips im Stil eines Kinofilms zu erstellen. AWS hatte bereits zuvor die Nova-Modelle angekündigt, die ebenfalls Texte, Bilder und Videos verarbeiten und generieren können und die Eingaben auf verschiedene Modelle aufteilen.
Amazon Bedrock wählt automatisch kostengünstige KI-Modelle aus. AWS führt neue Mechanismen für den Umgang mit Anfragen zur Ausführung von KI-Algorithmen ein. Mit Prompt Caching können häufig verwendete Eingaben zwischengespeichert werden. Das Intelligent Prompt Routing wählt je nach Anfragekomplexität automatisch verschiedene Modelle innerhalb einer Modellfamilie aus. Kleinere Modelle bearbeiten einfache Fragen, während komplexere Anfragen an leistungsstärkere Modelle weitergeleitet werden. Dieser automatisierte Ansatz soll den Kunden helfen, bis zu 30 Prozent der Kosten zu sparen, ohne die Qualität der Antworten zu beeinträchtigen.
Die Entwickler haben auch den Zugriff auf strukturierte Datenquellen überarbeitet. Anfragen in natürlicher Sprache werden automatisch in SQL-Abfragen übersetzt. Laut AWS erleichtert dies die Integration von Daten aus Data Warehouses, Data Lakes oder Tools wie Amazon SageMaker Lakehouse. Zudem wird Bedrock um GraphRAG-Unterstützung erweitert, was bedeutet, dass Wissen aus Wissensgraphen in die Antwortgenerierung einfließt. Dies soll der KI helfen, Beziehungen zwischen Datenpunkten klarer zu erkennen und genauere sowie besser nachvollziehbare Ergebnisse zu liefern.
Mit Amazon Bedrock Data Automation können unstrukturierte, multimodale Inhalte jetzt automatisch in strukturierte Formate umgewandelt werden, ohne dass manuelles Coding erforderlich ist. Das Tool extrahiert systematisch relevante Informationen aus Texten und Bildern, transformiert sie und integriert sie in bestehende Datenbestände. Dies soll analytische Auswertungen und Workflows der Retrieval-Augmented-Generation (RAG) vereinfachen. RAG-Anwendungen nutzen nicht nur die Trainingsdaten der KI, sondern auch externe Informationsquellen wie das Internet.
Der Amazon Bedrock Marketplace ist ab sofort verfügbar. Die anderen Neuerungen stehen Kunden zunächst im Rahmen einer Vorschau zur Verfügung.