Bekanntgabe von latency-optimierter Inferenz für das Amazon Nova Pro-Grundmodell in Amazon Bedrock

Das Amazon Nova Pro-Grundmodell unterstützt jetzt die latency-optimierte Inferenz in der Vorschau auf Amazon Bedrock, was schnellere Antwortzeiten und eine verbesserte Reaktionsfähigkeit für generative KI-Anwendungen ermöglicht. Die latency-optimierte Inferenz beschleunigt die Antwortzeiten für latency-empfindliche Anwendungen, verbessert die Benutzererfahrung und gibt Entwicklern mehr Flexibilität, um die Leistung für ihren Anwendungsfall zu optimieren. Der Zugriff auf diese Fähigkeiten erfordert keine zusätzliche Einrichtung oder Modell-Feinabstimmung, was eine sofortige Verbesserung bestehender Anwendungen mit schnelleren Antwortzeiten ermöglicht. Die latency-optimierte Inferenz für Amazon Nova Pro ist über die cross-region-Inferenz in den Regionen US-West (Oregon), US-Ost (Virginia) und US-Ost (Ohio) verfügbar. Erfahren Sie mehr über Amazon Nova-Grundmodelle im AWS-News-Blog, auf der Amazon Nova-Produktseite oder im Amazon Nova-Benutzerhandbuch. Erfahren Sie mehr über die latency-optimierte Inferenz auf Bedrock in der Dokumentation. Sie können mit Amazon Nova-Grundmodellen in Amazon Bedrock über die Amazon Bedrock-Konsole beginnen.