RSS AWS Compute Blog
Folgen
Laufen und Optimieren kleiner Sprachmodelle vor Ort und am Rand
Wenn Sie Ihre Implementierungen generativer KI vom Prototyp zur Produktion überführen, stellen Sie möglicherweise fest, dass Sie Basismodelle (Foundation Models, FMs) lokal oder am Edge ausführen müssen, um Anforderungen an die Datenresidenz, die Informationssicherheit (InfoSec) oder niedrige Latenzzeiten zu erfüllen. Um die Anforderungen der Benutzer an Datenresidenz, Latenz und InfoSec zu erfüllen, bietet dieser Beitrag eine Anleitung zum Bereitstellen generativer KI-FMs in AWS Local Zones und AWS Outposts.