Comunidad de Desarrolladores RSS

Integrar Amazon Bedrock en Dify

"¿Está utilizando Dify todos? Dify permite seleccionar a Amazon Bedrock como proveedor de modelos, por lo que si se configuran las claves de acceso y clave de acceso secreto, se puede utilizar el amplio modelo de Amazon Bedrock. Dify tiene versiones en la nube y locales, y en la versión en la nube, el plan gratuito SANDBOX tiene restricciones en su uso, por lo que utilizando la versión de autoservicio COMMUNITY, se puede seleccionar Amazon Bedrock. Si se utiliza en un entorno local, como una empresa, la comunicación con Amazon Bedrock se producirá, pero no se preocupará por crear un RAG local o aprender modelos, solo se utilizará lo que se necesita, lo que lo hace ideal para pequeñas y medianas empresas que desean probar. Además, al preparar un LLM local, se puede utilizar en un entorno cerrado sin comunicación con Internet. Por cierto, la versión local se proporciona como imagen de Docker, por lo que la configuración es relativamente fácil y se puede implementar. A continuación, se muestra cómo integrar Amazon Bedrock/Nova Cross-Region Inference en la versión local de Dify, conectándose a través de una IP pública en EC2, pero también se puede conectar localmente si se construye en un entorno local. Además, aunque la fuente original utiliza la región de Oregón para explicar, yo lo intenté en la región norte de Virginia y encontré que, incluso con modelos que no mostraban "US.Cross Region Inference", respondían correctamente. Por favor, ¡inténtelo también!"
favicon
dev.to
DifyにAmazon Bedrockを組み込む
Imagen del artículo: Integrar Amazon Bedrock en Dify
Create attached notes ...