将Dify集成到Amazon Bedrock中

大家是否在使用Dify？ 由于Dify的模型提供者可以选择Amazon Bedrock，因此，只要设置访问密钥和秘密访问密钥，就可以使用Amazon Bedrock的广泛模型。 Dify有云版和本地版，云版中，SANDBOX免费计划的使用范围有限，因此，可以使用自托管的COMMUNITY版来选择Amazon Bedrock。 在公司内部等本地环境中使用时，虽然会与Amazon Bedrock进行通信，但可以在不用担心创建本地RAG或模型学习的情况下，仅使用所需的部分，因此，对于想要熟悉Dify的小型和中型企业来说，这是一个最合适的选择。 另外，通过准备本地LLM，可以在不与互联网通信的封闭环境中使用。 另外，本地版是通过Docker镜像提供的，因此，设置也相对容易，可以轻松引入。 以下是将Dify本地版与Amazon Bedrock/Nova Cross-Region推理集成的方法，作为参考，我在EC2上构建了Dify，并通过公网IP连接，但也可以在本地环境中构建并进行本地连接。 此外，引用来源中使用的是俄勒冈州区域的说明，但我在弗吉尼亚北部区域尝试过后，发现，即使在模型选择中没有显示“US.Cross Region Inference”，也能正确响应。 希望大家也可以试试看。