一键部署LLM应用开发平台

举报
云计算冲锋队 发表于 2024/08/12 10:53:39 2024/08/12
【摘要】 概述Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务(Backend as Service)和LLMOps的理念,使开发者可以快速搭建生产级的生成式AI应用。即使你是非技术人员,也能参与到AI应用的定义和数据运营过程中。由于Dify内置了构建LLM应用所需的关键技术栈,包括对数百个模型的支持、直观的Prompt 编排界面、高质量的RAG引擎、稳健的Agent框架、灵活...

Dify - LLM应用开发平台

Dify是一个开源的LLM应用开发平台。其直观的界面结合了AI工作流、RAG管道、Agent、模型管理、可观测性功能等,让您可以快速从原型到生产。

概述

Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务(Backend as Service)和LLMOps的理念,使开发者可以快速搭建生产级的生成式AI应用。即使你是非技术人员,也能参与到AI应用的定义和数据运营过程中。

由于Dify内置了构建LLM应用所需的关键技术栈,包括对数百个模型的支持、直观的Prompt 编排界面、高质量的RAG引擎、稳健的Agent框架、灵活的流程编排,并同时提供了一套易用的界面和API。这为开发者节省了许多重复造轮子的时间,使其可以专注在创新和业务需求上。

计费说明

Dify应用所需的vCPU与内存规格、磁盘容量、公网带宽,组合商品活动价已包含。计费模式:包年包月。

使用指导

第一步:一键部署

1. 选择服务器配置:CPU核数最少2核,内存最少4G,其余规格根据需要选用。

2. 选择部署区域(可以选择离自己最近的城市,如无特殊要求,保持默认即可)。

3. 根据实际需要选择“可选配置”(可选配置会有额外费用),购买完成后开始部署服务(部署需要一定时间,预计8-10分钟,受网络、带宽影响,部署时间会有波动)。在完成之前,请勿进行重启、重置密码等操作。

4. 如果您需要登录服务器,预制密码为Cloud.1234

第二步:安全组配置

Dify要求服务器放开80端口,如果您之前没有为Flexus应用服务器L实例(以下简称L实例)的安全组增加过80端口,请按下述步骤操作:

1. 进入安全组配置页面:登录L实例控制台 ,选择刚才购买的L实例(以Dify为前缀),单击卡片进入详细页面。


2.进入服务器详情页:点击左侧导航栏中的云主机VM,再点击服务器名称进入详情页。

3. 配置安全组:选择“安全组”,添加规则,修改放通80端口。


第三步:启动应用

1. 登录开发平台:等待应用下载及部署完毕(约8-10分钟)后,访问L实例的公网IP,即可浏览Dify的开发平台。首次登陆需注册管理员账号,依次填写邮箱、账号、密码。

2. 配置大模型API key进入系统后,首先需要配置大模型的API key,用于Dify调用大模型API的能力。点击系统右上角的设置,选择模型供应商,挑选一家大模型,例如讯飞星火,点击设置,填写对应的API key。

3. 创建应用接着需要创建一个应用,您可以创建空白应用或者从模板中创建。作为开始,我们选择空白应用。

4. 查看API调用您可以在编排里进行调试与预览,例如编写提示词、导入知识库等。一旦完成,可以点击左侧的访问API,查看API的调用方法。

5. 创建密钥在调用之前,还需要点击右上角“API密钥”创建一个密钥,用作请求鉴权。

探索应用模板

仅仅使用空白模板来部署Dify和直接调用大模型的API体验几乎一致,为了充分发挥Dify的能力,您可以点击页面上方的探索,尝试预制的各类应用模板。除此之外,您还可以浏览Dify官方文档(地址:https://docs.dify.ai/v/zh-hans)获取更多详细的开发指南。

资源退订

客户购买包年包月Flexus应用服务器L实例后,支持退订包周期实例。退订资源实例包括资源续费部分和当前正在使用的部分,退订后资源将无法使用,详情参考https://support.huaweicloud.cn/price-hecs/billing_faq_0005.html

须知

请用户在遵守适用的法律法规下合法使用云服务,按照官方说明、指示和要求使用该场景,如用户涉及侵权,由用户自行承担责任。

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。