> 技术文档 > 华为云Flexus+DeepSeek征文|华为云单机与CCE高可用部署实战:集成Dify模型并优化服务器性能监控

华为云Flexus+DeepSeek征文|华为云单机与CCE高可用部署实战:集成Dify模型并优化服务器性能监控

前引: 在AI技术高速演进的浪潮中,如何快速、高效、安全地搭建一个大模型应用平台,成为开发者和企业关注的焦点。近日,华为云推出的Flexus云服务器配合CCE容器引擎和Dify LLM应用开发平台,带来了极具吸引力的解决方案。从弹性伸缩的资源调度,到分钟级别的快速部署,再到对大模型推理与微调的天然支持,这一平台究竟能否成为AI开发的新引擎?本文将通过实测,带你走进一场“即开即用”的智能云端体验,看华为云如何为AI应用搭建稳固高效的基座,测评旅行开始喽!

目录

一、活动目标与流程

二、DeepSeek R1/V3服务开通

三、华为云Dify-LLM开发平台介绍

(1)全栈开发支持

(2)安全可靠的基础架构

(3)弹性扩展

四、部署:云服务器单机部署

准备工作

全程教学

五、如何监测云服务单机性能

监测参数:

监测方法:

安装插件:

云监控:

六、部署:CCE容器高可用部署

准备工作

(1)秘钥建立

(2)桶的建立

(3)委托建立

(4)授权设置

全程教学

七、如何监控CCE高可用性能

监测参数:

监测方法:

云监控:

云服务引擎:

八、部署模式对比与体验

九、Dify-LLM基础使用

十、添加华为云的DeepSeek模型

十一、如何删除部署的资源

十二、成本分析

十三、改进建议

十四、测评心得


一、活动目标与流程

在人工智能快速发展的今天,企业级AI应用的构建已成为技术创新的前沿。本次华为云MaaS平台联合CSDN举办的征文活动,旨在为开发者提供一个深入探索DeepSeek大模型推理服务和Dify平台的绝佳机会!小编有幸作为开发者进行测评,通过实践和体验,全面了解如何利用华为云ModelArts Studio平台,快速构建智能、高效的AI应用解决方案,如何搭建自己的工作流!种种部署教程皆遵循:简洁+易懂,让更多的新手可以体验模型搭建的快感!下面是本篇文章的流程:

·

(1)引导开发者深入体验DeepSeek-V3/R1商用级大模型推理服务

(2)详细展示基于华为云Flexus的Dify-LLM平台一键部署方案(单机部署+CCE高可用部署)

(3)教学用户如何与华为云DeepSeek模型对接

(4)教学如何监测这两种部署方式的性能(Linux监测方法)

(5)部署完成之后如何登录Dify

(6)完成搭建AI的模型添加

相信在小编的带领下,一定会全程舒适,提前希望每个读者都可以搭建出自己的工作流!正文开始!

二、DeepSeek R1/V3服务开通

开通的过程最大特点就是:快、简洁,几秒就可以开始体验,还有免费的额度可以使用,这是给用户的一个大礼包!而且费用也很低很低,三步即可快速开通,值得点赞!

(1)打开华为云 ModelArts Studio大模型平台完成登录认证

(2)登录认证之后选择中间的ModelArts Studio控制台,点击在线推理,开通模型

(3)也可以体验商用旁边的免费版!

注意:在ModelArts Studio控制台看是否有权限未开启,这可能导致后面使用模型时报错 

使用实例:

三、华为云Dify-LLM开发平台介绍

华为云Dify-LLM开发平台是一个开源的大语言模型(LLM)应用开发平台,旨在简化AI应用的构建和部署过程。华为云Dify-LLM平台为企业和开发者提供了一站式的智能应用开发解决方案,显著降低了AI技术应用的门槛,让每位用户都获得不错的体验!下面我们来看看它的显著优势:

(1)全栈开发支持

(1)提供端到端的AI应用开发流程
(2)无缝集成多种大语言模型
(3)灵活的应用配置和定制能力

(2)安全可靠的基础架构

(1)基于华为云先进的云容器服务(CCE)
(2)私有网络(VPC)和NAT网关确保网络安全
(3)多层安全防护机制

(3)弹性扩展

(1)灵活的服务节点部署
(2)支持快速扩展和性能优化
(3)嵌入式和重排序模块增强模型能力

丰富的插件生态和提供灵活的定价模式,满足不同规模企业的需求,多模型支持,点赞!

四、部署:云服务器单机部署

准备工作

除DeepSeek R1/V3服务开通之外,在ModelArts Studio如果出现下面这样的情况,找到上面红色的授权提醒,选择授权,避免后续部署失败

全程教学

(1)点击单机部署

(2)选择默认的下一步

(3)版本、加密都可以自行选择

(4)开启回滚提高效率

(5)创建执行计划

 (6)点击部署

(7)等待约10分钟部署成功

 (10)复制IP浏览器打开,下面就可以开启模型置了

五、如何监测云服务单机性能

监测参数:

CPU使用率:查看CPU是否空闲或过于繁忙

内存使用率:监控内存是否充足

磁盘使用率:监控磁盘空间是否即将耗尽

磁盘读写速率(IOPS):分析磁盘性能瓶颈

网络入/出带宽:查看公网或内网流量情况

GPU使用率/显存使用率

监测方法:

华为云云服务监控 :这是最简单、最实用的测量工具,采用图形化趋势分析

安装插件:

(1)需要已经部署成功的云服务器

(2)然后去云服务控制台,点击弹性云服务器,点击上面的Flexus实例或者直接搜索也行

(3)点击Flexus X实例

(4)点击远程登录

(5)点击立刻登录

(6)先输入root,然后回车,再输入部署设置的密码(注意:密码的输入不会显示)再回车

(7)这样的界面下,我们需要回到云监控服务复制 Linux 的执行命名

(8)点击弹性云云服务器,点击“开始详细监控”,点击 Linux,复制下面的执行命名

(9)然后回到登录界面,点击左上角的复制粘贴,粘贴命名然后发送

(10)这样就表示成功了,然后等待3~5分钟,就可以开始我们的“操作步骤”查看部署性能了

云监控:

注意:此“操作步骤”需要“安装插件”成功的前提下操作

 (1)登录华为云控制台

 (2)搜索“Flexus云服务”,点击Flexus X实例,点击这个已经部署的实例

(3)点击“监控”,点击“操作系统监控”,这样就可以查看部署的服务器实时性能参数了

六、部署:CCE容器高可用部署

准备工作
(1)秘钥建立

(1)搜索我的凭证

(2)选择秘钥进行建立,之后会弹出一个下载的小文档,选择下载保存,方便后面使用

例如小编下载在了桌面:

(2)桶的建立

(1)在对象存储服务,点击桶列表,如果已经有了就不用创建了

(2)根据喜好选择,点击创建

 (3)这样就可以了,后面会用到桶名称

(3)委托建立

(1)在搜索栏搜索委托,搜下面这个,如果没有就创建(后面还要检查权限,建议继续看教程)

(2)名字就设置为 rf_admin_trust,选择云服务、RFS,点击完成

(3)点击授权

(4)搜索这个权限,没有授权就勾选上即可

(5)选择所有资源

(6)点击完成即可

(4)授权设置

在云容器引擎CCE授权即可

全程教学

(1)点击高可用部署

(2)直接下一步

(3)这里的所有密码大家按要求配置即可,但是在下面有三个需要特点注意:

桶名称就是我们刚才准备工作里面创建的,复制桶名字粘贴,注意不要多复制空格

秘钥ID在刚才下载的那个文档打开即可,复制那20位ID粘贴

秘钥也在那个下载的文档里面,复制那40位粘贴

(4)这里要设置委托,就是我们刚才那个 rf 开头的委托,打开回滚,删除自己选择

 (5)创建执行计划,下一步

(6)执行

(7)部署

(8)点击执行

(9)等待部署成功,一般18分钟左右,会比单机部署长一些

(10)在输出这里我们就能看见IP了,高可用的部署就完成了,下面我们进行拼接、部署等!

七、如何监控CCE高可用性能

监测参数:

工作负载状态:您的应用是否都在正常运行 

节点列表:列出集群中所有的云服务器节点,每个节点的状态、IP、CPU和内存的分配率

集群资源概览:整个集群总的CPU、内存的 请求量和 限制量

CPU使用率、内存、磁盘I/O、网络带宽等

监测方法:

(1)直接使用华为云监控控制台是最直观、最集成、最快捷的方法

(2)使用云服务引擎CCE监测CCE节点信息

云监控:

(1)先确保插件安装成功,可以参考:“云服务单机性能监控里面的“安装插件”方法”

(2)搜索“Flexus云服务”,然后点击“Flexus X实例”,再点击已经部署成功的对象

可直接参考:云服务单机部署的监测方法!二者操作是一样的!

云服务引擎:

(1)进入云服务引擎CCE,找到集群管理

(2)点击集群管理,就可以看见已经部署的集群了,点击进去

(3)左边工作栏找到“节点管理”,再点击“节点”->“监控”

 (4)可以点击“查看更多数据”,就可以观察集群的性能图形化分析了

八、部署模式对比与体验

在企业级应用架构设计中,高可用部署与单机部署犹如两种截然不同的生产策略!

首先在部署上高可用部署的要求更多,配置准备也需要一定的阅读部署文档知识,否则很容易失败。高可用部署就像是一个精心编织的安全网,通过多节点冗余和智能负载均衡,确保即便某个服务节点发生故障,整个系统依然能够平稳运行。这种架构犹如一个有机的生态系统,各个组件相互协作、实时监控,能够快速自愈,为关键业务提供近乎100%的在线保障。虽然整个过程需要提前知识储备,但是部署成功之后的体验还是很舒服的,费用也控制在了预期之中!

相比之下,单机部署更像是一个独立的堡垒,所有功能集中在单一服务器上。这种方式简单直接,初期投入成本低,非常适合中小型项目或者处于验证阶段的创新应用。但其脆弱性也显而易见:一旦服务器出现硬件故障或性能瓶颈,整个系统将面临完全中断的风险。对于追求稳定性和可扩展性的企业来说,单机部署更像是一种临时的权宜之计

总结:单机部署可以更快的验证概念,适合新手小白,费用只有几块钱,零门槛也是可以尝试的

           高可用部署更加的安全、可靠、连续、适合中大型企业,但是复杂度更高,需要知识储备

九、Dify-LLM基础使用

上面我们已经部署完了云服务器单机部署和CCE高可用部署,下面小编以高可用部署为例讲解!

(1)设置邮箱账号密码

(2)重新输入邮箱账号密码

(3)登录进去基础使用就完成了

十、添加华为云的DeepSeek模型

(1)点击设置

(2)点击模型供应,找到OPen AI......这个模型添加

(3)下面我们分别获取这三个变量

首先是名称、地址:

打开ModelArts Studio,选择在线推理,点击模型调用说明,点击OPenAI,分别粘贴复制名称、地址在刚才的配置那就可以了!

秘钥获取:

选择API,点创建

设置信息之后,复制秘钥在配置栏,注意秘钥只能查看一次,否则要重新获取

(4)点击保存

 (5)查看是否成功,下面这样就显示对接/添加完成

十一、如何删除部署的资源

(1)在控制台搜索栏搜索“资源编排”打开

(2)然后点击“资源栈”,在这里面可以看到已经部署成功的资源

(3)如果要停止计费,点击“删除”即可

十二、成本分析

单机部署:

投入成本很低,对新手很友好,并且工作简单快捷,上手快,这是绝大多数人可以掌握的,技术门槛很低,人力成本较少,对系统稳定性要求不高的场景,扩展能力也有限,资源利用率还是有限,综合起来更适合新手体验、实验,对新手来说体验感很好,收费、删除资源都很少、直观!

高可用部署:

动态资源调配,可以自动调整资源,资源的利用率更高,长期运营的话成本可控,具备更强的弹性伸缩能力,但是个人成本入门可能需要大几十,这往往是很多人不愿体验的原因,拿费用换效率,更加的稳定,对系统稳定性和性能有严格要求,追求卓越用户体验的企业~

综合建议:

对于大多数中小型企业和项目,建议采用渐进式投入策略:

(1)从单机部署起步

(2)随业务成长逐步引入高可用架构

(3)持续评估成本和收益

(4)在关键节点逐步升级架构

·

总的来说,高可用部署的成本并非简单的数字对比,而是一个包含可靠性、扩展性、性能和业务连续性在内的整体权衡。选择正确的部署架构,需要综合考虑业务特点、增长预期和风险承受能力!

十三、改进建议

在实际的云服务架构中,高可用部署与单机部署并非绝对对立的,而是可以根据业务需求灵活演进的部署策略,比如:对于中小型企业而言,可以采用渐进式的架构升级方案,然后初期可从单机部署起步,选择关键业务环节逐步引入高可用架构,既控制了初期投资成本,又为未来业务扩展预留了技术空间,还能获得不错的体验快感!例如:

·

(1)可以先在核心服务模块部署负载均衡和备份节点,随着业务复杂度提升,再逐步扩展至多可用区部署,实现更高级别的系统冗余和故障恢复能力

(2)关键是要建立灵活的架构评估机制,持续监控系统性能(比如CPU、内存等)和资源利用率,及时调整部署策略,在成本效益和系统稳定性之间找到最佳平衡点

(3)在用户每次退出平台时,可以提醒用户“未删除资源会持续计费”,避免失误造成大量欠费

十四、测评心得

我深切体会到高可用部署与单机部署背后蕴含的战略性智慧。作为一个技术爱好者,我见证了企业从传统单机架构向云原生高可用架构的蜕变,这不仅仅是技术升级,更是一种商业韧性的全新诠释,下面来分享一下我的个人体验心得:

·

单机部署依然是一个性价比极高的选择。低廉的初期投入、简单的运维模式,为企业提供了快速起步的可能。关键在于,要建立一个灵活的技术演进路径,随着业务的成长,逐步引入高可用的架构组件,新手选择单机部署入门绝对没有错,值得体验!

高可用部署的魅力在于其近乎完美的系统弹性和韧性。高可用架构就像是一个具有自愈能力的有机体。通过多节点部署、智能负载均衡和自动故障切换,系统可以在毫秒级别快速响应和恢复,确保业务连续性不受任何单点故障的影响。这种能力对于金融、电商、医疗等对系统稳定性要求极高的行业尤为关键!成本也在理想范围,费用换效率,这值得肯定,例如测试:立刻反映文档信息!

从算力角度来看,高可用部署展现出令人惊叹的计算效率。传统单机模式下,服务器的资源利用率往往低于30%,而高可用架构通过动态资源调度,可以实现近乎100%的资源利用率。负载均衡技术使计算任务可以智能分发到最佳的计算节点,不仅提升了系统整体吞吐量,还显著降低了计算成本。这种架构就像是一个精密的交通调度系统,每一个\"计算车道\"都被充分利用,没有任何资源被闲置,这可以达到大、中企业的需求!高可用部署不仅仅是一种技术选择,更是一种面向未来的商业哲学。它让企业的IT基础设施从被动防御转变为主动赋能,从成本中心转变为价值引擎!

虽然高可用的部署比单机部署程序复杂一些,但相信你读了小编的句句真言!一定能快速上手~