1.环境要求

虚拟机硬件资源要求：

CPU：4核

内存：16GB

硬盘：250GB

大模型要求：

API调用响应速度：30token/秒（最低20token/秒）

上下文长度: 128k tokens（最低64k tokens）

推荐模型能力要求:
32B及以上业界最先进推理大模型，当前推荐  
32B: qwq32B deepseek-r1
72B：deepseek-r1
满血: deepseek-r1  deepseek-v3-250324 
外部服务: 火山引擎、阿里云百炼、openai等，选择模型能力不逊色于私有化大模型

2.OVA部署

2.1.选择”虚拟机”页面，选择目标分组，新增虚拟机

2.2.导入虚拟机

2.3.选择本地虚拟机OVA文件

AI_Agent_1.0.0_Build20250318.ova

2.4.等待虚拟机OVA上传完成

2.5.等待虚拟机创建完成

注：该处进度条可能显示不准，请耐心等待!

2.6.回到虚拟机管理页面配置虚拟机网口连接网络

注：此处可选择编辑处理器核心数(至少4核，推荐8核及以上)、内存(至少16GB)。高版本HCI网卡型号选择[Virtio]

2.7.配置完毕后启动虚拟机

注：虚拟机启动完成后网口默认为自动获取IP地址，请在DHCP服务器分配地址记录中查看IP地址。

2.8.进入AI_Agent服务器后台修改为静态IP方法(可选)

注：该步骤非必需，可联系信锐技术协助操作。

输入用户名密码进入后台

修改网络配置文件

修改为如下配置：其中IPADDR/PREFIX/GATEWAY截图为示例，请以实际需求修改

保存后执行重启网络服务命令

sudo systemctl restart network

2.9.修改DNS服务器方法（可选）

修改DNS服务器配置文件

修改完即可生效

2.10.验证AI_Agent的IP(以下为示例IP)是否可达

3.功能配置

3.1.NMC开启小信GPT和AI智能体授权

3.2.NMC配置AI智能体配置

注：此处填写正确的AI智能体地址和参数后，测试有效性成功，表示部署的AI_Agent服务器正常；开启AI智能体功能后，需要等待1分钟后才能使用小信GPT对外页面提问；

3.3.小信GPT设置

客户可以基于需求开启对应功能

3.4.体验小信GPT对话式交互功能

点击左下角”AI智能体”，进入对话页面提问，例如：怎么配置重点用户？

4.端口开放

NMC与AI智能体通信，AI智能体需要放通的端口说明：

TCP：8883

TCP：8443

TCP：41000

AI智能体运维涉及端口说明：

TCP：22345  sshd

TCP：51111  设备升级