AI 边缘计算
在工厂、园区等数据产生地就近完成视频分析与模型推理，服务器配合 GPU 或推理卡部署。
AI 边缘计算把训练好的模型部署到靠近摄像头和设备的地方，在本地完成识别和分析，只把结果上传到中心平台。这样可以减少回传带宽，外网断开时现场业务也能继续运行。
边缘服务器一般负责汇聚多路视频或多个工位的数据，集中推理，再把结果交给业务系统。选型时先确定模型和视频路数，在目标硬件上实测帧率和时延，再决定是否需要 GPU 或推理卡，以及内存和存储容量。
放在机房以外时要多留意散热和供电：先确认整机满载功耗和机柜的排热能力，再选择加速卡。模型更新建议集中发布，边缘节点按版本拉取，出问题时能回退到上一版本。
挑战与解决方案
- 视频全部回传成本高：多路视频全部传到中心平台，占用大量带宽和存储。 在本地服务器完成分析，只上传结果和告警片段；研肯服务器的 PCIe x16 扩展槽可按需安装 GPU 或推理卡，实际选型需核对卡的尺寸和功耗。
- 现场数据不便外传：工艺图像和生产数据要求留在厂区内，不适合放到公有云处理。 推理和数据存储都在本地完成，RAID 硬盘阵列保存样本和结果。
- 边缘站点无人值守：设备分布在多个站点，出现故障时难以及时到场。 独立 BMC 端口支持远程开关机和控制台访问，便于集中运维。
AI 边缘计算应用
- 视频分析服务器：园区、产线的多路视频结构化：至强单路或双路平台、PCIe 加速卡按实测选配、64GB 以上内存、RAID 存储
- 工业质检汇聚节点：汇聚多个视觉工位的图像与结果：至强单路平台、64~128GB ECC 内存、SSD 存放样本、BMC 远程管理
- 本地知识库节点：企业内部文档检索与小规模模型推理：至强双路平台、128GB 以上 ECC 内存、按模型规模选配加速卡、SSD 存放模型与索引