产品发布-边端高算力智算通算一体机

在算力需求急剧增长的今天,恶劣环境下的边端算力需求愈发难以得到满足,偏远地区高温或者极寒使正常运行的算力平台突然宕机,无法启动导致业务中断,数据丢失。常规的算力平台无法承受随时随地的振动与冲击。现场运维的高额成本与人力投入也对边端算力平台的部署提出了新的要求。

针对这一行业共性难题,博匠信息推出加固的边端高算力智算通算一体机。该产品针对边端部署的痛点,从工程化落地角度出发,旨在为关键行业的边缘业务提供一套“算得动、连得上、稳得住”的硬件基础设施。

一、高密度异构算力,解决边端“算不动”的难题

博匠推出的智算通算一体机,内部集成2个计算模块和8个NPU模块,搭载的是飞腾5000C,昇腾310P/910B,NPU可根据实际业务需求做变换,310P适合高并发轻模型的推理工作,910B适合做大模型训练微调的工作,2+8的算力模组构建了一个性能强劲且灵活的异构算力池,直接将云端算力搬回业务现场,解决边端算力不足的难题。

1、通用算力+910B算力组合:

针对边端大模型推理与轻量训练需求,可配置8张昇腾910B液冷加速卡,单卡提供不低于313 TFLOPS@FP16算力,整机FP16算力高达2504 TFLOPS。依托2个飞腾S5000C通用计算模块的协同调度,该算力集群可支撑以下核心业务:

(1)复杂场景智能决策与交互:满足百亿级参数大模型的流畅推理需求。适用于边端独立知识库查询、多模态(图文/声纹)理解、事项辅助决策、部门级私有化问答以及产线故障深度研判等高价值场景,实现数据不出域的本地化智能部署。
(2)本地化模型定向增强(LoRA/QLoRA):突破边端设备难以训练模型的瓶颈。支持利用现场增量业务数据,对通用基座模型进行低秩自适应微调。无需回传云端,即可将通用模型快速转化为适配特定业务(如特定设备故障特征、专有领域术语)的专家模型,持续提升识别准确率与业务契合度。
(3)异构算力灵活调度:通过硬件级资源池化技术,8张NPU加速卡与2张通用计算卡可根据业务负载动态分配。既可将NPU独占用于大模型推理,也可将CPU资源用于数据预处理与调度,确保系统在高并发、多任务混合负载下依然保持高效运转。

2、通用算力+310P算力组合:

针对高并发轻量推理需求,设备可配置8张昇腾310P加速卡,单卡提供70 TFLOPS@FP16算力(我司310P板卡经过固件优化可达88TFLOPS@FP16算力),整机FP16算力达560 TFLOPS。依托2个飞腾S5000C通用计算模块(共128核)与高速背板协同调度,该算力集群在复杂现场环境下可支撑以下核心业务:

(1)全域视频解析:适配船载多舱室视频监控、海上平台、边远核心站点监控等场景,单台可承载上百路高清视频流实时结构化。模型通过开放推理API直接调用NPU算力,在宽温、振动、盐雾环境下持续运行,支撑现场态势感知。
(2)多传感推理:突破单一视觉,支持声纹、振动、红外等多模态数据本地并行处理。CPU侧完成协议解析与预处理,NPU侧专注推理,过滤大量背景噪声后仅回传异常特征,降低回传带宽压力。
(3)离线交互:针对无公网或数据敏感场景,支持轻量语言模型与语音引擎本地部署,实现规程查询、语音指令、日志生成的离线闭环,数据全程不出域。
(4)异构流水线:8张NPU与2个CPU形成"预处理-推理-后处理"流水线,依托高速背板互联避免数据阻塞,多源并发下各任务资源隔离、无卡顿。

二、全加固工程设计,解决恶劣环境“站不稳”的难题

为了解决边端站点环境恶劣导致的设备故障率高、寿命短的问题,我们严格遵循VITA46/48国际标准,对设备进行了全方位加固。

1、解决宽温运行难题。针对极寒,高温,温变剧烈的场景,设备支持-25℃至55℃的宽温工作环境。通过优化的散热风道设计与液冷技术应用(针对910B配置),设备不仅能顺利度过极寒地区的冷启动考验,也能在密闭机柜的高温环境下长时间满负荷运行。

2、解决振动冲击难题。针对频繁振动与突然冲击等移动平台的物理振动问题,设备采用了加固型航插连接器,对外接口具备防震抗脱落能力。内部板卡通过助拔器进行机械锁紧,通过了5-2000Hz随机振动测试以及50G/11ms的三轴六向冲击测试。

3、解决供电不稳难题。针对边远站点供电或蓄电池供电的浪涌冲击问题,设备内置缓上电功能,能够有效吸收启动瞬间的电流冲击。配合双电源1+1热备份设计,当一路电源因故失效时,另一路能在毫秒级内无缝接管,确保核心业务零中断。


三、智能带外管理,解决无人值守“管不住”的难题

为了解决部分边端场景无人值守,或者需要周期性检查维护及意外往往不知何时就来的情况,我们为设备配备了基于IPMI规范的智能带外管理平台,作为设备的“底层守护者”。

1、实现物理级远程管控。即便业务操作系统完全崩溃,只要设备接通电源,运维人员就能通过网络连接到这台设备的独立管理通道。支持远程硬重启与BIOS级别的深度维护,管理员无需亲临现场,即可像操作本地键盘鼠标一样,修复导致系统死机的深层故障,将“现场抢修”变为“远程诊疗”。

2、确保管理链路高可用。为了防止管理链路本身成为单点故障源,系统采用ChMC(机箱管理器)与IPMC(智能平台管理控制器)的两级管理架构,并设计了IPMB双总线冗余机制。这意味着即便一条管理总线损坏,另一条仍能正常工作,确保了管理通道的绝对可靠。

3、构建主动预警机制。系统具备7x24小时的硬件健康监测能力,能够实时采集主板电压、风扇转速、CPU温度等关键指标。一旦发现异常,立即通过SNMP Trap协议向运维中心发送告警,将传统的“救火式”运维转变为“预防式”管理,显著降低了运维成本和业务中断风险。

四、结语

博匠信息这款边端高算力智算通算一体机,通过扎实的异构算力设计、严苛的环境适应性改造以及可靠的带外管理能力,解决了边缘业务“算不动”、“站不稳”与“管不住”的实际问题。在边远站点、在方舱、在船舶等每一个需要算力坚守的角落,博匠信息愿做那个沉默的守护者,让关键业务在极限环境下依然坚如磐石。