远程边缘计算需要高性能AI和训练解决方案来支持高阶工作负载以提高生产力
加利福尼亚州圣何塞2024年2月23日 /美通社/ -- Supermicro, Inc.(纳斯达克股票代码:SMCI)作为AI、云端、存储和5G/边缘领域的全方位IT解决方案制造商,正在扩展其AI解决方案产品组合,让客户在公共空间、零售商店或工业基础架构等边缘位置能有效运用AI的强大性能。通过使用搭载NVIDIA GPU的Supermicro应用优化服务器,可更轻松地微调预训练模型(Pre-trained Model)及将AI推论解决方案部署在产生数据的边缘端,进而缩短响应时间与改善决策。
Supermicro Solutions for Edge AI
Supermicro总裁兼首席执行官梁见后(Charles Liang)表示:"Supermicro拥有最多元的边缘AI解决方案产品组合,能支持客户用于边缘环境的预训练模型。Supermicro Hyper-E服务器搭载两个第五代Intel® Xeon®处理器并支持最多三个NVIDIA H100 Tensor Core GPU,能为边缘AI提供优异的性能。借由这些具有最高8TB内存的服务器,我们能将数据中心的AI处理性能带至边缘位置。随着企业通过在边缘端处理AI数据来建立竞争优势,Supermicro也将继续为行业提供优化解决方案。"
欲深入了解Supermicro边缘AI解决方案,请访问:
通过这些服务器的优化与升级,用户不再需要将数据传回云端进行处理,只需必要时把信息撷取回边缘端即可。同时,客户现在可以使用预先训练且性能优化后的大语言模型(LLM),并通过NVIDIA AI Enterprise在其边缘位置使用,以便在靠近数据生成端进行实时、精准的决策。
NVIDIA合作伙伴联盟副总裁Kevin Connors表示:"越来越多来自医疗、零售、制造和汽车等领域的企业有意在边缘端运用AI技术。Supermicro的全新NVIDIA认证系统由NVIDIA AI平台驱动,提供了最高性能的加速计算基础架构,并通过NVIDIA AI Enterprise软件协助运行边缘 AI 工作负载。"
例如,Supermicro的Hyper-E服务器SYS-221HE系列便针对边缘训练和推理进行了优化,而其具备短机身与前置 I/O设计的系统机型搭载了双路CPU。此系统最多容纳三个双宽NVIDIA Tensor Core GPU,包括NVIDIA H100、A10、L40S、A40和A2 GPU。这些GPU为Supermicro Hyper-E提供足够的计算能力,可在收集、分析和存储资料的边缘端处理 AI 工作负载。Supermicro SYS-221HE也提供前置或后置维护选项,使该服务器可被安装在各种环境内。包括Eviden等合作伙伴正在打造边缘AI解决方案,进而改善传统零售商店内的客户体验,这些都是Supermicro Hyper-E服务器的性能和灵活性可被运用的案例。
Supermicro的先进边缘服务器还包括:
欢迎莅临Supermicro在2024年世界移动通信大会的展位。该大会在西班牙巴塞罗那举办,Supermicro展位位于2 号厅内的2D35展位。
零售业智能应用专家StoreGenius首席执行官Jacque Istok表示:"Eviden的 AI零售解决方案基于Supermicro边缘系统和NVIDIA技术,彻底改变了人们在商店等空间内导览和互动的方式。通过商店的3D模型和能传达适当信息的交互式聊天机器人,此解决方案为客户提供交互式且个人化的购物模式,进而改善购物体验。融合逼真的脸部动画、先进的语音识别和3D建模,使虚拟购物几乎如同在实体商店一样真实。"