科技资讯

关注公众号 jb51net

关闭
业界资讯 > 科技资讯 >

技嘉AI TOP ATOM携手AIMA打造桌面级AI落地新范式

脚本之家

在大模型应用持续走向落地的背景下,桌面级AI设备正在从“能跑模型”走向“真正可用”。围绕开发者、研究人员、小型团队以及对本地部署有需求的用户,技嘉AI TOP ATOM正尝试提供一种更贴近实际使用场景的桌面级AI解决方案。根据最新统计数据,中国软件开发者数量突破 940 万,其中涉及 AI 开发的开发者超过 200 万,说明中国AI市场对本地化部署、数据安全可控、低门槛使用体验的需求正在持续增强,开发者、小型团队与科研教学场景也成为桌面级AI设备的重要机会点。

近期,技嘉AI TOP ATOM和AIMA智能管控平台做了一次深度结合。AIMA由趋境科技推出,定位为AI推理智能管控平台,能够自动检测硬件环境、智能匹配配置并一键部署AI模型,同时通过AI Agent实现推理服务的自动优化与管理。其核心设计强调零依赖、零配置和离线可用,旨在降低AI推理设备在配置、运维和资源使用上的综合成本。

这一合作瞄准了当前AI落地的核心痛点:中国软件开发者数量已突破940万,其中涉及AI开发的超过200万,开发者、小型团队与科研教学场景对本地化部署、数据安全可控、低门槛使用体验的需求持续增强。

在使用体验上,AIMA支持硬件自动识别、知识驱动部署、OpenAI兼容API、Web可视化管理界面以及57个MCP工具接口,可将模型部署、设备监控、Agent交互、日志查看与集群管理集中到统一入口中。此外,AIMA还支持多种主流硬件架构和多类推理引擎,并可在5分钟内完成从硬件检测、引擎选择到模型部署和API就绪的整套流程,进一步提升桌面级AI平台的开箱即用体验。

硬件平台:技嘉AI TOP ATOM

规格参数详细信息
核心芯片NVIDIA GB10 Grace Blackwell超级芯片(台积电3nm工艺)
AI算力1 petaFLOP(1000万亿次/秒)FP4精度
统一内存128GB LPDDR5x(CPU/GPU共享,通过NVLink-C2C互联)
内存带宽273GB/s
存储扩展最高支持4TB Gen5 SSD
体积尺寸1升(150mm×150mm×50.5mm),重量1.2kg
功耗设计240W低功耗,运行时几乎无噪音
模型支持单机可运行2000亿参数大模型(如Llama 2 70B微调版)
扩展能力通过NVIDIA ConnectX-7接口,两台设备可互联支持4000亿+参数模型
预装系统NVIDIA DGX OS(基于Ubuntu),内置CUDA、cuDNN、TensorRT等全套AI软件栈

产品定位:专为AI开发者、小型团队、科研人员设计的桌面级AI超算,填补"消费级显卡性能不足"与"传统服务器占地噪音大"之间的空白

软件平台:AIMA智能管控平台(趋境科技)

AIMA(AMaaS,AI Management as a Service)由趋境科技推出,定位为AI推理智能管控平台,核心设计理念是零依赖、零配置、离线可用

核心功能详细说明
硬件自动检测自动识别硬件环境,智能匹配最优配置
一键模型部署5分钟内完成从硬件检测、引擎选择到模型部署和API就绪的全流程
OpenAI兼容API提供标准API接口,便于现有应用迁移
Web可视化管理浏览器输入IP+端口即可进入管理后台,实时监控GPU负载、显存占用、Tokens消耗
AI Agent优化通过AI Agent实现推理服务的自动优化与管理
MCP工具接口支持57个MCP(Model Context Protocol)工具接口
多引擎支持支持多种主流硬件架构和多类推理引擎
知识驱动部署内置知识库,智能推荐模型配置

预置模型:已预置智谱GLM-4.5-Air 106B大模型,支持导入Qwen 2.5-7B等私有模型

对于希望将本地AI真正纳入日常开发、内容生成、知识问答及多模型推理流程的用户而言,技嘉AI TOP ATOM与AIMA的组合,不只是提供了一台具备算力的平台,更补全了桌面级AI从硬件到部署、从管理到应用的完整链路。随着桌面级AI需求进一步走向实用化,这种“硬件平台+智能管控”的一体化思路,也有望成为本地AI落地的重要方向。