ai智能答疑有没有免费的(高性价比的AI推理终端是什么样子的)

自从赞龙推出高性能zbook系列计算机后,受到各界朋友的欢迎。

尤其是zbook-p系列中配置了Nvidia A4000计算卡的机型,体积小巧,外观精美,质感厚重,性能强悍,算力充沛,功耗较低。

前文也说到,薄薄的一片单槽显卡,功耗仅140瓦,AI部分的计算能力超过了上古神器RTX2080TI甚多,在AI训练的场景中,高算力低功耗带来的直接好处就是又省时又省电,是人工智能领域专业人士的小型利器。

ai智能答疑有没有免费的(高性价比的AI推理终端是什么样子的)(1)

话说回来,优点这么多,价格自然不便宜。A4000的市场价格超过了6000元,Nvidia公司委实割得一手好韭菜。这个成本限制了很多做轻量AI应用的用户的购买,因此我们推出了安装Nvidia Tesla P4的zbook-p机型作为用户端新选择。

Nvidia Tesla P4计算卡,去掉了所有的无关功能,外观一看就是Nvidia的专业产品风格。作为一块传统意义上的“显卡”,它连个显示接口都没有,所有的功能都为计算服务。在单槽半高的尺寸下提供了5.5TFLOPS的单精度浮点运算能力,整数运算能力(INT8)也达到了22TOPS,不到千元的价格极具性价比,为深度学习推理工作负载提供比CPU高60倍的惊人能效,最大75瓦的功耗连额外供电接口都无需连接,用户在电源上还能再节约一笔预算。

ai智能答疑有没有免费的(高性价比的AI推理终端是什么样子的)(2)

如果用户在AI应用开发的过程中,觉得使用安装Nvidia A4000计算卡的zbook作为训练服务器很具性价比,但作为推理终端有点“奢侈”的话,这款换装Nvidia Tesla P4计算卡的产品就是你的不二之选。

更超值的是,这款卡还带有1个解码引擎和2个编码引擎,能对多达35路高清视频流进行实时转码和推理(图中是10bit的HEVC编码路数,由于10bit的文件比常规的8bit大不少,所以编码路数有所减少),为用户提供智能创新型视频服务。配上高性能桌面级CPU平台,视频剪辑与直播用户将会发现zbook是一款非常顺手的生产力工具。

ai智能答疑有没有免费的(高性价比的AI推理终端是什么样子的)(3)

作为赞龙重点打造的主力机型,zbook系列中专用于AI领域的机型是重中之重,我们为该机型设计了专属前面板,在原有的半贯穿式硬盘灯家族设计之上,增加了两侧的工作指示灯,彰显该机型的特殊地位。

ai智能答疑有没有免费的(高性价比的AI推理终端是什么样子的)(4)

Tesla P4显卡有一个不算缺点的缺点,就是散热器上没有风扇,散热片的被动散热能力也不足以解决最高75W的自然散热。因为这块卡是为数据中心设计的,需要机箱为其设计专门的风道,一般采用前进后出,强制气流从其散热片中高速流过。

ai智能答疑有没有免费的(高性价比的AI推理终端是什么样子的)(5)

对于普通的PC用户来说,机箱风道设计如果没有一定规划性,那么散热效率就会有所降低,但这一点对于zbook机型来说不是问题。我们在其底部设计了一个6cm高流量风扇,吸入外部冷空气后刚好流过Tesla P4的散热片并从其后部排出,经过长时间的压力测试,软件显示其温度只有微微上升。

ai智能答疑有没有免费的(高性价比的AI推理终端是什么样子的)(6)

赞龙认为采用Tesla P4计算卡的zbook机型作为推理终端有一系列的优势:

1. 机型小巧,方便携带,功耗较低。

2.我们可以为该机型预安装常用linux发行版,便于学习使用,免去window带来的不兼容问题。预安装版本为centos7.4(后续开发ubuntu18.04)

3.我们可对显卡驱动以及cuda进行预装,免去安装麻烦。预安装版本为cuda11,匹配cudnn8.5。

4.预装目前最常用框架pytorch,也可以预装keras,tensorflow等框架,可以直接运行使用pytoch框架的多种开源代码,系统自带分类模型、目标检测模型、对抗生成模型、语义分割模型和3d骨骼关键点模型。预安装版本为pytorch1.10.0,opencv4.3

5.推理能力强,Tesla P4运行yolov5s模型推理一张图片用时8ms,联想笔记本上的Nvidia RTX3060显卡在相同的软件环境下推理同一张图片用时16ms,速度长了一倍,而RTX3060的价格超出了Tesla P4甚多。

6.预装系统分为有桌面版和无桌面版,有桌面版适合开发,学习,无桌面版内存占用更低,适合作为计算终端部署。

7.最大的理由,即便忽略它是一个优秀生产力工具,其颜值也足以让您心甘情愿将其摆在桌上,成为一件装饰品。

ai智能答疑有没有免费的(高性价比的AI推理终端是什么样子的)(7)

该产品的适合人群

对深度学习有兴趣的学习者或者社会人员:通过预装好系统的主机可以最小化环境配置的时间,更快的投入到实践与学习之中,同时,配套的五个图像方面的代码也可以让初学者更快上手,让有一定经验人员更方便修改为适用于自己的模型。

从事深度学习算法开发的工作人员:在节省服务器资源的考虑或服务器资源有限的情况下,有一个可以有一定推理性能的机器尤为重要,这台机器的算力足够进行小数据的训练以及推理来验证可行性,当可行性验证通过后再到服务器进行大数据的训练,同时由于这台机器的便携性,也很方便随时随地的向别人展示模型推理效果。

需要进行算法落地部署的人员:linux的稳定性适合作为计算终端部署,并且机器的防护性能相对较高,不易受到外界环境影响。由于模型推理可以不经过框架转换,使用原框架进行推理,精度也不会受到损失,并且性能也可以被量化计算。

各界专精于AI应用开发的用户,欢迎和赞龙联系,获得产品上市阶段的优惠价格。

产品配置

ai智能答疑有没有免费的(高性价比的AI推理终端是什么样子的)(8)

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页