-
欢迎来到北京明(míng)景科技有限公司
联系我们: 010-82378600, 13911129392
欢迎来到北京明(míng)景科技有限公司
联系我们: 010-82378600, 13911129392
雷锋网消息,2019深圳安博会前一(yī)天,比特大陆在深圳发布了(le)第三代智能(néng)服务器SA5,這(zhè)款AI服务器搭载了(le)9月刚发布的BM1684 AI芯片,主要(yào)面向視(shì)頻(pín)及图像智能(néng)分析领域。比特大陆董事長(cháng)詹克团在发布会现场表示,未来3-5年(nián)視(shì)頻(pín)结构化的市场规模将是今天的1万倍,单路視(shì)頻(pín)结构化价格下(xià)降100倍是一(yī)个合理的水平。
視(shì)頻(pín)结构化市场规模3-5年(nián)将增加1万倍
之所以需要(yào)視(shì)頻(pín)结构化,是因為(wèi)摄像头采集的原始視(shì)頻(pín)图像是非结构化的數(shù)据,不能(néng)直接被计算机读取和(hé)识别,想要(yào)让視(shì)頻(pín)图像在智慧城市、平安城市更好发挥作(zuò)用,就需要(yào)用智能(néng)視(shì)頻(pín)分析技術(shù)对視(shì)頻(pín)图像进行(xíng)结构化处理。以安防领域為(wèi)例,需要(yào)对原始視(shì)頻(pín)进行(xíng)智能(néng)分析,获得三类关键信息,首先是识别出运动目标,然后进一(yī)步判断出运动的目标是人(rén)、车还是动物(wù),以及他(tā)们所具备的特征,最后再分析识别出的目标的运动轨迹。
這(zhè)其中,涉及到時(shí)空分割、特征提取、对象识别、深度学习等处理手段,這(zhè)一(yī)过程十分复雜(zá),且需要(yào)强大的算力支持,所以目前視(shì)頻(pín)结构化尚未大规模应用。詹克团表示,今天市场上(shàng)几千路级别的視(shì)頻(pín)结构化只是零零星星的出现,我们中了(le)的一(yī)个視(shì)頻(pín)结构化的项目,只有几千路,已经是非常大的规模。但(dàn)未来所有摄像头的數(shù)据都(dōu)会被结构化,并且在云端被结构化。
他(tā)同時(shí)指出,目前全球每年(nián)出货的安防摄像头數(shù)量大概是1亿只,按照5年(nián)的存量来计算,就是5亿只,并且這(zhè)绝大部分都(dōu)在中國(guó)。因此,未来3-5年(nián)視(shì)頻(pín)结构化市场规模将是今天的1万倍,但(dàn)如(rú)果按照今天的市场价格,一(yī)定做(zuò)不下(xià)来。所以,從(cóng)技術(shù)和(hé)产品的角度看(kàn),未来3-5年(nián)市场的单路視(shì)頻(pín)结构化价格会下(xià)降,我认為(wèi)下(xià)降100倍是合理的水平。
性能(néng)提升8倍,降低(dī)算力成本
既然要(yào)大幅下(xià)降視(shì)頻(pín)结构化的成本,底层的算力成本的降低(dī)至关重要(yào),SA5的推出的重要(yào)原因之一(yī)就是迎合視(shì)頻(pín)和(hé)图片结构化的需求。比特大陆AI业务线总裁王晨光(guāng)在发布会现场表示,“比特大陆算丰智能(néng)服务器SA5主要(yào)面向視(shì)頻(pín)及图像智能(néng)分析领域,可(kě)搭载第三方算法,运行(xíng)視(shì)頻(pín)结构化、人(rén)脸检测识别、车辆检测识别、物(wù)品检测识别、視(shì)頻(pín)检测等多类安防和(hé)互联网視(shì)頻(pín)智能(néng)分析应用,是目前人(rén)工(gōng)智能(néng)领域最為(wèi)成熟、稳定的智能(néng)服务器”。
据了(le)解,基于BM1684的SA5是 19 英寸的标准 2U 服务器,內(nèi)置3个智能(néng)分析单元,包含24颗BM1684 芯片,可(kě)以提供浮点32位2.2*24TFlops以及整型8位17.6*24Tops的峰值计算力。功耗方面,SA5整体功耗小于700W,INT8模式下(xià)可(kě)提供高达422T的算力,性能(néng)较上(shàng)一(yī)代产品提升约8倍。
发布会现场,比特大陆展示了(le)基于CPU和(hé)GPU的384路实時(shí)視(shì)頻(pín)流的效果,可(kě)以看(kàn)到GPU在处理視(shì)頻(pín)時(shí)更具优势,但(dàn)TPU能(néng)带来更好的性能(néng)。王晨光(guāng)表示,单台SA5 具备768路 30帧每秒的1080P視(shì)頻(pín)的处理能(néng)力或每秒12000张人(rén)脸图片的检测分析,能(néng)大大提升智慧城市、智慧安防、互联网等行(xíng)业視(shì)頻(pín)/图像智能(néng)分析的效率。
另外(wài),SA5采用可(kě)插拔模块化设计,內(nèi)置主控单元(MPU)、算力单元(AIU)、存储单元等核心模块,能(néng)够方便后期的运维。主控单元部分,是基于X86架构的智能(néng)管理调度系统,能(néng)够实现算法部署、系统升级、算力性能(néng)监控、能(néng)耗管理、算力动态负载均衡。可(kě)以為(wèi)AIU单元提供管理以及數(shù)据交换, 20G的网络接口以满足算力數(shù)据的输入输出。
算力单元是服务器的核心,SA5集成的是BM1684,单个单元最多集成8块BM1684芯片,整机可(kě)以按需配置多个单元。SA5的存储单元是选配单元,在不满配算力单元的有情况下(xià)可(kě)以加配存储单元。
至于BM1684,定位是聚焦于云端及边缘应用的人(rén)工(gōng)智能(néng)推理,采用台积电12nm工(gōng)艺,在典型功耗仅16瓦的前提下(xià),FP32精度算力达到2.2TFlops,INT8算力可(kě)高达17.6Tops,在Winograd卷积加速下(xià),INT8算力更提升至35.2Tops。同時(shí),BM1684芯片还內(nèi)置多种加解密算法,可(kě)保护客户的算法安全、模型安全可(kě)靠,创建安全可(kě)信的计算环境。
詹克团透露,明(míng)年(nián)还将发布性基于7nm工(gōng)艺的第四代BM1686 AI芯片。
算法公司都(dōu)是朋(péng)友(yǒu)
算力成本降低(dī)的同時(shí),只有与算法进行(xíng)更好的融合才能(néng)带来效率的提升最终实现成本100倍的降低(dī)。不过詹克团强调,比特大陆专注于算力芯片和(hé)算力硬件的提供,不在市场上(shàng)销售算法,所有的算法厂商都(dōu)是我们的朋(péng)友(yǒu),都(dōu)是我们的生态合作(zuò)伙伴,都(dōu)是我们的客户。
因此,為(wèi)了(le)能(néng)够让開(kāi)发者和(hé)使用者快(kuài)速便捷的实现視(shì)頻(pín)结构化分析、人(rén)脸识别等智能(néng)应用,比特大陆提供底层驱动环境、编译器、推理部署工(gōng)具等一(yī)站式的工(gōng)具包——BMNNSDK(BITMAIN Neural Network SDK)。
据悉,通(tōng)过BMNNSDK,開(kāi)发者基于深度学习框架開(kāi)发训练的模型,可(kě)以自(zì)动编译转化成在SA5高性能(néng)计算平台效运行(xíng)的应用,当前支持的深度学习框架包括TensorFlow、Caffe、mxnet、ONNX、Caffe2等,支持CNN/RNN/DNN等神经网络模型。
与比特大陆不同的是,不少(shǎo)AI芯片公司都(dōu)会提供软硬一(yī)体的解决方案,為(wèi)的是实现更好的软硬一(yī)体化。比特大陆為(wèi)何选择不卖算法而是与算法公司合作(zuò)?詹克团在BM1684的发布会后接受采访時(shí)表示,AI领域软硬一(yī)体化在终端摄像头可(kě)能(néng)带来成本和(hé)性能(néng)的优势,但(dàn)云端是一(yī)个通(tōng)用的高性能(néng)计算中心平台,一(yī)定要(yào)能(néng)够支持多种不同算法。比特大陆在這(zhè)方面也经过很(hěn)長(cháng)世間(jiān)的思考,最后我们决定有所為(wèi)有所不為(wèi),提供芯片和(hé)算力硬件,和(hé)更多的算法厂商合作(zuò)打造生态。
在SA5的发布会上(shàng),比特大陆的合作(zuò)伙伴中科云從(cóng)、以萨、深瞐、千視(shì)通(tōng)分别分享了(le)他(tā)们如(rú)何与比特大陆的合作(zuò),四位分享者都(dōu)提到,比特大陆提供的工(gōng)具链和(hé)服务都(dōu)可(kě)以让他(tā)们可(kě)以很(hěn)方便且高效率地(dì)使用硬件的算力,但(dàn)也同時(shí)表示,他(tā)们可(kě)以提高算法的精度,要(yào)实现成本足够低(dī),还需要(yào)比特大陆提供成本更低(dī)的硬件。
既然选择了(le)合作(zuò)的方式,生态的构建自(zì)然更加重要(yào),发布会上(shàng),比特大陆与中科云從(cóng)、以萨、深瞐、千視(shì)通(tōng)、英飞拓、智慧眼科技、华付、南泽智能(néng)、华尊科技、藍(lán)典科技、灵想科技、航康信息、伟視(shì)清、叁拾柒号仓、考斯、鑫和(hé)汇通(tōng)、小牛智能(néng)等17家生态合作(zuò)伙伴同時(shí)签约,共同搭建開(kāi)放的生态系统。
AI技術(shù)的落地(dì)需要(yào)更高算力的支持,這(zhè)也是近年(nián)来AI芯片如(rú)此受关注的重要(yào)原因。比特大陆之所以能(néng)在AI芯片领域取得不错的成绩,很(hěn)重要(yào)的原因就在于其成立之初就一(yī)直专注于专用芯片的设计,自(zì)2016年(nián)第一(yī)代AI芯片流片之后,不断积累在AI芯片领域的经验。至于只提供硬件,与广大算法公司合作(zuò)的方式能(néng)否成功,则有待观察,不过目前基于比特大陆算力的硬件在城市大脑、智慧安防、智慧社區(qū)等领域都(dōu)有不错的进展。