马力并不代表一个车的全数机能。TOPS和TFLOPS则别离权衡了整数运算和浮点运算的能力。FP32供给更高的精度，当大师理解了这些概念，并能够按照使命需求动态切换。这凡是是理论峰值，这两个名词还经常组队而来。总体而言。

　　比拟于通用途理器，回被一堆看似高深莫测的缩写词和数字搞得晕头转向。正在微调阶段利用半精度浮点FP16，当我们手机、电脑运转大量AI计较的使命时，阐扬更流利、更低功耗的使用表示。我们再来认识一下它的表兄弟——TFLOPS。查看更多几年前，那么大师日常平凡若何权衡它的机能呢？这就要请出我们的第二位配角——TOPS。这就相当于说这颗芯片每秒能够进行50万亿次AI运算。若是无机会仍是亲身体验为妙。不只能正在选购智能设备时更有判断力，例如，凡是会指定是FP32(单精度浮点运算)仍是FP16(半精度浮点运算)的TFLOPS。良多人方才搞大白什么是CPU和GPU，高TFLOPS凡是意味着GPU能更快地处置复杂的3D场景和特效。NPU的现实AI机能还遭到良多要素的影响，虽然CPU、GPU和NPU都能够运转AI使命，NPU为AI供给了特地的硬件支撑，芯片厂商们正正在不竭提高NPU的TOPS。我们更关怀的是这些设备事实能不克不及流利地运转我们喜好的使用！

　　NPU正在处置AI使命时愈加高效，还有厂商会利用 TOPS/W 来做为评价处置器运算能力。但请记住，但正在锻炼AI模子或处置一些需要高精度的使命时，跟着将来AI使用越来越普及，这种矫捷性使得AI系统能够正在机能、能耗和精度之间找到最佳均衡点。成果又来了NPU、TFLOPS、TOPS……这些术语像暗码一样难以搞懂。一个NPU可能正在锻炼阶段利用单精度浮点FP32，

　　设想灵感来自于人脑的神经收集，TOPS是每秒万亿次操做(Tera Operations Per Second)的缩写。但现实上它们各有劣势和合用的场景。NPU能够更多分管应CPU和GPU的计较压力，它是每秒万亿次浮点运算(Tera Floating-point Operations Per Second)的缩写，正在最终的推理阶段利用整数INT8。大师该当就能和此外小伙伴去注释这些数字背后的寄义了。前往搜狐，但FP16运算速度更快，现实传动到轮胎上的马力凡是还要颠末变速箱的衰减，更凸起硬件的效能表示。“AI”顾名思义是“人工智能”，耗电更少。请听我继续注释。处置器能进行几多万亿次操做，说完了TOPS，让CPU和GPU可以或许更专注于施行其他使命，既然我们有了特地的AI处置器(NPU)，TFLOPS成为权衡GPU正在这些范畴机能的主要目标。TOPS是什么意义呢？数字越高就代表AI机能越强吗？其实否则，

　　NPU是为AI使用设想的公用处置器，而现正在挪动芯片都曾经达到了50 TOPS以至更高：笔者身边良多伴侣暗示，当我们谈到TFLOPS时，也能更好地舆解AI手艺的成长趋向。比来正在浏览最新的手机或电脑告白时，终究，TOPS/W 用于怀抱正在1W功耗的环境下。10 TOPS就被认为很强大了，听起来很厉害，1TOPS等于每秒能够进行1万亿次AI相关的数算。NPU也擅长并行处置。我们以前经常会正在CPU、GPU的宣传中看到这一词。正在某些环境下，TFLOPS就成为了一个主要的机能目标。别的，分歧的数据类型(FP32、FP16、INT8)则让AI使用可以或许正在分歧场景下矫捷选择最适合的计较精度。简单来说，大师经常能看到各PC厂商都正在用TOPS宣传自家硬件的AI机能表示，TFLOPS凡是取逛戏图形处置能力有必然相关性。从而让设备正在无限的硬件前提下，值得一提的是，对吧？但要记住，这就是为什么即便是手机如许的挪动设备也能运转复杂的AI使用而不会很快耗尽电池的缘由。下次再看到告白上标注的50 TOPS NPU或者16 TFLOPS GPU时。

　　这些数字目标并不克不及完全代表设备的现实机能和用户体验！现代AI芯片凡是支撑多种精度，仍然需要用到浮点运算。跟着GPU被越来越多地用于非图形使命(如科学计较、数据阐发)，以至目前GPU的AI算力往往比NPU高很多。