计算的价值
最近几天谈了不少事情,反过来想了一下计算的价值是什么?做网络的人都在想SmartNIC,总觉得有点不对劲又说不上来为什么。什么样的计算要offload到网卡上,特别是一些带有冯诺依曼架构的RTC的网卡。如果把网络相关的事情看成是一种计算的话,本质上是offload的什么样的计算?今天还在跟同事们开玩笑干脆用GPU去做路由查表和ACL吧,反正不都是计算么?
AI加速卡的故事逐渐的开始终结,Intel开始加入AVX512, ARM也有SVE2,CPU又一次标准化的方式把神经网络推理加速整合了,留给GPU的只有训练集群的场景,而推理以后很大程度上都会迁移到CPU的特殊指令集上,而加解密早就有类似的处理了。
所以我一直认为DPU是一个悖论,本质上
只是需要一个
IO密集型和
计算密集型的任务
解耦罢了。
假设存在一个计算任务,DAG的方式分解和拓扑排序分布执行这是一个非常常见的流程了,而分布式必定带来了通信的需求,然后就是安全的需求。如果把报文处理抽象成一种矩阵计算,人类选择了一种非常不高效的解决办法,网络的东西永远不会设计最优的编码方式,因为要多厂商融合,各自都要塞入垃圾和私货,都是妥协的结果。
这个时候在容器间再插入一个SmartNIC,进去出来,再进去再出来,有什么好处了,处理了两次。当然里面可以说:为了无法计算的价值,例如IO Sensitive的处理和batch model的并行处理等等理由。但总有那么一天
管你是GPU还是NPU还是DPU,只要是PU,集中到SoC上都叫Central
P
U
。那不又成了CPU了么。。。
人要有点追求,猫论才是最好的归宿
《计算的价值》来自互联网,仅为收藏学习,如侵权请联系删除。本文URL:http://www.bookhoes.com/3169.html