谷歌、阿里巴巴等科技巨头,都已在研发芯片,以满足个性化的人工智能、机器学习等方面的需求,这其中也包括了电子商务和云计算巨头亚马逊。
在推出两代数据中心芯片之后,亚马逊的自研芯片,也已开始用于处理Alexa语音助手的部分计算任务。
从外媒的报道来看,亚马逊Alexa语音助手的计算任务此前是由英伟达的芯片处理,但现在,亚马逊Alexa语音助手已经在他们自研的Inferentia芯片上运行。
具体而言,亚马逊自研的Inferentia芯片,目前主要是用于处理Alexa语音助手的机器学习负载,大部分的机器学习任务都是由自研芯片Inferentia处理。
Alexa语音助手的机器学习任务开始采用自研Inferentia芯片,也就意味着他们自研芯片在性能上不会低于此前所采用的英伟达芯片。
外媒在报道中也提到,在早期的测试中,亚马逊自研芯片Inferentia集群的处理结果与英伟达T4芯片是相同的,但降低了25%的延迟和30%的成本。更低的延迟有助于Alexa的开发人员运行更先进的数据分析输入技术,降低用户的等待时间。