Bing接受Google并以10倍的速度显示搜索结果

目录:

视频: PRIDE 2024

视频: PRIDE 2024
Anonim

微软用于AI计算的专用硬件称为Brainwave ,其创建方式旨在以最小的延迟尽可能快地运行神经网络。

该公司宣布,自从使用Brainwave以来,它成功地从Bing的AI中获得了十倍的性能提升。 机器学习模型从根本上推动了搜索引擎的功能。

微软应通过Brainwave实现的目标是为应用程序(例如最新的Bing功能)提供实时AI预测。

必应收到新功能

微软还为Bing提供了一些新功能,最值得一提的最重要功能是为操作方法问题提供了更多答案,并支持定义当用户将鼠标指针悬停在不常用的单词上时。 这些功能由Brainwave推动。

微软正在使用英特尔的FPGA支持AI计算

FPGA是一种空白画布,供开发人员通过发送新软件来部署各种电路时使用。 这涉及性能和可编程性的强强联合。

现在,微软不仅可以用硬件创建更快的模型,还可以做更多的事情。 该公司还可以构建更复杂的AI系统。 例如,由于通过Brainwave增加的计算能力,Bing的Turing原型1现在的复杂性和速度提高了十倍。

微软部署的FGA配备了增强的专用数字信号处理器,可以进行复杂的AI数学运算。

FPGA的主要优点

FPGA相对于GPU(已成为AI计算的首选)的最显着优势是它们不需要大量使用批处理计算。

一项关键的创新使Microsoft可以通过FPGA获得如此成功的结果,即使用8位和9位浮点数据类型可以从根本上提高性能。

英特尔的FPGA芯片使Bing可以在整个网络中快速读取和分析数十亿个文档,并在不到一秒钟的时间内为您的问题提供最佳答案。

实际上,英特尔的FPGA使我们能够将模型的延迟减少10倍以上,同时还将模型大小增加10倍。

使用FPGA加速AI计算可以追溯到2012年

六年前,当Bing团队开始使用芯片时,微软开始使用FPGA来提高AI计算的速度。 这对英特尔来说也是个好消息。 该公司于2015年收购了FPGA制造商Altera,而这笔167亿美元的交易为英特尔提供了必要的动力,可以满足微软的需求。

我们期待通过Microsoft Azure看到Brainwave,从而为客户提供部署其模型的机会。

Bing接受Google并以10倍的速度显示搜索结果