摘要：不出意外，在本次大會上，我們看到了來自BingChat、專用AI芯片、Windows、Microsoft365和Azure等業(yè)務(wù)的最新動態(tài)。微軟特別提到，從12月1日起，使用MicrosoftEntraID登錄時，在Bing、Edge和Windows中使用Copilot的客戶將享受商業(yè)數(shù)據(jù)保護(hù)功能。...

文章轉(zhuǎn)載來源：機(jī)器之心

原文來源：機(jī)器之心

圖片來源：由無界 AI生成

今天凌晨，微軟公司召開最新一場 Ignite 大會，CEO 薩提亞?納德拉在大會上介紹了 100 多項(xiàng)產(chǎn)品和技術(shù)的發(fā)布與更新，涉及范圍非常廣泛，包括應(yīng)用、生產(chǎn)力以及安全性等多個方面。

Microsoft Ignite 是該公司為開發(fā)人員和 IT 專業(yè)人士舉辦的年度會議，而生成式 AI 的一切無疑是本年度的最大熱點(diǎn)。不出意外，在本次大會上，我們看到了來自 Bing Chat、專用 AI 芯片、Windows、Microsoft 365 和 Azure 等業(yè)務(wù)的最新動態(tài)。

大會現(xiàn)場還請來了英偉達(dá)創(chuàng)始人黃仁勛，之后微軟會將 AMD 、英偉達(dá)最新的處理器納入 Azure 云服務(wù)。

大會有哪些值得關(guān)注的亮點(diǎn)，我們繼續(xù)往下看。

Bing Chat 更名為「Copilot」，GPT-4 、DALL?E 3、GPTs 免費(fèi)用

大會上，微軟宣布了將 Bing Chat 和 Bing Chat Enterprise 全部更名為「Copilot」。

品牌重塑的動作意味著 Copilot 正在變成更獨(dú)立的一種體驗(yàn)，用戶無需先導(dǎo)航到 Bing 即可訪問。Copilot 的免費(fèi)版本仍然可以在 Bing 和 Windows 中訪問，但也會擁有專用域名「copilot.microsoft.com」。

在此之前，在微軟內(nèi)部有十幾種產(chǎn)品共享「Copilot」這一品牌，一度讓人感到迷茫。該品牌標(biāo)識始于 2021 年的 GitHub Copilot，今年 微軟又推出 Dynamics 365 Copilot、Windows 中的 Copilot、Microsoft Security Copilot 和 Microsoft 365 Copilot，似乎每一項(xiàng)業(yè)務(wù)都有自己的「Copilot」。

至于為什么要在這個 Copilot 矩陣中再加兩名成員，微軟解釋說是希望為消費(fèi)者和企業(yè)客戶創(chuàng)造統(tǒng)一的 Copilot 體驗(yàn)。

所以現(xiàn)在，Bing Chat 變成了微軟的第六個「Copilot」，但也可以理解為最通用的一個 Copilot。

今后，Bing 將是為其提供支持的一部分。此外，Copilot 基于最新的 OpenAI 模型，包括 GPT-4 和 DALL?E 3，在統(tǒng)一的體驗(yàn)中提供文本和圖像生成功能。

但也有可能是，Bing Chat 并沒有為 Bing 本身帶來太多收益，因此微軟希望將這一產(chǎn)品從搜索引擎中剝離出來。

此時剝離是一件有趣的事情，因?yàn)槲④浽?jīng)投入了大量精力在自家的搜索引擎中推出 AI 產(chǎn)品，并將其視為從谷歌手中搶奪市場份額的一種方式。就比如今年初，微軟 CEO 納德拉曾稱「谷歌是搜索領(lǐng)域 800 磅重的大猩猩」，而微軟會讓它「跳舞」。

但后來的谷歌并沒有像微軟那樣急于將生成式 AI 產(chǎn)品整合到其搜索結(jié)果中。從目前來看，這種「不變」沒有帶來什么壞影響：根據(jù) StatCounter 的數(shù)據(jù)，在 Bing Chat 推出近 10 個月后，Google 搜索引擎的市場份額仍然超過 91% 。

微軟特別提到，從 12 月 1 日起，使用 Microsoft Entra ID 登錄時，在 Bing、Edge 和 Windows 中使用 Copilot 的客戶將享受商業(yè)數(shù)據(jù)保護(hù)功能。Copilot 不會保存用戶使用過程中的 prompt 和回復(fù)，微軟無法直接訪問，也不會將其用于訓(xùn)練底層模型。

此外，微軟還推出了另外一些「Copilot」：Microsoft Copilot Studio、Copilot for Azure、Copilot for Service 和 Copilot in Dynamics 365 Guides。

其中，Microsoft Copilot Studio 這一產(chǎn)品對標(biāo)的是上周 OpenAI 推出的 GPTs，這個新平臺提供將微軟所發(fā)布 AI 應(yīng)用與第三方數(shù)據(jù)連接起來的工具，同樣可以讓企業(yè)創(chuàng)建自定義 Copilot 或集成自定義 ChatGPT AI 聊天機(jī)器人。該產(chǎn)品已向現(xiàn)有 Copilot for Microsoft 365 訂閱者提供公測版本。

借助基于 Web 的 Copilot Studio，企業(yè)可以讓 Copilot for Microsoft 365 和 Copilot for Service 訪問其 CRM、企業(yè)資源管理系統(tǒng)和其他數(shù)據(jù)庫中的數(shù)據(jù)，使用預(yù)構(gòu)建的連接器或它自己構(gòu)建的連接器進(jìn)行數(shù)據(jù)存儲。

「作為 OpenAI 和 Microsoft 戰(zhàn)略合作伙伴關(guān)系的一部分，我們可以輕松地將 OpenAI 的服務(wù)無縫集成到 Microsoft 現(xiàn)有的生態(tài)系統(tǒng)中，」微軟副總裁 Jared Spataro 說道。

首款 5nm AI 芯片，面向 LLM 訓(xùn)練和推理

在將 Bing Chat 更名 Copilot 之外，微軟備受觀眾的自研芯片也終于露出廬山真面目了。

微軟發(fā)布了兩款為其云基礎(chǔ)設(shè)施設(shè)計(jì)的高端定制芯片，分別是 Azure Maia 100 AI 芯片和 Cobalt 100 CPU。這兩款芯片均由微軟內(nèi)部構(gòu)建，并面向整個云服務(wù)器堆棧進(jìn)行了深度改造以優(yōu)化性能、功耗和成本，預(yù)計(jì)將于 2024 年推出。

先看 Maia 100，這是微軟首個定制的內(nèi)部 AI 加速器系列的首款產(chǎn)品，以一顆明亮的藍(lán)星命名，專為運(yùn)行和優(yōu)化云 AI 工作負(fù)載而設(shè)計(jì)，例如 GPT 3.5 Turbo 和 GPT-4 等大型語言模型的訓(xùn)練和推理。

Maia 100 將為微軟 Azure 上最大的 AI 工作負(fù)載提供支持，包括為 OpenAI 所有工作負(fù)載提供支持的部分。微軟表示其在 Maia 的設(shè)計(jì)和測試階段一直與 OpenAI 展開合作。

在具體規(guī)格上，Maia 100 采用臺積電 5nm 制程工藝，擁有 1050 億個晶體管，只比 AMD MI300 AI GPU 芯片的 1530 億晶體管少了約 30％。Maia 100 首次支持實(shí)現(xiàn) 8-bit 以下的數(shù)據(jù)類型（MX 數(shù)據(jù)類型），以便共同設(shè)計(jì)軟硬件。這有助于支持更快的模型訓(xùn)練和推理時間。

納德拉展示 Maia 100 的服務(wù)器機(jī)架和冷卻系統(tǒng)

Cobalt 100 以藍(lán)色顏料命名，是一款 128 核芯片，基于 Arm Neoverse CSS 設(shè)計(jì)構(gòu)建，為微軟定制。Cobalt 100 旨在為微軟 Azure 上的通用云服務(wù)提供支持。關(guān)于這款芯片，微軟不僅保證它具有高性能，還特別注意電源管理。同時在芯片設(shè)計(jì)時有意控制每個核心以及每個虛擬機(jī)的性能和功耗。

微軟目前正在 Microsoft Teams 和 SQL Server 等工作負(fù)載上測試 Cobalt 100，并計(jì)劃明年為客戶提供虛擬機(jī)以處理各種工作負(fù)載。與微軟 Azure 目前使用的 Arm 服務(wù)器相比，Cobalt 100 有一些明顯的性能提升。

微軟初步測試表明，Cobalt 100 的性能比目前使用商用 Arm 服務(wù)器的數(shù)據(jù)中心的性能提升了 40%。不過微軟沒有透露完整的系統(tǒng)規(guī)格或基準(zhǔn)測試。

用于測試微軟 Azure Cobalt 片上系統(tǒng)的探針臺

不過，微軟也表示，Maia 100 和 Cobalt 100 兩者都將優(yōu)先滿足自用，支持自己的 Azure 云服務(wù)。

Phi-2 模型發(fā)布，在 Azure AI 服務(wù)中可以使用

微軟宣布新的 Phi-2 模型將完全開源，該模型具有 27 億參數(shù)，與 Phi-1-5 相比，其推理能力和安全措施有了顯著提高，但與業(yè)內(nèi)其他 Transformer 相比，它仍然相對較小。

Phi-2 更加穩(wěn)健，數(shù)學(xué)推理能力提高了 50%，不僅如此，在其他任務(wù)上的推理能力提高也非常大，微調(diào)起來很方便?，F(xiàn)在可以在 Azure AI 服務(wù)中使用。

今年 6 月，微軟在一篇題為《Textbooks Are All You Need》的論文中，用規(guī)模僅為 7B token 的「教科書質(zhì)量」數(shù)據(jù)訓(xùn)練了一個 1.3B 參數(shù)的模型 ——phi-1。盡管在數(shù)據(jù)集和模型大小方面比競品模型小幾個數(shù)量級，但 phi-1 在 HumanEval 的 pass@1 上達(dá)到了 50.6% 的準(zhǔn)確率，在 MBPP 上達(dá)到了 55.5%。phi-1 證明高質(zhì)量的「小數(shù)據(jù)」能夠讓模型具備良好的性能。

隨后，今年 9 月，微軟又發(fā)表了論文《Textbooks Are All You Need II: phi-1.5 technical report》，對高質(zhì)量「小數(shù)據(jù)」的潛力做了進(jìn)一步研究。文中提出了 Phi-1.5，參數(shù) 13 億，適用于 QA 問答、代碼等場景。

直到今天，Phi-2 正式發(fā)布，可以看出微軟對模型的更新迭代速度還是非?？斓?。

前面我們已經(jīng)提到 Phi-2 在 Azure AI 服務(wù)中可用。不僅如此，OpenAI 的語音識別模型 Whisper-Large-V3 ；Salesforce 的能夠執(zhí)行各種多模態(tài)任務(wù)的 BLIP 系列模型；OpenAI 的 CLIP 系列模型；Meta 的 Code Llama、SAM  ；阿布扎比技術(shù)創(chuàng)新研究所（TII）開發(fā)的大型開源語言模型 Falcon；Stability AI 的 Stable Diffusion 等新模型都已經(jīng)被收錄進(jìn)來。

參考鏈接：

https://www.theverge.com/2023/11/15/23960345/microsoft-cpu-gpu-ai-chips-azure-maia-cobalt-specifications-cloud-infrastructure

https://www.youtube.com/watch?v=wBdS3omKlqU