摘要:據(jù)Decrypt報(bào)道,總部位于巴黎的初創(chuàng)公司MistralAI發(fā)布了一款名為Mixtral的開放大型語(yǔ)言模型(LLM),該公司聲稱Mixtral在多個(gè)基準(zhǔn)測(cè)試中表現(xiàn)優(yōu)于OpenAI的GPT35,同時(shí)效率更高。...
據(jù)Decrypt報(bào)道,總部位于巴黎的初創(chuàng)公司Mistrall AI發(fā)布了一款名為Mixtral的開放式大型語(yǔ)言模型(LLM),該公司聲稱Mixtral在多個(gè)基準(zhǔn)測(cè)試中表現(xiàn)優(yōu)于OpenAI的GPTral 3.5,同時(shí)效率更高。Mistral 人工智能最近獲得了20億美元的估值。風(fēng)險(xiǎn)投資公司Andressen Horowitz(A16z)為Mistral提供了大量的A輪投資,A16z以其在變革性技術(shù)領(lǐng)域的戰(zhàn)略投資而聞名,尤其是人工智能。Nvidia、Salesforce等科技巨頭也參與了這一輪融資。Mixtral采用一種名為稀疏專家混合的方法(MoE)Mistral表示,這使得該模型與其前身Mistral相比, 7b和其他更強(qiáng)大的競(jìng)爭(zhēng)對(duì)手更強(qiáng)大、更高效。Mixtral已經(jīng)獲得Apacheel 2.0許可證允許開發(fā)人員在模型上自由檢查、運(yùn)行、修改甚至構(gòu)建定制解決方案。然而,關(guān)于Mistral是否100%開源存在爭(zhēng)議,因?yàn)镸istral表示它只發(fā)布了“開放權(quán)重”,而核心模型許可證禁止它與Mistral AI競(jìng)爭(zhēng)。初創(chuàng)公司還沒有提供建立模型訓(xùn)練數(shù)據(jù)集和代碼,這在開源項(xiàng)目中很常見。