首次開源這一強大算法,我們向Meta致敬
2022-05-09 14:00
小號
默認
大號
Facebook改名Meta后,“財務厄運”并未因此終止,,但技術作風卻一如既往的大膽,。本周,,來自Meta一小撮程序員的瘋狂舉動,,在全球AI開發(fā)者群體中引發(fā)了巨大騷動——Meta AI 實驗室高調宣布,將開放自己的語言大模型 OPT(Open Pretrained Transformer,,預訓練變換模型),,毫無保留地貢獻出所有代碼,。這是一種利用巨量網絡文本與書籍進行訓練,可以將單詞和短語串在一起組成精彩文本的深度學習算法模型,。不夸張地說,,在人工智能圈,這算得上是一個里程碑事件,。 | 相關閱讀(虎嗅)
48
得瑟小繆
跟據微軟老領導張宏江博士的觀點,,現(xiàn)在的AI等于算法+數(shù)據,其實按我的觀點來看,,還有一個算力,。早年在微軟做語音識別內核研發(fā)的時候,還是HMM這些主要通過數(shù)學和算法來實現(xiàn)的簡單AI,。后來隨著計算機硬件水平的大規(guī)模發(fā)展(當然也不能忽略海量數(shù)據可以用來學習),,神經網絡及深度學習逐漸成為行業(yè)主流(可憐我當年在內部第一個做出神經網絡的語音識別算法跟玩具一樣沒人理我)。隨著行業(yè)的發(fā)展,,我們看到很大中國的AI公司異軍突起,,這里面除了有很大一部分原因是中國市場有其他地方難以達到的海量用戶數(shù)據可以用來訓練模型。Meta算法及模型開源,,當然對促進行業(yè)發(fā)展大家相互學習是一件好事,但是從實際效果看,,小型創(chuàng)業(yè)團隊因為算力及成本的原因,,其實也用不太起這種AI的能力。擁有足夠財力的AI公司,,其實各自選型和認知上僅有些許區(qū)別,,更多的僅僅是參考談不上改變行業(yè)。