谷歌“AI教父”辭職,,并發(fā)出警告

蘇牧野
今天剛看了這位教父Hinton在MIT做的一個訪問,。40分鐘的問答里,,這位AI教父反駁了各種“AI智能超不過人類”的說法,不斷告訴聽眾這一刻即將到來,,宇宙終極的秘密是數(shù)字智慧,,碳基生命只是硅基生命的發(fā)射基站。
他還說,,人類是萬年進(jìn)化的結(jié)果,,進(jìn)化出很多“內(nèi)設(shè)機制”去避免做傷害人類整體利益的事情(大概就是斯蒂芬平克說的人性中的善良天使?),,但AI幾乎是一夜長大,,沒有進(jìn)化出”善良“的基因??礃幼尤祟惣磳⒆兂晒杌筐B(yǎng)在動物園里的觀賞品,,我們的希望在于它們像人類一樣學(xué)會內(nèi)斗,。
他留給我印象最深的一句話是:好消息是,人類終于創(chuàng)造出永生,,但永生又不是留給我們?nèi)祟愖约旱摹?/p>

顧小柯
作為“圖靈三巨頭”之一的Geoffrey Hinton 離開 Google也算是AI圈大事,,并且臨走前還警告大家 ChatGPT 趨勢下的 AI 威脅。 Geoffrey Hinton離職其實不意外,,之前他就頻頻擔(dān)憂谷歌被拖進(jìn)一場無休止的AI軍備競賽,,而目前監(jiān)管力度相對于發(fā)展速度而言過于薄弱,喂給模型的數(shù)據(jù)集龐雜無序,,最終是否會產(chǎn)生異變還未可知,。
但目前來說,我倒覺得這種“AI 威脅論”像是給 AI 打了無形的廣告,。實際上現(xiàn)在的AI還只是工具層面,,但非要說它會帶來“就業(yè)威脅”,以此顯示 AI 的強大,??偢杏XHinton對于的AI的看法太悲觀了。現(xiàn)在ChatGPT類的積極應(yīng)用案例遠(yuǎn)多于消極的,,但現(xiàn)在的趨勢是把AI描繪成邪惡的煉金術(shù),。這些擔(dān)憂是合理的,而我們會學(xué)習(xí),,我們會糾正它,,然后我們會繼續(xù)前進(jìn)。