對(duì)話商湯徐立：元宇宙,、反共識(shí)與人工智能倫理
楊安琪
2021-08-24
三年前的一幕讓人印象深刻,。
當(dāng)時(shí),，商湯科技聯(lián)合創(chuàng)始人、CEO徐立坐在我對(duì)面,。說(shuō)到興奮處,，他在桌子上憑空畫(huà)了一條線?！澳闱?，這一條線是科技的發(fā)展?！比缓笏⒖谭磫?wèn)：“我們?nèi)绾稳ザx一個(gè)時(shí)代,？”
大約在2秒鐘后，他自己開(kāi)始解釋?zhuān)骸叭绻ゲ闀r(shí)代這個(gè)詞的定義,，都說(shuō)是以政治,、經(jīng)濟(jì)、文化等為依據(jù)而劃分的某個(gè)時(shí)期,。但事實(shí)上,，鐵器時(shí)代、蒸汽時(shí)代,、電氣時(shí)代,、甚至信息時(shí)代，我們所熟悉的所有時(shí)代的命名都與政治,、經(jīng)濟(jì),、文化無(wú)關(guān)。只跟科技有關(guān),?！?/p>
接著，他又憑空畫(huà)了一條線,?！斑@一條線是工業(yè)發(fā)展?！彼f(shuō)：“科技和工業(yè)發(fā)展始終并行,。但什么時(shí)候這兩條線產(chǎn)生交集？”
徐立提出一個(gè)概念：“工業(yè)紅線”。在人工智能誕生的60年里,，AI技術(shù)很難跨越這條工業(yè)紅線,，即沒(méi)有實(shí)質(zhì)上提高生產(chǎn)效率。他的觀點(diǎn)是,，工業(yè)發(fā)展往往是跨越式的,，而那個(gè)跳躍的節(jié)點(diǎn)往往就是技術(shù)突破了“工業(yè)紅線”,，即規(guī)?；I(yè)使用的標(biāo)準(zhǔn)。
三年過(guò)后,，商湯繼續(xù)在人工智能的道路上高歌猛進(jìn),。在剛過(guò)去的2021世界人工智能大會(huì)上，商湯推出了可以奔向“元宇宙”,，實(shí)現(xiàn)虛實(shí)結(jié)合全新交互體驗(yàn)的基礎(chǔ)設(shè)施SenseCore商湯AI大裝置,；商湯車(chē)載業(yè)務(wù)亦在5年多的行業(yè)全棧能力積累上，推出智能汽車(chē)解決方案的獨(dú)立新品牌SenseAuto絕影,。
松禾資本創(chuàng)始人厲偉曾表示,，商湯創(chuàng)立之初，AI還不是一個(gè)受人關(guān)注的領(lǐng)域,，但短短數(shù)年,，人工智能對(duì)各個(gè)行業(yè)的改變已全面鋪開(kāi)。
然而,，從零到一的突破從來(lái)都伴隨巨大挑戰(zhàn),。在可以看到的有關(guān)技術(shù)突破、商業(yè)落地等表層問(wèn)題之外,，對(duì)于人工智能最深層次的擔(dān)憂來(lái)自于倫理的懷疑,。蘋(píng)果CEO庫(kù)克在麻省理工學(xué)院畢業(yè)典禮上說(shuō)：“我不擔(dān)心人工智能像人類(lèi)一樣思考問(wèn)題，我擔(dān)心的是人類(lèi)像計(jì)算機(jī)一樣思考問(wèn)題——摒棄同情心和價(jià)值觀并且不計(jì)后果,?！?/p>
一些發(fā)人深省的問(wèn)題正在發(fā)生。我們是否到達(dá)了一個(gè)探討人工智能倫理的時(shí)刻,？如果已經(jīng)該討論這個(gè)問(wèn)題,，那么這些倫理的原則和基礎(chǔ)都是什么？徐立有一套自己的思考方法,。
7月29日,，徐立參加《財(cái)富》中國(guó)40U40創(chuàng)想會(huì)。圖片來(lái)源：財(cái)富中文網(wǎng)
《財(cái)富》（中文版）：三年之前有一次交流,，當(dāng)時(shí)你說(shuō)人工智能超過(guò)了一條工業(yè)紅線就將迎來(lái)爆發(fā)式的增長(zhǎng),。你覺(jué)得現(xiàn)在人工智能超越了那條工業(yè)紅線嗎？
徐立：我們其實(shí)獲益于兩波人工智能發(fā)展的紅利。第一波就是你剛才提到的,，五年前技術(shù)突破第一次證明了AI能夠在一些領(lǐng)域超過(guò)“工業(yè)紅線”,，通常可以認(rèn)為是超越了人的準(zhǔn)確率,。但彼時(shí)我們也面臨另外一個(gè)困境,，就是當(dāng)技術(shù)逐步深入行業(yè)，會(huì)發(fā)現(xiàn)人工智能本身生產(chǎn)的成本非常高,。
舉一個(gè)簡(jiǎn)單的例子,，如果我們把“下圍棋”假設(shè)為一個(gè)生產(chǎn)過(guò)程。我們可以認(rèn)為阿爾法狗（AlphaGo）超越了工業(yè)紅線,，即人的水平,。但如果投入阿爾法狗的目的僅是讓他以下棋為主業(yè)，那它的投入可能要比中國(guó)現(xiàn)役近三百名職業(yè)棋手投入總和都高,。所以第一波紅利通常帶來(lái)的只是在某些特定行業(yè)率先采用了AI技術(shù),。大規(guī)模的應(yīng)用還有賴(lài)于降低AI本身的生產(chǎn)成本。
人工智能發(fā)展的第二個(gè)紅利,，就是隨著底層AI基礎(chǔ)設(shè)施的不斷投入,，神經(jīng)網(wǎng)絡(luò)技術(shù)訓(xùn)練通用模型的能力正在逐步突破。目前,，自動(dòng)化,、規(guī)模化,、集約化的AI模型量產(chǎn)正在逐步實(shí)現(xiàn),。
商湯在創(chuàng)立之初，就開(kāi)始投入并訓(xùn)練通用的大模型,。簡(jiǎn)單來(lái)說(shuō),，通用大模型具備觸類(lèi)旁通的能力，在建立通用的能力之后,，在不同行業(yè)領(lǐng)域的細(xì)分場(chǎng)景中,，只需依靠小樣本，就能迭代出優(yōu)質(zhì)的模型算法,，真正突破人力密集型的投入,，實(shí)現(xiàn)對(duì)長(zhǎng)尾應(yīng)用需求的滿足。這就像類(lèi)比于人的能力,，人的感知和認(rèn)知能力是很通用的,，對(duì)于一些新問(wèn)題的理解我們只需要小數(shù)據(jù)就可以了。
《財(cái)富》（中文版）：前一段我看你參加了一個(gè)公開(kāi)的活動(dòng),，你說(shuō)真正的顛覆式創(chuàng)新都不是從傳統(tǒng)創(chuàng)新范式中來(lái),，是從天才靈光一現(xiàn)的腦洞或思想實(shí)驗(yàn)而來(lái)，你相信天才的靈光閃現(xiàn)是偶然還是必然？
徐立：首先人類(lèi)歷史上很多顛覆性的科學(xué)創(chuàng)新和重大突破,，都是通過(guò)人類(lèi)非常偶然的發(fā)現(xiàn),，或是偶然的思想實(shí)驗(yàn)來(lái)完成，多源于“天才的猜想”,，這種完成不可預(yù)測(cè),。
那么背后的原因是什么呢？
重大創(chuàng)新都是反共識(shí)的,，只要是反共識(shí)的就不可能規(guī)劃,，所以沒(méi)法用范式來(lái)規(guī)范。人類(lèi)不可能用固定的方法論去規(guī)劃一個(gè)普羅大眾沒(méi)有共識(shí)性的東西,，并預(yù)測(cè)未來(lái)的發(fā)生,。造成這種現(xiàn)象的原因,，在于人類(lèi)對(duì)未知世界的認(rèn)知有局限性,。
但在今天的人工智能時(shí)代，機(jī)器也可以進(jìn)行猜想,，不依賴(lài)于人類(lèi)的認(rèn)知,，有望幫助我們更早地發(fā)現(xiàn)科學(xué)規(guī)律的本質(zhì)，更快地探索和發(fā)現(xiàn)未知,，這正是人工智能所帶來(lái)的創(chuàng)新新范式,。
我上次提到，假設(shè)機(jī)器能夠猜想出來(lái)牛頓定律,，人類(lèi)會(huì)不會(huì)用這個(gè)定律,？這是我們面臨的一個(gè)問(wèn)題。當(dāng)然人類(lèi)鑒別機(jī)器有效的猜想本身就是一個(gè)很難的題目,。
我讀過(guò)一本大劉（劉慈欣）的小說(shuō),，很強(qiáng)的智能體想要了解人類(lèi)寫(xiě)詩(shī)這件事情。最后發(fā)現(xiàn)即使能夠窮盡所有的詩(shī)的可能,，仍無(wú)法得知哪一首詩(shī)是好的,，所以在不能完全理解的情況下鑒別機(jī)器猜想的優(yōu)劣在這個(gè)情境下也充滿挑戰(zhàn)。
《財(cái)富》（中文版）：我的理解這是智能與智慧的真正區(qū)別,。
徐立：比如我們對(duì)于一些未來(lái)的可能性和技術(shù)突破會(huì)有很多的機(jī)器的猜想,，這些猜想有一些是可以在未來(lái)極大推動(dòng)技術(shù)進(jìn)步的，但是有一些不行,。那么究竟如何去甄別這些猜想的有效性,、可靠度，會(huì)是留給未來(lái)的問(wèn)題,。
《財(cái)富》（中文版）：那么我們今天這個(gè)主題是探討未來(lái)人工智能的下一步,，在未來(lái)可見(jiàn)的范圍內(nèi)，你覺(jué)得人工智能的下一步是什么？
徐立：剛才也講到近年來(lái)人工智能的兩大紅利,，也正是在這樣的認(rèn)知下,，商湯累計(jì)近百億投入，建設(shè)了人工智能算法規(guī)?；a(chǎn)所必備的AI基礎(chǔ)設(shè)施,，我們稱(chēng)之為人工智能大裝置。
給它起名大裝置的原因是類(lèi)比物理的粒子對(duì)撞機(jī),，就是希望寓意人工智能助力一種創(chuàng)新范式的轉(zhuǎn)換,，通過(guò)“人工智能的粒子對(duì)撞機(jī)”，對(duì)海量數(shù)據(jù)甚至是構(gòu)建的巨大解空間進(jìn)行拆解和碰撞,，用一定的隨機(jī)性來(lái)打破人類(lèi)認(rèn)知和應(yīng)用的邊界,。
我認(rèn)為一些行業(yè)如果未知領(lǐng)域較多，比如地球科學(xué),、生命科學(xué),、制藥學(xué)、大氣科學(xué)的探究等,，這些領(lǐng)域機(jī)器猜想或許會(huì)給我們一些意想不到的驚喜,。
《財(cái)富》（中文版）：這個(gè)隨機(jī)的實(shí)驗(yàn)是不是就是你剛才說(shuō)的偶然性的問(wèn)題？
徐立：舉一個(gè)例子,，最近我們看到人工智能在蛋白質(zhì)結(jié)構(gòu)解析方面有很多突破,。人類(lèi)要完成這樣的工作可能需要很長(zhǎng)時(shí)間，但機(jī)器就可以在很短的時(shí)間之內(nèi)做到,。
現(xiàn)在的假設(shè)是氨基酸的序列是決定蛋白質(zhì)結(jié)構(gòu)的唯一因素,。但接下來(lái)我們還可以做很多類(lèi)似于粒子對(duì)撞機(jī)的隨機(jī)撞擊實(shí)驗(yàn)。比如將更多的輸入因素放入實(shí)驗(yàn),，看看有沒(méi)有提升預(yù)測(cè)的結(jié)果,。而預(yù)測(cè)變得更準(zhǔn)確時(shí)，我們又可以借助于這樣的結(jié)果來(lái)重新理解決定蛋白質(zhì)結(jié)構(gòu)的核心要素,。這就是通過(guò)隨機(jī)的撞擊來(lái)加速科學(xué)研究了,。研發(fā)的結(jié)果會(huì)加速生物制藥以及其他科學(xué)的進(jìn)展。
當(dāng)然,，有時(shí)候相關(guān)的突破或許在當(dāng)下這個(gè)時(shí)代沒(méi)有辦法解釋?zhuān)赡苄枰鹊綑C(jī)器猜出牛頓定律的一百年之后出現(xiàn)一個(gè)“牛頓”來(lái)真正解釋這背后的原因,。
《財(cái)富》（中文版）：這些也是商湯科技在做的嗎？比如說(shuō)你剛才說(shuō)的蛋白質(zhì)的組合,。
徐立：商湯AI大裝置提供了一個(gè)底層的能力平臺(tái),。正如前面所提，正如粒子對(duì)撞機(jī),。在這個(gè)擁有一定隨機(jī)性的過(guò)程中,，可探索的空間非常大,。對(duì)于基礎(chǔ)設(shè)施，特別是算力的需求,，其實(shí)是指數(shù)級(jí)增長(zhǎng),。有數(shù)據(jù)顯示，在過(guò)去的十年之內(nèi),，最好的人工智能算法對(duì)于算力需求的增長(zhǎng)超過(guò)了100萬(wàn)倍,。
這和很多人的認(rèn)知都相反，大家都覺(jué)得算法越精妙應(yīng)該算的越少,，其實(shí)并不是,。算法越好反而算的越多，它其實(shí)是在驗(yàn)證不同的可能性以及探究應(yīng)用的邊界,。
《財(cái)富》（中文版）：就是你剛才說(shuō)的反共識(shí),。
徐立：對(duì)，反共識(shí),。
《財(cái)富》（中文版）：如果我們?cè)倮稽c(diǎn),，元宇宙可能是最近一年科技圈最火的一個(gè)話題，人工智能在元宇宙里面扮演了什么樣的角色,？你怎么理解元宇宙,？
徐立：我覺(jué)得元宇宙一直存在于各種我們?nèi)粘５膽?yīng)用中,，包括說(shuō)我們?cè)瓉?lái)說(shuō)的游戲,，其實(shí)都是元宇宙的某種形式。
但是最近元宇宙很火爆的核心原因,，其實(shí)和人工智能被大家關(guān)注的原因一樣,，因?yàn)樗饾u接近于真實(shí)的世界。
如果虛擬世界非常不真實(shí),，就像你每天玩游戲,，玩的內(nèi)容和現(xiàn)實(shí)世界完全沒(méi)有連接，你不會(huì)覺(jué)得它是一個(gè)宇宙,。只有當(dāng)他更像真實(shí)世界,，當(dāng)真實(shí)世界所有東西都能夠被反映和連接到元宇宙當(dāng)中，并能夠因此產(chǎn)生交互,，你會(huì)覺(jué)得它給了我第二種可能性,，從而帶來(lái)了第二、第三甚至更多的宇宙,。
在這個(gè)過(guò)程當(dāng)中,，人工智能扮演的角色就是連接真實(shí)世界和虛擬世界，讓用戶(hù)在不同的宇宙中生活,。在真實(shí)世界中每個(gè)人有自己的身份,，而在虛擬世界,，你亦可以通過(guò)另外的角色完成與周?chē)h(huán)境的實(shí)時(shí)互動(dòng)。
《財(cái)富》（中文版）：真實(shí)和虛擬世界之間的轉(zhuǎn)換是可以通過(guò)算力來(lái)完成的嗎,？
徐立：是的,。算力可以幫助將真實(shí)世界投射到虛擬世界中。通常第一步是把相關(guān)信息采集下來(lái),，并沒(méi)有真正語(yǔ)義上的東西,，僅完成了所謂的空間數(shù)據(jù)化。但是通過(guò)AI與算力的突破,，每一件東西正逐步被賦予人類(lèi)能理解的含義,，不僅是空間數(shù)據(jù)化，還有要素結(jié)構(gòu)化,、流程交互化,，進(jìn)而對(duì)應(yīng)到虛擬世界當(dāng)中。讓人們不僅可以訪問(wèn),、還可以使用,、修改真實(shí)世界相關(guān)的內(nèi)容甚至進(jìn)行互動(dòng)。
所以有關(guān)真正的元宇宙,，我的理解是人們可以在其中對(duì)真實(shí)世界進(jìn)行交互,，并且也可以將虛擬世界中的種種體驗(yàn)投射到現(xiàn)實(shí)世界中。否則它的意義只是一個(gè)游戲,，或者說(shuō)只是一個(gè)APP,。
《財(cái)富》（中文版）：那么如果再上升一步，首先我先想跟你探討一個(gè)假設(shè)和前提,，你覺(jué)得我們現(xiàn)在是不是到了應(yīng)該探討人工智能倫理問(wèn)題的時(shí)刻,？這個(gè)話題首先你同意這個(gè)假設(shè)嗎？
徐立：我覺(jué)得非常值得去探討,。人工智能的創(chuàng)新來(lái)源于對(duì)過(guò)往認(rèn)知的顛覆,，因此行業(yè)應(yīng)用中的倫理治理問(wèn)題就愈發(fā)重要。同時(shí),，科學(xué)發(fā)展的路徑之一是演繹,，即給一個(gè)基點(diǎn)，不停的推到邊界,。既然今天對(duì)這個(gè)倫理治理上有一些核心原則的話,，我們完全可以通過(guò)原則往前演進(jìn)，去探索一下我們倫理和機(jī)器可觸達(dá)的邊界是什么,。
《財(cái)富》（中文版）：你剛才說(shuō)到了原則,，這個(gè)原則如果給人工智能來(lái)制定的話你會(huì)如何制定？
徐立：對(duì)于世界范圍內(nèi)人工智能倫理治理的框架,，商湯曾做過(guò)一個(gè)比較全面的研究,。
我們發(fā)現(xiàn)大部分的倫理治理框架都可以被歸類(lèi)為三大類(lèi)：一類(lèi)就是以人為本,，無(wú)論是人的公平性、身份性問(wèn)題,、尊嚴(yán)性問(wèn)題或者是確認(rèn)主權(quán)問(wèn)題,，數(shù)據(jù)安全問(wèn)題等，都屬于以人為本的范疇,；第二類(lèi)叫技術(shù)可控,，包含透明計(jì)算、可解釋性,、技術(shù)安全的邊界等,；第三點(diǎn)就是可持續(xù)發(fā)展，尋求綠色的,，長(zhǎng)期的發(fā)展,。
我認(rèn)為未來(lái)的人工智能倫理治理其實(shí)就是在這三大支柱當(dāng)中求得平衡。
當(dāng)然,，我們一直強(qiáng)調(diào)的是要秉承“發(fā)展”的人工智能倫理觀,。最容易滿足所有治理框架要求的，就是什么都不去突破,，但這樣大家就會(huì)忘了我們最初出發(fā)目標(biāo)是什么,，我們的初心就是用人工智能去推動(dòng)社會(huì)的發(fā)展，這是目標(biāo),。以數(shù)學(xué)優(yōu)化來(lái)舉例,，我們的優(yōu)化函數(shù)是人工智能推動(dòng)社會(huì)的進(jìn)步，下面有三個(gè)約束條件需要滿足,。但是很多時(shí)候,，如果我們只談約束條件，而忽略了優(yōu)化函數(shù)的目標(biāo),，那么這個(gè)優(yōu)化是不成功的。
《財(cái)富》（中文版）：如果這么來(lái)說(shuō),，你覺(jué)得人工智能會(huì)更加劇人和人之間的不平等還是平等,？這個(gè)美好世界的定義在哪兒？人工智能如何達(dá)到這個(gè)所謂的美好世界,？
徐立：談人工智能的公平性基本是談?wù)摂?shù)據(jù)樣本的偏差可能帶來(lái)人工智能算法的偏差,，這個(gè)隨著技術(shù)演進(jìn)都能得到改善。而我認(rèn)為更大層面上的公平來(lái)自可能的少數(shù)人能獲益于人工智能帶來(lái)的便利,，這將會(huì)帶來(lái)不平等,。
而我的理解，人工智能作為一個(gè)通用技術(shù)從量變到質(zhì)變的核心要素,，是其能否真正降低其生產(chǎn)要素的成本,。如果說(shuō)某項(xiàng)技術(shù)特別高精尖,，需要非常高成本投入才能完成的話，那必然是少數(shù)人,、頭部企業(yè),、頭部場(chǎng)景才能夠使用到這樣的技術(shù)，那么勢(shì)必帶來(lái)不平等,。
回看歷史,，無(wú)論是鐵器時(shí)代、蒸汽時(shí)代,、電氣時(shí)代,、甚至信息時(shí)代，所有的時(shí)代都是以技術(shù)命名的,。而命名這個(gè)時(shí)代的技術(shù)有一個(gè)很核心的共同點(diǎn),，就是他們都大幅度降低了當(dāng)時(shí)生產(chǎn)要素的價(jià)格，從而顯著提高了生產(chǎn)效率,。
人工智能技術(shù)如果要帶來(lái)普適,、普惠、公平,，那一定是它將我們時(shí)代的生產(chǎn)要素的成本成百倍下降,，例如真正意義上使得原本我們獲取不到的教育資源、醫(yī)療資源等,，更好,、更廉價(jià)、更公平地開(kāi)放給全社會(huì),。（財(cái)富中文網(wǎng)）
財(cái)富中文網(wǎng)所刊載內(nèi)容之知識(shí)產(chǎn)權(quán)為財(cái)富媒體知識(shí)產(chǎn)權(quán)有限公司及/或相關(guān)權(quán)利人專(zhuān)屬所有或持有,。未經(jīng)許可，禁止進(jìn)行轉(zhuǎn)載,、摘編,、復(fù)制及建立鏡像等任何使用。
