1月11日，在騰訊主辦的第三屆“千里之行”科技向善年度論壇中，麻省理工學(xué)院物理學(xué)終身教授、未來生命研究院創(chuàng)始人馬克思·泰格馬克暢談AI技術(shù)，呼吁更加廣泛的共同體，才能實(shí)現(xiàn)真正惠及人類生活的美好愿景。

AI科技并非都“向善”

泰格馬克演講的題目是《人類的下半場(chǎng)及與科技和平相處》。他說：“美國動(dòng)畫片中著名的小黃人辛普森說過：生活中所有問題的解決方案盡在酒中，如果我們把‘酒’替代為‘人工智能’的話，仍然是成立的。我們的生命確實(shí)得益于AI，向善的科技是否能夠幫助我們?nèi)ソ鉀Q生活中的問題呢?”

他說，人工智能AI正在變得越來越強(qiáng)大，可以走路的機(jī)器人出現(xiàn)不久，就出現(xiàn)了可以做前后空翻的機(jī)器人;10年前我們沒有自動(dòng)駕駛汽車，但現(xiàn)在有了自動(dòng)駕駛、自動(dòng)回收的火箭;還有人臉識(shí)別、語音分析、簡(jiǎn)單編程，這樣的例子不勝枚舉。

除了象棋和圍棋，AI實(shí)際上在其他領(lǐng)域取得了更大的進(jìn)展，過去幾十年的一些傳統(tǒng)算法，都被機(jī)器學(xué)習(xí)進(jìn)行了替代。由于技術(shù)進(jìn)步，人工智能可以解決我們非常多的問題，甚至可以拯救人類的生命。

每年道路交通都要發(fā)生上百萬例死亡個(gè)案，這種境況可以通過AI來進(jìn)行優(yōu)化改善，AI可以大幅降低人為錯(cuò)誤。醫(yī)療系統(tǒng)當(dāng)中同樣如此，現(xiàn)在有很多數(shù)據(jù)證明，在前列腺癌、肺癌以及眼疾當(dāng)中，AI做的比人類更好，不光是軟件層面，還有硬件層面，AI可以接入云端，達(dá)成更高質(zhì)量的診斷效果。

然而，泰格馬克說，AI技術(shù)不僅能解決問題，也會(huì)帶來問題。

一個(gè)真實(shí)案例是，某金融機(jī)構(gòu)在一分鐘時(shí)間內(nèi)，因?yàn)榻灰资д`導(dǎo)致了4.4億美元憑空消失。更準(zhǔn)確地說，這是人們不夠了解、不夠懂AI導(dǎo)致的一個(gè)結(jié)果。

AI“向善”如何保證?

有的悲劇，因?yàn)椴欢瓵I而發(fā)生，而另一些傷害，則是惡意應(yīng)用AI而造成，比如說偽造與欺詐。這時(shí)，如何做才能保持AI的積極層面而杜絕它的負(fù)面效應(yīng)呢?

首先，必須要?jiǎng)澢褰缦?，把技術(shù)分成可接受和不可接受的AI應(yīng)用。界限由何而定?文化、道德、法律、國際公約，這方面基因編輯技術(shù)的案例已經(jīng)提供了很好的借鑒。

其次，人類需要將AI調(diào)整到非常好的、積極的、正面的方向。AI的管理和管控是全球性挑戰(zhàn)，因?yàn)榧夹g(shù)沒有邊界，沒有國界，各個(gè)國家也不可能自己關(guān)門作戰(zhàn)。

泰格馬克認(rèn)為，中國在這方面實(shí)際上就扮演了非常重要的角色。這不僅僅因?yàn)橹袊鴮?shí)力日益強(qiáng)大，更因?yàn)橹袊兄L(zhǎng)期思維的戰(zhàn)略部署，擁有著久遠(yuǎn)的歷史和文化積淀。要知道，中國是一個(gè)有著5000年文明的古老國家，在國外講長(zhǎng)期規(guī)劃，大家都會(huì)笑，可如果說中國去籌劃高鐵項(xiàng)目，大家就會(huì)關(guān)注長(zhǎng)期的愿景和規(guī)劃。

“這是一種智慧，這是一種全世界應(yīng)該向中國學(xué)習(xí)或從中受益的一種智慧。所以在發(fā)展AI人類命運(yùn)共同體的時(shí)候，我們必須要?jiǎng)澢褰缦?、錨定方向”。

向善愿景,需構(gòu)建人類命運(yùn)共同體

我們呼吁共同的、共享的、共有的全人類積極愿景。1975年的阿西洛馬大會(huì)出臺(tái)了阿西洛馬人工智能原則，隨著技術(shù)的發(fā)展，這些原則得到了進(jìn)一步的拓寬和演進(jìn)，很多大企業(yè)都制定了自身向善的原則。所以一項(xiàng)技術(shù)啟用前，必須劃清界限，技術(shù)到底是向善的，還是向惡的，我們希望技術(shù)帶來解藥，而不是武器。

隨著技術(shù)和科學(xué)的日益強(qiáng)大，我們發(fā)現(xiàn)只從錯(cuò)誤中學(xué)習(xí)，已經(jīng)遠(yuǎn)遠(yuǎn)不夠。在過于強(qiáng)大的技術(shù)面前，要主動(dòng)出擊，而非坐以待斃，有人說，這是危言聳聽，其實(shí)在麻省理工的字眼當(dāng)中，這叫安防工程。

如果一項(xiàng)工作，機(jī)器比人類做的更好、更便宜，我們是應(yīng)該自鳴得意，放任機(jī)器把人汰掉，還是謹(jǐn)慎樂觀，留有后手?就算最后能夠建立超級(jí)智能，這個(gè)超級(jí)智能也一定要普及、惠及所有人類，而不只是讓一小部分人受惠。

他呼吁，要真正實(shí)現(xiàn)人工智能的技術(shù)向善，與人類的和諧共存，不僅僅是技術(shù)應(yīng)用層面的問題，應(yīng)該建立更廣、更遠(yuǎn)大的目標(biāo)，劃清界限，這需要的是全球、全人類共有的一個(gè)積極愿景。