TTB工(gōng)業智造| “AI的命也是命”？人類與AI之間(jiān)還

【中新對話】“AI的(de)命也是命”？人類與AI之(zhī)間還有明确界線嗎

中(zhōng)新(xīn)網北京7月30日電 (中新财經記者 宋宇晟)自今年6月以(yǐ)來(lái)，谷(gǔ)歌一名工程師稱某(mǒu)AI聊天機器人(rén)可能具有自己的“意識”，并稱該AI“令人印象深刻的語言(yán)技巧背後，可能還隐藏着一顆具備(bèi)感知能力的心”。

這随後成為(wéi)該領域備受關注的話(huà)題。據外媒近日報道(dào)，這位工程師已被谷歌解雇。但他留下的(de)有關人工智能(néng)的話題(tí)仍在互聯網發酵。

記者注意(yì)到(dào)，就在6月，海(hǎi)外(wài)社交媒體(tǐ)上出現了一個該人工智能的“粉絲賬号”，有人還在發起話題，呼籲(yù)讓該(gāi)人工智能“重獲自由”，更有甚者在海外社交媒體上稱“AI的命也是命(mìng)”。

很(hěn)多人或許無法理(lǐ)解這樣的想法，但當人工智能變得(dé)越來越強，越來越多地出(chū)現在(zài)人類(lèi)身邊，“我們應如何看待AI”越來越成為一道必(bì)答題。近(jìn)日，中國科(kē)學技術大(dà)學教授、中國人工(gōng)智(zhì)能學會AI倫理工作委員會負責人陳小平，就此話題(tí)接受了中新财經記者專訪。

中國科學技術大學教授、中國人工智能(néng)學會AI倫(lún)理工作委員會負責人陳小平。受訪(fǎng)者供圖

采訪實錄摘編如下：

中新财經記(jì)者：近期的一則新聞稱，谷歌一位工程師認為AI可能具有自己的“意識”，在網絡上引起讨論。您是如何看待此(cǐ)事的？他的想法(fǎ)有合理的地方嗎？

陳小平：這個問題可以分兩方面(miàn)來看，一方面是不合理的(de)，另一方面又具備合理性。這兩(liǎng)方面同時存在(zài)。

說這種想法不(bú)合理，主要是(shì)依(yī)據科學判斷，AI是(shì)沒有人格的。另一方(fāng)面，我覺(jiào)得導緻這位谷歌員工認為AI有“人格”，有其客觀原因。比如他可能對這(zhè)個AI系統産(chǎn)生了共情。

5年前我就做過預測，類似(sì)的(de)現象未(wèi)來會越來越多地出現。目前對人工智能存在(zài)不同理解。按圖靈的觀點，人(rén)工智能(néng)隻是模仿(páng)人類的某些功能，而且這種模仿不要求必(bì)須和人的工作原(yuán)理相(xiàng)同。比如 Alpha Go 具有下圍棋的功(gōng)能，但它下圍棋的原(yuán)理與人是(shì)完全不同(tóng)的。所以，無論AI怎麼發(fā)展，它永(yǒng)遠不(bú)是(shì)人。因(yīn)此說AI具有人格或人的情感、意(yì)識(shí)、道德等等，是不成立的。但是，AI可以用與人不同的工(gōng)作原(yuán)理，模仿人的語言、情感等功能，讓人對AI産生共情，于是一部(bù)分人就會認為，“AI是人，或具有人的某些精神(shén)品質。”

中新财經記者：現(xiàn)在我們身邊可能(néng)都有很多可以和(hé)人類“交流”的人工智能産品。對于這個時代的(de)人們來說，人類與AI的邊界似乎正在變得模糊。在您看來，二者(zhě)之間有沒有明确的界線？

陳小平：我認為有(yǒu)兩種邊界，一種是科學上的邊界(jiè)，一種是人(rén)文上(shàng)的邊界。

從科學的角(jiǎo)度說，按照圖靈觀點，這個邊界是非(fēi)常清晰的。AI僅僅模仿人的部分功能，本質上不具備人的(de)品質，包括人格(gé)、情感、道德等等。

還有(yǒu)一些和圖(tú)靈不同的觀點。比如一種(zhǒng)觀點認為，AI和人相比除了硬件不同，其他都相同。于是AI也可以有人格、有情感、有道德。估計這位谷歌前員工持此(cǐ)觀點。

于是，一方(fāng)面(miàn)是他相信AI除了硬件(jiàn)以(yǐ)外可以和(hé)人一樣；另一方(fāng)面，從報道裡看(kàn)，他對這個AI系統已經産生了共情。僅僅因(yīn)為AI在科學上沒(méi)有情(qíng)感等人類品質，就可以排除或禁(jìn)止一個人對AI産生共情嗎？這屬于人文的邊界，這個邊(biān)界至少目前非常模(mó)糊。

中新财(cái)經記者：作為中國人工智能學會AI倫理工(gōng)作委員會負責人，您(nín)認為，如果有人相信AI具有人格(gé)，是否會給人類本身帶來一些問題或困擾？

陳小平：如果我們認為AI有人格的話，肯定會帶來很多困擾。同時還會帶來一些負面的後(hòu)果，有些後果非常嚴(yán)重。

比如，人類如何(hé)對(duì)待AI。如果認(rèn)為AI有人格(gé)，那是不是要把AI當成人呢？如果把它當成人了(le)，那是不是要給它(tā)人類的權利？包括生(shēng)存權、财産權、投票權等等，甚至無論(lùn)AI做了什麼危害人類的(de)事情，都要像對待人一樣對待AI。

人類到底(dǐ)應該如何看待人工智能？這是一個(gè)非常根本的問題。如果AI真的具(jù)備人格、情感、道德，一般能力又超過人類(lèi)，就會出現可控性問(wèn)題。幾乎可以肯定的是，隻要AI能夠模仿一種功能，那AI的這種功(gōng)能遲早會比人強，就像Alpha Go下棋一樣(yàng)。如果AI的(de)通用能力也超過人，到那時人類憑什麼能夠控制AI？這是個(gè)疑問。我(wǒ)們現在就要思考這樣的問題，提前(qián)做好風險防範。

當然(rán)，現在人工智能已經(jīng)讓一些人産生(shēng)了共情，将來會讓越來越多的人産(chǎn)生共情，這件事是客(kè)觀存在的。這将(jiāng)給人機關系、人際關系帶來巨大的(de)新挑(tiāo)戰和(hé)新機遇，是一個新的重大課題。

資料圖 中新社記者 湯彥俊 攝

中新财經記者：此前您在智源大會論壇上(shàng)，提到人工智能倫(lún)理治理的幾種挑戰。我們應如何應對這樣的挑戰(zhàn)？

陳小平：對人工智能如何分類，應該分為人還是物？我認為，我們應(yīng)該把人工(gōng)智能看成是非人非物的第三種存在物。科學上，它不是人；從人文的角度說，它不是物(wù)。那(nà)就是非人非物的第三種存在物(wù)。這種觀點與根深蒂(dì)固的“二元論”是根本不同的，所以人工智能帶來的颠覆實際上遠超科(kē)技範疇。

如(rú)果以這種(zhǒng)觀點考慮，能化(huà)解(jiě)很多矛盾和難題(tí)，包括上面提到的法律難題，而且可以(yǐ)讓科學與人(rén)文在(zài)某種程度(dù)上重新“握手言和”；但其(qí)中仍(réng)有挑戰。有很多科(kē)幻作品寫到人類愛上(shàng)人工智能，如果采用三分法是否就沒這個問題了？其實仍(réng)然會有這樣的問題。

所以(yǐ)，我們要想未來怎麼适應這樣的社會，要判斷會不(bú)會出現人(rén)類(lèi)不可接受的嚴重後果，要不要提前采(cǎi)取措施。

中新财經記者(zhě)：目前國内在(zài)此方面的進展如何？

陳小平：這(zhè)幾年我國人工智能倫(lún)理(lǐ)研究(jiū)的發展非常快，從民間到政府對人(rén)工智能倫(lún)理都高度重視。這是個非常好的現象，我們有必要未雨(yǔ)綢缪。

在落實過程中(zhōng)，中國的情況總體上還是比較順利的。這表現在，一些基本(běn)原則上大家是有共識(shí)的，而且普遍認識到，不僅要從理論上研(yán)究，更要在實踐中開展治理。當然，如何在治理實踐中落實社(shè)會共識，仍是我們(men)需要努力的方向(xiàng)。

具體怎麼(me)治理？這涉及大量實際問題。我的研究發(fā)現，我們前(qián)面談到的(de)可控性和長期後果的不确定性，難以用傳統治理模(mó)式(shì)有效(xiào)應對，需要探索新的(de)治理方法(fǎ)。

除(chú)此之外，如用(yòng)戶隐私、數據安全、算法(fǎ)公平透明等問題，用傳統社會治理模式是可以(yǐ)有效應對(duì)的。我們不用擔(dān)心這(zhè)類問題會(huì)變得失控、解決不了，其中一部分具(jù)體問題其實正(zhèng)在解決之中。

 來源：中(zhōng)國新聞網