中文字幕亚洲欧美日韩在线不卡,亚洲欧美日产综合在线网性色,思思久久精品6一本打道,综合视频中文字幕

我們的愿望是和機(jī)器人成為兄弟，但是有沒有可能成為兄弟，主要在于我們跟他會不會演變?yōu)榛ハ鄠Φ年P(guān)系。

整理 | 陳睿雅

頭圖來源｜視覺中國

從阿西莫夫提出機(jī)器人三定律已經(jīng)過去70多年了。

現(xiàn)在，科技巨頭試水機(jī)器人的新聞也密集起來。比如8月里，小米發(fā)布了全尺寸人形仿生機(jī)器人“CyberOne”，別號“鐵蛋”。特斯拉宣布將在今年9月30日推出人形機(jī)器人Optimus（擎天柱）原型機(jī)（馬斯克稱其為特斯拉今年“最重要的產(chǎn)品”）。騰訊發(fā)布了一款能在梅花樁上旋轉(zhuǎn)踏步、單樁跳躍、雙輪站立的多模態(tài)四足機(jī)器人。

此外，Meta公司的聊天機(jī)器人Blender Bot 3語出驚人，稱公司為賺錢而剝削人，而扎克伯格卻滿不在乎；還打趣道，他有這么多錢，卻總穿同樣的衣服……

8月19日，在2022世界機(jī)器人大會上，三位院士縱論了《未來機(jī)器人：目標(biāo)、路徑和挑戰(zhàn)》這一宏大話題。整場對話由世界工程組織聯(lián)合會前任主席、中國電子學(xué)會副理事長龔克擔(dān)任主持，中國科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長張鈸，中國工程院院士、中科院沈陽自動化研究所機(jī)器人技術(shù)國家工程研究中心主任王天然，中國科學(xué)院院士、中國科學(xué)院自動化研究所研究員喬紅擔(dān)任對話嘉賓。

機(jī)器人的發(fā)展目標(biāo)是什么？機(jī)器人和人工智能的關(guān)系是什么？機(jī)器人有倫理道德方面的問題嗎？研究機(jī)器人的人應(yīng)該怎么做？

來源：視頻截圖

以下為對話主要內(nèi)容，有刪減：

談工作經(jīng)歷：

我們做的機(jī)器人一般是笛卡爾坐標(biāo)的，

但人就是活生生的人

張鈸：我從1978年開始在清華大學(xué)的人工智能智能控制教研組從事人工智能的研究和教學(xué)。那個時候，機(jī)器人跟人工智能還沒有完全分家。我們自然也會去做機(jī)器人的工作。

1980年到1982年，我到美國伊利諾伊香檳分校訪問，做的第一件事就跟機(jī)器人有關(guān)，是機(jī)器人運(yùn)動規(guī)劃。1984年，我在IEEE發(fā)表的第一篇文章，也是關(guān)于機(jī)器人的運(yùn)動規(guī)劃。

回國以后，1985年，我首先在清華大學(xué)建立了智能機(jī)器人實(shí)驗(yàn)室，那時候我主要從事視覺方面的工作。剛好實(shí)驗(yàn)室成立不久，國家成立了863計(jì)劃，我參加了智能機(jī)器人主題專家組，從1986年到1994年參加了三屆，主要負(fù)責(zé)人工智能方面的工作。

1991年，我們跟國防科技大及其他一些大學(xué)聯(lián)合承擔(dān)了國家任務(wù)——移動機(jī)器人的研制任務(wù)。像我們大家現(xiàn)在非常熟悉的自動駕駛車，這個工作一直延續(xù)到今天，我們還繼續(xù)在做。我主要做的工作是智能控制、視覺機(jī)器人規(guī)劃。

我只是在機(jī)器人領(lǐng)域里做了人工智能方面的工作，所以更加偏重于智能機(jī)器人。

張鈸。來源：視頻截圖

王天然：我一直在中國科學(xué)院沈陽自動化研究所工作。上世紀(jì)70年代，我在我們老所長蔣新松院士領(lǐng)導(dǎo)下，開展機(jī)器方面的工作。

我的主要工作是在工業(yè)機(jī)器人領(lǐng)域，后來我們把工業(yè)機(jī)器人控制系統(tǒng)變成產(chǎn)品、讓它產(chǎn)業(yè)化。在我們的共同努力下，我們建立了一家以工業(yè)機(jī)器人自研技術(shù)為主的企業(yè)，成為中國第一個上市的機(jī)器人公司。

中國科學(xué)院沈陽自動化研究所有機(jī)器人學(xué)國家重點(diǎn)實(shí)驗(yàn)室和機(jī)器人技術(shù)國家工程研究中心，我目前也是研究中心的主任。

王天然。來源：視頻截圖

喬紅：我自己最初是從事機(jī)器人偏機(jī)械的工作。我從西安交大畢業(yè)后就出國，2004年回國，察覺到模式識別非常熱，可以成為機(jī)器人的眼睛，所以我開始對模式識別感興趣。我們做的機(jī)器人一般是笛卡爾坐標(biāo)的。但是人就是這樣活生生的人。他們怎么能夠成為朋友？后來我又對人的神經(jīng)科學(xué)產(chǎn)生了興趣。

現(xiàn)在我是多模態(tài)人工智能系統(tǒng)實(shí)驗(yàn)室的主任，這是一間新成立的全國重點(diǎn)實(shí)驗(yàn)室。我們想把人工智能和機(jī)器人結(jié)合起來。

喬紅。來源：視頻截圖
談機(jī)器人與人工智能的分野：

機(jī)器人讓大家誤解成他是一個人，

人工智能讓大家以為人工智能是做智能的

喬紅：人工智能和機(jī)器人智能有關(guān)系，但是機(jī)器人有硬件。機(jī)器人有本體，它啟動之后本體一直在循環(huán)之中，而且行動目標(biāo)不一樣。它的本體意味著軟硬件的充分結(jié)合，所以我認(rèn)為人工智能和機(jī)器人是有交叉的。本體做不到的時候，人工智能和控制可以幫助硬件部分去實(shí)現(xiàn)目標(biāo)。

王天然：不好說將來的機(jī)器人究竟什么樣。因?yàn)橛腥艘呀?jīng)提出分布式工業(yè)機(jī)器人。誰規(guī)定機(jī)器人胳膊都得連在一起？你要能分開，那就厲害了。所以將來會五花八門。
如果今天真的有人造肌肉可以代替鋼鐵機(jī)械臂，那么過去人們搞的動力學(xué)、運(yùn)動學(xué)都要重寫了。這將會是顛覆性的。

張鈸：從現(xiàn)在的情況來看，機(jī)器人跟人工智能是完全獨(dú)立的兩個領(lǐng)域。這兩個領(lǐng)域或者學(xué)科的目標(biāo)是完全不同的。

人工智能的目標(biāo)是什么？是用機(jī)器來模仿人類的智能行為，追求的是機(jī)器的行為跟人類的行為越相似越好，追求的是所謂的similarity（相似）。

但模擬人類的智能行為只是機(jī)器人的手段之一。它的目標(biāo)是協(xié)助人類完成某種任務(wù)，這個任務(wù)原來是由人來完成的。它追求的目標(biāo)是functionality（實(shí)用）。

機(jī)器人的研究內(nèi)容大致可概括成三大方面：

第一，執(zhí)行機(jī)構(gòu)。機(jī)器人要在物理世界里去完成一定任務(wù)，它必須得有執(zhí)行機(jī)構(gòu)。執(zhí)行機(jī)構(gòu)可以是仿人、仿動物，也可以不仿。

從目前具體情況來看，很多機(jī)器人是建立在電機(jī)跟齒輪傳動結(jié)構(gòu)的基礎(chǔ)上。

人工智能不一定要做執(zhí)行機(jī)構(gòu)。

第二，能源。對移動機(jī)器人來講，要完成一定任務(wù)，高效的能源是一個關(guān)鍵問題，而人工智能不研究能源的問題。

第三是個“大口袋”問題，我們把它叫做智能控制。包括控制、人工智能、傳感器、環(huán)境感知。機(jī)器人的第三個問題才跟人工智能有些重疊，這個重疊體現(xiàn)在智能機(jī)器人的一部分工作上。

總結(jié)來講，機(jī)器人不是人，是機(jī)器。

機(jī)器人這個名字讓大家誤解成他是一個人。人工智能這個名字也不好，讓大家以為人工智能是做智能的。

但其實(shí)我們現(xiàn)在對智能的了解非常非常少，我們沒法去做智能，我們只能模仿智能的行為——智能的外部表現(xiàn)。所以請大家要注意這兩個區(qū)別。至于它的前途，我認(rèn)為會是多種多樣的。

在機(jī)器人和人工智能里也有這方面的爭論——通用的人工智能要不要弄？這件事的必要性和可能性都有可以爭論的地方。有必要去做個機(jī)器來代替人嗎？我們?nèi)诉€不夠嗎？如果我們需要人的話，我們自己多生一些人不就完了，非得造一個跟人完全一樣的人？所以我認(rèn)為必要性本身不是很大。

談機(jī)器人與人類的關(guān)系：

我們和機(jī)器人有沒有可能成為兄弟，

主要在于我們會不會演變?yōu)榛ハ鄠Φ年P(guān)系

王天然：有人說將來機(jī)器人統(tǒng)治人類了、很危險(xiǎn)了，我認(rèn)為這個東西是過于科幻。如果人造機(jī)器的話，它就不可能達(dá)到這個目標(biāo)。

現(xiàn)在還有一種說法，造出機(jī)器人就是為了取代人。我認(rèn)為，機(jī)器人可以在某些環(huán)境下代替人做艱苦的勞動，但他的目的不是要跟人爭奪同樣的崗位。

將機(jī)器人說成取代人，這是故意把人和機(jī)器的矛盾挑起來。其實(shí)不是這樣的。

人和機(jī)器到底應(yīng)該是什么關(guān)系是很重要的一件事情。將來最好的辦法是他要能替你服務(wù)，最好是伙伴關(guān)系，最好是他宛如同類。

喬紅：我們原來做了一個科技部的重點(diǎn)項(xiàng)目，這個項(xiàng)目里當(dāng)時有機(jī)器人智能發(fā)育的題目。發(fā)育這個詞，我覺得有點(diǎn)超前，但是是指南里面寫到的。我們還是期望人和機(jī)能夠更近一點(diǎn)。

我覺得咱們國家現(xiàn)在的科研確實(shí)特別的寬容。有的機(jī)器人研究是從功能倒推問題的——我需要這個功能，我要怎么辦？

還有一種研究給了我們胡思亂想的機(jī)會。例如，人有這個特點(diǎn)，它的機(jī)理是什么、能不能復(fù)制到機(jī)器上。

我們當(dāng)時是這樣定義機(jī)器人的智能發(fā)育的，發(fā)育就是指，第一它可以自主學(xué)習(xí)，第二是越來越復(fù)雜，第三是lifelong永遠(yuǎn)地學(xué)習(xí)。

這三個要求實(shí)際上挺難做到。我認(rèn)為，機(jī)器人和人之間特別大的一個區(qū)別是，人有意識、有情感、有自己目標(biāo)，但機(jī)器人沒有目標(biāo)，也沒有真實(shí)的情緒。

人有杏仁核和前額葉，導(dǎo)致人有理性和感性。這個部分要不要復(fù)制也是一個問題，目前并沒有在機(jī)器人里產(chǎn)生真正的復(fù)制。

王天然：機(jī)器人現(xiàn)在可以手把手地施教?，F(xiàn)在有人會租機(jī)器來使用。工業(yè)機(jī)器人、協(xié)作機(jī)器人現(xiàn)在仍然有一定的局限，但是它的發(fā)展目標(biāo)是將來跟人的關(guān)系像師徒關(guān)系一樣，我跟著師傅學(xué)，然后幫著師傅干活，人是師傅，它是徒弟。

還有一種像現(xiàn)在醫(yī)療上的外骨骼機(jī)器人，可以幫人解決殘疾，可以助力。但是人身上背著一個鋼鐵的東西還是相當(dāng)不舒服的，也不能很好地協(xié)調(diào)。未來最好是能實(shí)現(xiàn)，人怎么想，機(jī)器人都知道；機(jī)器人要怎么做，人也都能知道。

所以我給機(jī)器人定的發(fā)展目標(biāo)是宛如手足，將來最好是能宛如同類。

張鈸：master，slave，或者我們大家是brothers。我們的愿望是（和機(jī)器人）成為兄弟，但是有沒有可能成為兄弟，主要在于我們跟他的關(guān)系會不會演變?yōu)榛ハ鄠Φ年P(guān)系。

這是現(xiàn)在人工智能治理提出來的問題。目前我們大家越來越認(rèn)識到這個可能性是存在的。

當(dāng)初包括阿西莫夫、霍金他們提出來這個觀點(diǎn)時，認(rèn)為這個問題在機(jī)器身上，如果機(jī)器發(fā)展到有意識，它的智能超過我們，我們就失去了對它的控制。因此人類對這樣的機(jī)器人要加以限制、治理。

但隨著人工智能發(fā)展起來以后，大家發(fā)現(xiàn)這個問題不完全是這樣。

當(dāng)機(jī)器人智能很低的時候，我們就處在危險(xiǎn)的狀態(tài)了。為什么？我們處于不可控的狀態(tài)。比如說，現(xiàn)在用深度學(xué)習(xí)的方法來做一些事情，這個人工智能算法是非常危險(xiǎn)、非常不魯棒（注：是在異常和危險(xiǎn)情況下系統(tǒng)生存的能力）、沒有可靠性保障的。如果我們運(yùn)用了人工智能的算法，它必然會帶來對人類的傷害，所以它已經(jīng)變成了一個現(xiàn)實(shí)問題。

所以我們提出來的第三代人工智能，就是要解決第二代人工智能算法不安全、不可靠、不可信、不可控的問題。

今天法國科學(xué)家、Verimag實(shí)驗(yàn)室創(chuàng)辦人兼退休高級CNRS研究員、2007年圖靈獎獲得者Joseph Sifakis也講到這個問題。他最后提出來的模型，是加上端對端的學(xué)習(xí)。實(shí)際上大家一樣認(rèn)識到，純粹靠數(shù)據(jù)驅(qū)動的方法，必然是不魯棒的，必然是不可解釋的，必然是不可靠的。這個是必然性。

怎么來解決這樣問題？唯一的可能性就加上知識。Joseph Sifakis說加上模型。

第一代人工智能主要方法是知識驅(qū)動。第二代人工智能最主要的方法是數(shù)據(jù)驅(qū)動。這兩個辦法都有片面性，必須把兩個方法加起來，機(jī)器才有可能發(fā)展出來，成為可靠的、安全的、可信的人工智能，進(jìn)而發(fā)展出可信的智能機(jī)器人。

談機(jī)器人的倫理與道德：

外界關(guān)心的是機(jī)器人的倫理問題，

還是機(jī)器人設(shè)計(jì)者所掌握倫理的問題？

喬紅：倫理在機(jī)器人領(lǐng)域的確討論得比較早。

我自己的想法是，機(jī)器人成為我們主人這件事，肯定是不應(yīng)該允許的。因?yàn)闄C(jī)器人當(dāng)時的定義就是說不能傷害人類。所以我覺得建立法律還是很重要的。

對一個人的約束有兩種。高端的是說你要有道德，所以你要有文化；低端的是說你如果干這件事，你該受罰了。

對于機(jī)器人，我們把它作為一個個體，我們可以很近，但是親兄弟也要明算賬。所以應(yīng)該對它進(jìn)行道德上的約束、法律約束。概念上，你又把它框在籠子里了。我們可以很近，但是我們得算清楚。

道德的約束我覺得比較難。比如說，車往前開會撞到誰，不往前開又會撞誰，對吧？對人尚且也有難度。但是我認(rèn)為還是應(yīng)該盡量對機(jī)器人提前約束，這樣機(jī)器人發(fā)展到后面會是相對安全和健康的。

龔克：我理解自動駕駛汽車，也是行走的機(jī)器人。

我到好多實(shí)驗(yàn)室參觀他們的自動駕駛，我做過一些小嘗試，在自動駕駛汽車行駛過程中，我曾經(jīng)嘗試了一下人工踩油門、要加速去撞前面的目標(biāo)。最早三年前，有的實(shí)驗(yàn)室的自動駕駛汽車它就不動了，有的實(shí)驗(yàn)室的車就撞上去了。

這兩年我做過試驗(yàn)，幾乎所有實(shí)驗(yàn)室的車都停下了。我想，這就是把一定的倫理植入到機(jī)器人的控制里面去了，甚至能防止人類殺手開著車去撞人。

張鈸：倫理的問題，現(xiàn)在變得非常重要。大家對機(jī)器人的認(rèn)識有兩個階段，第一個階段是阿西莫夫認(rèn)為，機(jī)器人如果智能超過我們，或者有意識以后，我們?nèi)绾巫寵C(jī)器人能夠按照倫理的準(zhǔn)則來行為？

第二個階段，人類如何按照倫理的原則來設(shè)計(jì)和使用機(jī)器人？

其實(shí)這個問題非常不簡單。為什么引起全世界的關(guān)注？這里遇到三大難題，第一個難題是標(biāo)準(zhǔn)和法規(guī)的問題。什么是道德，什么是不道德？這個本身就有非常大的爭議。比如大家常常舉這個例子，剎車失靈了，前面可能撞上5個人，你如果打舵的話，就會撞上另外1個人，你究竟打不打舵？

第二個問題，對機(jī)器來講，假設(shè)道德規(guī)范有了，你不能撞人，那么他是不是一定不撞人？這就涉及到機(jī)器人的行為可控不可控。

你得給機(jī)器人一定的靈活性，他才能有創(chuàng)造性，他才能自主解決問題。（但）我們給他靈活性，給他創(chuàng)造性，給他自主性，必然要付出代價(jià)。

第三，對人類來講，我們要求每個人在設(shè)計(jì)、使用機(jī)器人的時候，都要遵守倫理的原則。（但）有的人根本不遵守。

其實(shí)每一項(xiàng)技術(shù)、每一種機(jī)器都有不可預(yù)測性。非常明顯的例子，深度學(xué)習(xí)，用模式識別來做，它的識別率提高非常多，但沒有預(yù)計(jì)到這種辦法實(shí)際上魯棒性非常差，引起很大的安全問題，是人家沒預(yù)計(jì)到的。每一個工作，即使你定了很嚴(yán)格的規(guī)律，很多東西你是預(yù)測不到的。

由于這三個困難，實(shí)際上造成人工智能或者智能機(jī)器人的治理會有非常大的困難。
王天然：我想問張老師一個問題。您認(rèn)為，外界關(guān)心的是機(jī)器人的倫理問題，還是關(guān)心設(shè)計(jì)機(jī)器人的人所掌握倫理的問題？

張鈸：實(shí)際上現(xiàn)在最主要關(guān)心兩個方面，一方面你是不是會濫用或誤用機(jī)器人，特別現(xiàn)在濫用人工智能非常嚴(yán)重，機(jī)器人將來肯定會被濫用，為什么？比如作戰(zhàn)機(jī)器人、殺人機(jī)器人就是一種濫用。

另外，你在設(shè)計(jì)的過程中間要做好評估和預(yù)測，不能隨隨便便定一個規(guī)劃。學(xué)術(shù)界更多是討論機(jī)器人的問題，因?yàn)楸容^吸引人，大家（看得）比較長遠(yuǎn)一點(diǎn)。但是在我們看起來，我們基本算工程師，我們工程師是看眼前的。

王天然：機(jī)器人的感知、推理、行為，這些都在發(fā)展，不一定都是用人工智能的技術(shù)，有可能是用其他方法。其他方法仍然也會有倫理問題。你用了人工智能技術(shù)，有可能產(chǎn)生新的倫理問題。

倫理問題是人工智能技術(shù)帶來的，還是機(jī)器人本身帶來的？我有點(diǎn)想推脫責(zé)任（笑）。

張鈸：（我認(rèn)為）主要是我們（帶來的）。

寄語年輕工作者

機(jī)器人是eater，啥技術(shù)都吃

年輕人應(yīng)具備宏觀力、執(zhí)行力和開放度

張鈸：因?yàn)檫@個是世界機(jī)器人大會，所以我認(rèn)為我們剛才談的那些問題都可以通過全世界團(tuán)結(jié)起來，共同來發(fā)展，合作創(chuàng)新，能夠讓機(jī)器人健康發(fā)展，造福全人類。治理的問題有很多難題，但是從技術(shù)上，很多人提出有三方面的工作可以來解決治理問題。一方面的工作，要研究新的分析工具，主要是形式邏輯加上倫理推理或者倫理的分析。

第二方面，在那些道德與不道德很難做出定義的地方，我們可以給出樣本。對那些沒法定義的問題，可以通過標(biāo)注數(shù)據(jù)來學(xué)習(xí)。

最后一個是模擬仿真。像無人車就是這樣，你要大量的做實(shí)驗(yàn)，讓他跑。通過實(shí)驗(yàn)、通過模擬來發(fā)現(xiàn)他的問題，逐步解決。

王天然：上世紀(jì)末，2000年以前，我們工作的重點(diǎn)都在工業(yè)機(jī)器人的精度，可靠性、控制多少軸，怎么用的好、靈巧性。相關(guān)的技術(shù)不斷支持下，機(jī)器人的前途將非常燦爛。因此有人說，現(xiàn)在是機(jī)器人發(fā)展的黃金時代，各個學(xué)科的融合又會在機(jī)器人身上充分體現(xiàn)。

我記得當(dāng)年好像有一個意大利學(xué)者就管機(jī)器人叫eater，它是啥的技術(shù)都吃。所以我想其實(shí)機(jī)器人研究需要全世界各地的人，包括我們中國青年，抓住這樣的機(jī)會，去發(fā)現(xiàn)、創(chuàng)造出新的東西來。

喬紅：我也講三個很抽象的點(diǎn)。第一句話，我覺得年輕的學(xué)者首先還是要保持宏觀力。這個宏觀力就是寬容度，社會對你的需要，他人對你的期望，不同領(lǐng)域不同的聲音，這還是需要的。如果沒有這種flexibility，你就不能夠接觸社會對你的期望、社會對你的支持。

第二個部分還是要自強(qiáng)自立，就是執(zhí)行力。怎么把這件事情一步一步的堅(jiān)定地執(zhí)行下去，需要邏輯力、執(zhí)行力和堅(jiān)定的意志。

一個是宏觀的Flexiblility，一個是強(qiáng)硬的執(zhí)行力。

第三個我覺得很重要是開放度。很多的年輕的學(xué)者本身很強(qiáng)，但是他不能夠接納其他的人進(jìn)入他的小領(lǐng)域。這個就造成了他不能夠?qū)W習(xí)和成長。所以我就送給大家這三個詞，就是宏觀力、執(zhí)行力和開放度。