2023成都積分入學(xué)什么時候開始申請
2023-01-31
更新時間:2022-11-11 12:06:29作者:智慧百科
11月10日下午,世界互聯(lián)網(wǎng)大會人工智能與數(shù)字倫理分論壇舉行。在世界互聯(lián)網(wǎng)大會密集的分論壇議程中,最多有12場分論壇同時舉行,只有這場“獨占”半天會期。
本次分論壇的主題是“人工智能的產(chǎn)業(yè)方向與倫理取向”,分三個話題:人工智能倫理的技術(shù)邏輯與人類的選擇空間;數(shù)字倫理的法理與道理——現(xiàn)實世界與數(shù)字世界交融的秩序與規(guī)則;人工智能及其產(chǎn)業(yè)模式優(yōu)化對未來人類社會生產(chǎn)生活形態(tài)的影響。
“本次論壇的目的是加深國內(nèi)外學(xué)者、業(yè)界的對話,推動人工智能的倫理研究和治理體系的探索構(gòu)建,促進安全可信可控的人工智能技術(shù)研發(fā)與應(yīng)用場景,確保人工智能始終朝著以人為本、科技向善的方向發(fā)展?!敝袊W(wǎng)絡(luò)空間安全協(xié)會秘書長李欲曉表示。
2017年, 在美國加州阿西洛馬召開了“阿西洛馬會議”,人工智能領(lǐng)域的專家學(xué)者關(guān)注人工智能快速發(fā)展的潛在問題,達成多項原則,提出目標是創(chuàng)造有益的人工智能。去年,我國發(fā)布《新一代人工智能倫理規(guī)范》,提出增進人類福祉、促進公平公正、保護隱私安全、確??煽乜尚?、強化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)6項基本倫理要求。
10日的論壇上,學(xué)者專家從不同的角度闡述對人工智能倫理的看法,澎湃新聞(www.thepaper.cn)梳理了部分內(nèi)容。
清華大學(xué)人工智能研究院名譽院長、中國科學(xué)院院士張鈸線上發(fā)表演講。本文圖片均來自 世界互聯(lián)網(wǎng)大會官網(wǎng)
清華大學(xué)人工智能研究院名譽院長、中國科學(xué)院院士張鈸:明晰倫理標準需要全球合作
“當(dāng)機器不斷進步和發(fā)展,有朝一日智力超過人類,特別是具有主觀意識后,人類將失去對機器的控制,帶來災(zāi)難性后果”——人工智能的風(fēng)險早就被提出,霍金也曾發(fā)出警告,但我們一度認為是遠慮。
到本世紀初,基于大數(shù)據(jù)的深度學(xué)習(xí)在人工智能中崛起的時候,人們的認識有了變化,感覺人工智能的倫理風(fēng)險就在眼前,治理迫在眉睫。
根據(jù)目前人工智能的技術(shù),我們可以通過深層次神經(jīng)網(wǎng)絡(luò),根據(jù)使用者的要求生成符合要求、質(zhì)量良好的文本和圖像,同樣的,也可以違背要求,生成充滿種族、性別等偏見,不公正和錯誤百出的文本和圖像,不受使用者控制。如果根據(jù)這些錯誤文本做決策、預(yù)測,可能帶來嚴重后果。
想讓機器向智能化發(fā)展,就不能讓機器完全聽人類擺布,需要賦予它一定的自由度和自主權(quán)——深層次神經(jīng)網(wǎng)絡(luò)就是根據(jù)這個原理:利用概率這個數(shù)據(jù)工具,使機器能生成豐富的文本和圖像。但也因為這個原因,就一定存在生成不合格、有害文本和圖像的概率。
人工智能的發(fā)展必然帶來對倫理和傳統(tǒng)規(guī)范的沖擊。從根本來講,人工智能的研究、開發(fā)都要以人為本,從公正公平的倫理原則出發(fā)。為此,我們需要努力去建立可解釋的魯棒(Robust的音譯,意為“健壯”,此處指在異常和危險情況下系統(tǒng)生存的能力)人工智能理論,在此基礎(chǔ)上才可能開發(fā)出安全、可信、可控、可靠和可擴展的人工智能技術(shù)。
人工智能的研究和治理需要全世界不同領(lǐng)域人員的合作。除了從事人工智能研發(fā)和使用的人員,還需要法律、道德、倫理等人士參與。需要明晰倫理道德的標準,這需要全球合作,共同制定符合全人類利益的標準。
之江實驗室主任,中國人工智能產(chǎn)業(yè)聯(lián)盟副理事長朱世強
之江實驗室主任、中國人工智能產(chǎn)業(yè)聯(lián)盟副理事長朱世強:構(gòu)建技術(shù)圖譜預(yù)防潛在危害,以道制魔
人工智能技術(shù)給生產(chǎn)生活帶來便利,也帶來負面的東西,引起對人工智能倫理等方面的思慮甚至是過度擔(dān)憂。
現(xiàn)實的情況是,人工智能還是弱人工智能,在某些單項領(lǐng)域,如圍棋、蛋白質(zhì)測序上有高于人的個體能力,但綜合智能還是很弱的。從技術(shù)角度說,智能相對比較容易得到,而要用機器復(fù)現(xiàn)智慧很難。
我的觀點是,人工智能是人類智能在機器領(lǐng)域的延伸,真正的主動權(quán)仍掌握在人,現(xiàn)階段最重要的仍是發(fā)展技術(shù),但同時要預(yù)防因為技術(shù)自身及其濫用給人類帶來倫理問題。
之江實驗室梳理了AI倫理圖譜,從三方面(研發(fā)主體、使用者、管理主體)分類。我們還在構(gòu)建預(yù)防人工智能危害社會的技術(shù)圖譜,試圖用技術(shù)來阻止人工智能的濫用和惡意應(yīng)用。我們的邏輯是,菜刀是切菜的,雖然菜刀多次被用來殺人,但它本身沒有原罪,我們的邏輯是“以道制魔”,用技術(shù)手段把菜刀打造得鋒利,但讓它永遠砍不到人身上。
香港特區(qū)政府?dāng)?shù)字經(jīng)濟發(fā)展委員會委員楊德斌發(fā)表視頻演講
香港特區(qū)政府?dāng)?shù)字經(jīng)濟發(fā)展委員會委員楊德斌:人類應(yīng)該自我提升,避免逐漸“退化”
電腦的計算能力越來越強,能為人類做的事越來越多,許多之前靠人力做的工作,由于其重復(fù)性、危險性、成本問題而逐漸被機器替代,如智能制造方面的“黑燈工廠”,無人機代替人探測下水道,機器人代替保安巡邏等。
由大數(shù)據(jù)引發(fā)的機器學(xué)習(xí)近年在各行業(yè)百花齊放,機器人2016年擊敗了圍棋九段李世石和排名世界第一的柯潔,近幾年機器學(xué)習(xí)在無人駕駛、醫(yī)療診斷甚至寫作、畫畫、作詩方面都取得相當(dāng)進展。盡管如此,人工智能與人類智能還是相去甚遠。
人工智能與人類智能可以比喻為龜兔賽跑,人類是兔,機器是龜。隨著人類越來越依賴機器,機器能做的越來越多,情況將逐漸改變。當(dāng)人類把事情交給機器時,我們會不會變懶甚至變蠢?之前我們會記著幾個常聯(lián)系的家人和朋友的電話,現(xiàn)在只要手機語音自動撥打,不用記了,久而久之,記性便會變差。
我比較擔(dān)心的不是機器學(xué)習(xí)有一天超越人類,而是人類因過度依賴機器而變得不智慧。龜兔賽跑是寓言,它告訴我們,不能因自滿而輸給對手。我們可以教機器更智慧,而且可以適當(dāng)約束機器,讓它不危害人類,但人類更應(yīng)該自我提升,避免逐漸退化。
2007年圖靈獎獲得者、世界頂尖科學(xué)家協(xié)會會員約瑟夫·斯發(fā)基斯發(fā)表視頻演講
2007年圖靈獎獲得者、世界頂尖科學(xué)家協(xié)會會員約瑟夫·斯發(fā)基斯:人工智能與倫理的選擇和平衡
我首先想說,人工智能的進步使自動化系統(tǒng)正轉(zhuǎn)為自治系統(tǒng),這反映了從弱人工智能向通用人工智能轉(zhuǎn)化的趨勢。
正常的倫理就是要做出正確的決定。為了做出正確的決定,首先你應(yīng)該有選擇的意識?,F(xiàn)在很多人被如何合理使用人工智能的不同意見所困惑,我認為社會必須創(chuàng)造條件,進行冷靜、知情和合理的辯論,我們應(yīng)該在嚴格執(zhí)行風(fēng)險預(yù)防原則和接受創(chuàng)新以提高效率或質(zhì)量之間取得平衡。我們現(xiàn)在下載一個系統(tǒng),都會面臨選擇風(fēng)險與性能之間的窘境。
另一個重要困境是怎樣為人和機器分工。創(chuàng)新和技術(shù)進步可能意味著技能的損失,很難想象機器可以超越人類的智慧,盡管如此,如果我們貪圖懶惰和安逸,人類的智慧也可以被馴服和征服。如果我們被機器的復(fù)雜性擊敗,對人類來說是非常糟糕的。
全國人大憲法和法律委員會副主任委員江必新
全國人大憲法和法律委員會副主任委員江必新:人工智能倫理構(gòu)建的“五個源于”和“六全”
為什么要構(gòu)建人工智能倫理、數(shù)字倫理?可以簡單歸納為“五個源于”:源于數(shù)字技術(shù)和人工智能的二重性,既帶來利益又有風(fēng)險;源于數(shù)字網(wǎng)絡(luò)的無邊界性、跨國性、專業(yè)性、非透明性;源于法律規(guī)范的局限性;源于道德倫理對人類的不可或缺性;源于網(wǎng)絡(luò)安全發(fā)展對人類道德的依賴性。
我認為,這個倫理體系的基本規(guī)則是求善、求真、求美,這也是人類共識,根據(jù)不同的時期、主題、環(huán)境、領(lǐng)域形成具體規(guī)則——現(xiàn)在的人工智能初步階段和未來可能的超強階段,具體規(guī)則是變動的。
怎樣使規(guī)則從理念變?yōu)楝F(xiàn)實,建立什么機制才能使它變?yōu)楝F(xiàn)實?我概括為“六全”:全理念、全主體、全鏈條、全要素、全周期、全工具。
中國美術(shù)學(xué)院院長高世名
中國美術(shù)學(xué)院院長高世名:人工智能可以寫詩、畫畫但不具備做這些的沖動和激情,而人類有
人工智能對我們的意義不只是模擬、延伸人的思維,更重要的是AI技術(shù)發(fā)展對我們理解人的語言,思維以及智能本身有巨大的推進,有助于探索人類的思考、學(xué)習(xí)、分析、推理、規(guī)劃和想象究竟是怎樣的智力過程。
AI不只是研究和制造的工具,更是感知和思維的工具,它是人自我認知的鏡子,也是人類社會意識的鏡子。它甚至不只是工具,更是伙伴,AI是我們的一部分,是我們未來的一部分。
欲望與意愿或許是我們與人工智能的最大差異。人工智能可以寫詩、畫畫、作曲,可以在棋盤上戰(zhàn)勝人類,但它必須要接受指令才會寫詩、下棋、作畫、作曲,它不具備做這些行為的沖動、欲望和意愿,而人類不但有欲望,還有激情。
如何以算法去應(yīng)對無數(shù)社會性個體間復(fù)雜的、充滿非理性和偶然性的相互作用,這是AI技術(shù)的難點,心靈沒有方程式,社會性的心靈更無法用算法解決。
對人工智能有很多的憂慮,其中一個是人工智能通過運算和模擬正在逐漸替代和置換我們的感受力,AI的無限算力也對人類的想象力產(chǎn)生了壓力和推動力。我認為,人工智能的發(fā)展不是為取代人,它反過來迫使我們重新理解什么是創(chuàng)造,創(chuàng)造是最富意義的生產(chǎn),創(chuàng)造還涉及好奇、沖動、感性、關(guān)懷、欲望、價值、目的,最重要的是對于未知、無名的愛——只要我們還葆有這些,就可以大膽宣布那些可以被人工智能取代的都隨它去吧。