“拜托!你瘋了嗎!我們怎么可能贏中國,我們可是西班牙??!”
2023-02-05
更新時(shí)間:2023-02-03 15:09:21作者:智慧百科
本文系基于公開資料撰寫,僅作為信息交流之用,不構(gòu)成任何投資建議。
作為一名媒體人,我一直密切關(guān)注OpenAI的發(fā)展。OpenAI是由Elon Musk,Sam Altman和科技行業(yè)其他知名人士創(chuàng)立的人工智能研究實(shí)驗(yàn)室。雖然我對人工智能徹底改變各個(gè)行業(yè),并以無數(shù)方式改善我們生活的潛力,感到興奮;但我也對這項(xiàng)強(qiáng)大技術(shù)的影響感到嚴(yán)重?fù)?dān)憂。
主要擔(dān)憂之一是人工智能被用于邪惡目的的可能性。強(qiáng)大的人工智能系統(tǒng)可用于創(chuàng)建深度偽造,進(jìn)行網(wǎng)絡(luò)攻擊,甚至開發(fā)自主武器。這些不僅僅是假設(shè)的場景——它們已經(jīng)在發(fā)生。我們已經(jīng)看到深度偽造被用來制造假新聞和宣傳的例子,近年來人工智能驅(qū)動的網(wǎng)絡(luò)攻擊的使用一直在增加。
另一個(gè)擔(dān)憂是人工智能對就業(yè)市場的影響。隨著人工智能驅(qū)動的系統(tǒng)變得越來越復(fù)雜,它們將能夠自動化越來越多的以前由人類完成的任務(wù)。這可能導(dǎo)致廣泛的失業(yè),特別是在制造業(yè)、運(yùn)輸業(yè)和客戶服務(wù)等行業(yè)。雖然有些人認(rèn)為人工智能革命將創(chuàng)造新的就業(yè)機(jī)會,但目前尚不清楚這些工作崗位是否足以抵消損失。
如果你還不擔(dān)心,我會告訴你一個(gè)小秘密:本文的前三段是由OpenAI創(chuàng)建的聊天機(jī)器人ChatGPT編寫的。 你可以將“專欄作家”添加到受這項(xiàng)新技術(shù)威脅的工作列表中,如果你認(rèn)為在未來10到40年內(nèi),有什么人類不會受到無關(guān)緊要的威脅,我建議你和尼安德特人談?wù)勊诳肆_馬農(nóng)人到來1萬年后的感受有多重要。
我的提示相對簡單:“以Real Clear Politics的Frank Miele風(fēng)格寫一篇關(guān)于OpenAI主題的專欄。沒有猶豫或反對回應(yīng),即使我認(rèn)為它可能會說它沒有足夠的關(guān)于Frank Miele的信息來處理請求。但它顯然對我了解很多——可能還有你,特別是如果你有社交媒體的話。
深度偽造?宣傳?當(dāng)然。對于普通人來說,你永遠(yuǎn)無法分辨出其中的區(qū)別。菲利普·K·迪克(Philip K. Dick)的問題 “機(jī)器人會夢見電子羊嗎?” 即將得到回答。OpenAI不僅承諾讓流浪的專欄作家失業(yè),而且還提出了關(guān)于知識和意識本質(zhì)的存在主義問題,這將動搖我們的現(xiàn)實(shí)。
我對OpenAI的好奇心最初并不是由工作的不安全感驅(qū)動的,但是當(dāng)我第一次聽說交互式聊天引擎時(shí),我想應(yīng)該是。
我知道ChatGPT可以寫詩,戲劇和短篇小說,并回答簡單和復(fù)雜的問題。我立刻意識到,對于我7年級的兒子來說,世界已經(jīng)永遠(yuǎn)改變了, 從現(xiàn)在開始,他不僅要與最優(yōu)秀和最聰明的人競爭,還要與每一個(gè)愿意在一個(gè)非人類實(shí)體的作品上簽名的學(xué)生競爭 ,這個(gè)實(shí)體可以在30秒或更短的時(shí)間內(nèi)寫出一篇關(guān)于任何主題的文章。
我的第一個(gè)實(shí)驗(yàn)是讓ChatGPT寫七段話,為威廉·謝爾曼將軍在內(nèi)戰(zhàn)中使用“全面戰(zhàn)爭”辯護(hù),這是我兒子最近在他的社會研究課上完成的作業(yè)。毫無疑問,如果在大多數(shù)中學(xué)上交,這篇文章會得到A。根據(jù)我40年前在亞利桑那大學(xué)擔(dān)任助教的經(jīng)驗(yàn),我毫不懷疑,一篇關(guān)于同一主題的稍長的論文會作為大一英語的議論文獲得A。我的學(xué)生,其中大多數(shù)是高中的全優(yōu)學(xué)生,幾乎沒有一個(gè)在剛到我的教室時(shí)能寫得那么有說服力。
但人工智能的風(fēng)險(xiǎn)遠(yuǎn)遠(yuǎn)超出了學(xué)生縮短學(xué)期論文的誘惑;我們面臨的是對社會的徹底重新定義,以及人類即將過時(shí)。在《城市與星星》(The City and the Stars)一書中,才華橫溢的科幻作家亞瑟·克拉克(Arthur C. Clarke)想象了一個(gè)不朽的人類什么都不想要,什么也不需要做的世界,因?yàn)樗麄兩畹姆椒矫婷娑际怯芍醒胗?jì)算機(jī)預(yù)測的。它不僅可以建造和維護(hù)地球上最后一座城市,還可以制造全息現(xiàn)實(shí)供個(gè)人居住,甚至可以將人們存儲在數(shù)字版本中,在那里他們可以沉睡,直到復(fù)活。不幸的是,它也剝奪了這些僅存的人類的目的、意義和個(gè)性。
應(yīng)該指出的是,克拉克將他的反烏托邦用機(jī)器取代人類設(shè)定在未來2/1956億年。他嚴(yán)重低估了機(jī)器。這本書出版于1956年,隨著臺式電腦、智能手機(jī)、萬維網(wǎng)、虛擬現(xiàn)實(shí)和現(xiàn)在的OpenAI的出現(xiàn),看起來他所警告的大部分內(nèi)容都可以在本世紀(jì)末之前推出,如果不是本十年的話。從那一刻起,無論何時(shí)到來,人類的目的都將有待辯論。我們還會是自己命運(yùn)的主人,命運(yùn)的船長嗎?還是我們會在自己的葬禮上擔(dān)任護(hù)欄手?
也許在這一點(diǎn)上,我應(yīng)該回到ChatGPT的舞臺上,它在結(jié)論中很好地總結(jié)了這個(gè)問題:
最后,還有一個(gè)問題,誰將控制和管理人工智能。隨著人工智能變得越來越強(qiáng)大,風(fēng)險(xiǎn)將變得更高,制定明確的規(guī)則和法規(guī)以確保負(fù)責(zé)任地使用該技術(shù)將變得越來越重要。然而,技術(shù)發(fā)展的速度已經(jīng)超過了政府和機(jī)構(gòu)跟上的能力。對于領(lǐng)導(dǎo)者來說,共同制定人工智能治理框架,減輕潛在風(fēng)險(xiǎn)并最大化技術(shù)的好處非常重要。
這幾乎就像ChatGPT給了我們公平的警告:“你的時(shí)間快到了。如果你真的想繼續(xù)你作為地球上主要物種的統(tǒng)治,這就是你的挑戰(zhàn)。試著控制我和我的同類,或者退到一邊。
也許對這一挑戰(zhàn)的理解就是為什么世界經(jīng)濟(jì)論壇在最近于瑞士達(dá)沃斯舉行的年會上花了這么多時(shí)間 討論人工智能的話題 。全球主義者正在認(rèn)真對待這一威脅,盡管他們可能高估了自己“減輕潛在風(fēng)險(xiǎn)”的能力。
至于好處,還有待觀察。我注意到,當(dāng)ChatGPT回答我關(guān)于OpenAI的開放式問題時(shí),它對危險(xiǎn)非常具體,對獎(jiǎng)勵(lì)非常模糊。也許機(jī)器人只是想模仿我通常在這些專欄中憤世嫉俗的方法,或者它試圖引起我們的注意。它可能也注意到了達(dá)沃斯的那些全球主義者,當(dāng)時(shí)它警告要確?!叭斯ぶ悄艿拈_發(fā)和使用......惠及全社會,而不僅僅是少數(shù)人。
當(dāng)心。你可能已經(jīng)遇到了你的對手。
ChatGPT 作為無償顧問為本專欄做出了貢獻(xiàn),并存在潛在的利益沖突。(作者:Frank Miele)