中文字幕亚洲欧美日韩在线不卡,亚洲欧美日产综合在线网性色,思思久久精品6一本打道,综合视频中文字幕

    <sub id="dxmnt"><ol id="dxmnt"></ol></sub>

      1. 有人用ChatGPT作弊和替考,OpenAI或考慮給AI內(nèi)容加水印

        更新時間:2023-01-28 18:05:10作者:智慧百科

        有人用ChatGPT作弊和替考,OpenAI或考慮給AI內(nèi)容加水印

        點擊圖片報名

        在人工智能生成的文本中,我們或許可以找到一些隱藏在字里行間的蛛絲馬跡。如果有方法可以識別出來這些痕跡,就能幫我們判斷這些文字是否是人工智能寫的。

        光憑人類的力量很難識別這些“水印”,但我們可以“用魔法打敗魔法”,讓計算機(jī)幫助我們檢測這些文本是否來自人工智能系統(tǒng)。如果把適當(dāng)?shù)姆椒ㄇ度氲酱笮驼Z言模型中,它們就可以幫助阻止這些模型已經(jīng)引起的一些問題。

        自從 OpenAI 在 2022 年 11 月推出聊天機(jī)器人 ChatGPT 以來,學(xué)生們已經(jīng)開始用它作弊,包括寫論文和替考。新聞網(wǎng)站 CNET 開始用 ChatGPT 寫文章,卻不得不因剽竊指控而更正部分內(nèi)容。如果有一套“水印”檢測系統(tǒng),那么文字內(nèi)容在發(fā)布之前就可以進(jìn)行二次審校,從而解決這些問題。

        在最新研究中,“水印”已經(jīng)被用來識別人工智能生成的文本,準(zhǔn)確率很不錯。例如,美國馬里蘭大學(xué)的研究人員使用他們構(gòu)建的一種水?。z測)算法,可以識別出由 Meta 的開源語言模型 OPT-6.7B 創(chuàng)建的文本。這項工作發(fā)表于預(yù)印本上,尚未經(jīng)過同行評審,相關(guān)代碼將在 2 月 15 日左右免費開放。

        人工智能語言模型的工作原理是每次預(yù)測和生成一個單詞。在每個單詞之后,“水印”算法將語言模型的單詞隨機(jī)劃分到“綠表”和“紅表”上,然后提示模型選擇綠表上的單詞。

        文章中綠色的詞越多,文本越有可能是由機(jī)器生成的。人類寫出來的文本往往包含更隨機(jī)的單詞組合。例如,對于單詞“美麗的(beautiful)”,水印算法會將單詞“花(flower)”分類為綠色,將“蘭花(orchid)”分類為紅色。

        參與這項研究的助理教授、馬里蘭大學(xué)的湯姆·戈爾茨坦()解釋說,使用了水印算法的人工智能模型更有可能使用“花”這個詞,而不是“蘭花”。

        ChatGPT 是一種新型大型語言模型,它生成的文本流暢到極有可能被誤認(rèn)為是人類寫出來的。與它類似的許多人工智能模型,會自信地吐出看似可信的內(nèi)容,但卻經(jīng)常包含錯誤和偏見。對于未經(jīng)訓(xùn)練的用戶來說,幾乎不可能區(qū)分一段文字是人工智能模型寫的,還是人類寫的。

        人工智能技術(shù)以驚人的速度發(fā)展,新的、更強(qiáng)大的模型會迅速使我們現(xiàn)有的合成文本檢測工具黯然失色。因此,人工智能開發(fā)者之間會不斷競爭,當(dāng)新的、性能更好的模型問世后,很多人就會去努力開發(fā)新的安全工具。

        “現(xiàn)在,我們看到的場景好像神仙打架,”馬里蘭大學(xué)的研究員約翰·基爾琴鮑爾()說,他參與了水印研究的工作。

        他希望水印工具能為人工智能檢測工作帶來優(yōu)勢。他說自己團(tuán)隊開發(fā)的工具只需要一些調(diào)整,就能應(yīng)對任何一種以預(yù)測下一個單詞為工作原理的人工智能語言模型。

        人工智能初創(chuàng)公司 Hugging Face 的政策總監(jiān)艾琳·索萊曼()說,這些發(fā)現(xiàn)很有前景也很及時。她曾在 OpenAI 擔(dān)任人工智能研究員,負(fù)責(zé)研究人工智能輸出檢測,但她沒有參與這項研究。

        說:“隨著這些模型的大規(guī)模部署,更多的人工智能社區(qū)之外的人需要依靠好的檢測方法,因為他們可能沒有經(jīng)過計算機(jī)科學(xué)培訓(xùn)。”

        然而,這種新方法也有其局限性。水印只有從一開始就被創(chuàng)建者嵌入到大型語言模型中才能有效。據(jù)傳 OpenAI 正在致力于尋找檢測人工智能生成的文本的方法包括使用水印,但他們這項研究仍然高度保密。

        該公司不方便向外界提供太多關(guān)于 ChatGPT 如何工作或訓(xùn)練的信息,更不用說應(yīng)對它了。OpenAI 也沒有立即回復(fù)我們的置評請求。

        說,目前還不清楚這項新工作將如何適用于除 Meta 之外的公司開發(fā)的模型,比如 ChatGPT。研究中用來測試水印算法的人工智能模型,也比 ChatGPT 等主流模型要小。

        因此需要進(jìn)行更多的測試,來探索人們應(yīng)對水印的不同方式,但研究人員表示攻擊者的選擇有限。說:“在去除水印之前,你必須改變一段文字中大約一半的單詞。”

        “低估高中生(的探索精神)是很危險的,所以我不會那樣做,”說,“但一般來說,普通人可能無法篡改這種水印。”

        支持:Ren

        原文:

        https://www.technologyreview.com/2023/01/27/1067338/a-watermark-for-chatbots-can-spot-text-written-by-an-ai/

        本文標(biāo)簽: openai  人工智能  馬里蘭大學(xué)  算法  ai  chatgpt