化工儀器網(wǎng)手機(jī)版
移動(dòng)端訪問更便捷
今日焦點(diǎn) Today's Focus
查看更多+-
超64萬億元！多地公布2025年重大項(xiàng)目投資計(jì)劃
多地公布2025年重大項(xiàng)目投資計(jì)劃，涵蓋制造業(yè)、[詳細(xì)]
OpenAI開發(fā)反作弊工具 效用如何引發(fā)質(zhì)疑
2024年08月07日 10:16:33
來源：化工儀器網(wǎng) 點(diǎn)擊量：4295
《華爾街日報(bào)》消息顯示，反作弊項(xiàng)目在OpenAI內(nèi)部爭論了大約兩年，準(zhǔn)備發(fā)布的時(shí)間就有大約為一年。
【化工儀器網(wǎng) 時(shí)事熱點(diǎn)】《華爾街日報(bào)》消息顯示，反作弊項(xiàng)目在OpenAI內(nèi)部爭論了大約兩年，準(zhǔn)備發(fā)布的時(shí)間就有大約為一年。 OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)和首席技術(shù)官米拉·穆拉蒂(Mira Murati)都參與了反作弊工具的討論。知情人士說，奧特曼鼓勵(lì)這個(gè)項(xiàng)目，但沒有推動(dòng)發(fā)布。
OpenAI內(nèi)部在透明度承諾和留住用戶之間搖擺不定，它對ChatGPT用戶開展的一項(xiàng)調(diào)查發(fā)現(xiàn)，近1/3的用戶會(huì)因?yàn)榉醋鞅准夹g(shù)而關(guān)閉服務(wù)，這些受訪者表示，如果ChatGPT使用反作弊技術(shù)而競爭對手沒有，他們會(huì)減少使用ChatGPT。
ChatGPT可以預(yù)測句子中接下來會(huì)出現(xiàn)的token，OpenAI的反作弊工具將略微改變token的選擇方式，這些變化會(huì)留下水印。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術(shù)發(fā)現(xiàn)。根據(jù)內(nèi)部文件，當(dāng)ChatGPT創(chuàng)建足夠多的新文本時(shí)，水印的有效性為99.9%。
首先，從技術(shù)角度來看，OpenAI的反作弊工具利用了一種類似“水印”的方法，在文本中嵌入不可見的標(biāo)記。這些水印對人眼來說是不明顯的，但可以被OpenAI的檢測技術(shù)發(fā)現(xiàn)。據(jù)稱，當(dāng)ChatGPT創(chuàng)建足夠多的新文本時(shí)，水印的有效性高達(dá)99.9%，且不會(huì)影響ChatGPT的性能。然而，內(nèi)部員工擔(dān)心這些水印可能通過簡單的技術(shù)被刪除，比如將文本翻譯成另一種語言再轉(zhuǎn)換回來，或者在文本中添加表情符號后手動(dòng)刪除。此外，如何決定誰可以使用這種檢測器也是一個(gè)挑戰(zhàn)。
其次，從用戶角度來看，OpenAI對ChatGPT用戶進(jìn)行了多次調(diào)查，發(fā)現(xiàn)近三分之一的用戶表示，如果ChatGPT使用反作弊技術(shù)，他們會(huì)減少使用ChatGPT。這些用戶擔(dān)心，如果ChatGPT使用反作弊技術(shù)而競爭對手沒有，他們可能會(huì)轉(zhuǎn)向其他工具。此外，該工具還可能對非英語母語的用戶產(chǎn)生不成比例的影響，這進(jìn)一步增加了OpenAI在發(fā)布該工具時(shí)的顧慮。
因此，盡管OpenAI在技術(shù)上已經(jīng)取得了顯著的進(jìn)展，但在是否發(fā)布和使用這一反作弊工具上仍然存在諸多爭議和未解決的問題。目前，OpenAI尚未正式對外公開這一工具，但已有一些外部公司和研究人員正在開發(fā)類似的檢測工具，并嘗試在教育和學(xué)術(shù)領(lǐng)域中使用。
相關(guān)閱讀 Related Reading
查看更多+-
2025年度生態(tài)環(huán)境團(tuán)體標(biāo)準(zhǔn)項(xiàng)目征集來了！
近日，全國環(huán)境監(jiān)測行業(yè)協(xié)會(huì)聯(lián)席會(huì)議組委會(huì)組織開展2025年度生態(tài)環(huán)境團(tuán)體標(biāo)準(zhǔn)項(xiàng)目的征集工作，將積極推進(jìn)團(tuán)標(biāo)升級國標(biāo)工作。2025-02-22 08:00:00 -
儀器聚焦丨熱點(diǎn)重點(diǎn)大盤點(diǎn) 儀器行業(yè)本周要點(diǎn)速遞（2025年第5期）
政策方面，本周農(nóng)業(yè)農(nóng)村部近日制定印發(fā)《全國農(nóng)業(yè)科技創(chuàng)新重點(diǎn)領(lǐng)域(2024—2028年)》；八部門聯(lián)合印發(fā)《新型儲(chǔ)能制造業(yè)高質(zhì)量發(fā)展...2025-02-21 08:00:00 -
超64萬億元！多地公布2025年重大項(xiàng)目投資計(jì)劃
多地公布2025年重大項(xiàng)目投資計(jì)劃，涵蓋制造業(yè)、能源、基礎(chǔ)設(shè)施等領(lǐng)域，總投資超64萬億元。2025-02-21 15:41:19 -
云南省推出十五條新舉措 深化科技成果轉(zhuǎn)移轉(zhuǎn)化機(jī)制改革
云南省人民政府辦公廳近日印發(fā)了《促進(jìn)科技成果轉(zhuǎn)移轉(zhuǎn)化十五條措施》，推動(dòng)科技創(chuàng)新和產(chǎn)業(yè)創(chuàng)新深度融合，解決基礎(chǔ)研究到市場應(yīng)用的銜接問題...2025-02-21 13:57:52 -
2024年四川農(nóng)產(chǎn)品質(zhì)量安全例行監(jiān)測合格率為99.5%
2024年四川省級農(nóng)產(chǎn)品質(zhì)量安全例行監(jiān)測合格率為99.5%，延續(xù)總體平穩(wěn)、趨勢向好的態(tài)勢。2025-02-21 13:50:57 -
覆蓋50家重點(diǎn)高校院所 黑龍江省發(fā)布了高校院所科技成果轉(zhuǎn)化榜
2025年2月19日，黑龍江省發(fā)布科技成果轉(zhuǎn)化榜，成果轉(zhuǎn)化榜覆蓋全省50家重點(diǎn)高校院所。2025-02-21 13:50:48
版權(quán)與免責(zé)聲明
- ①凡本網(wǎng)注明“來源：化工儀器網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：化工儀器網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。
- ②本網(wǎng)轉(zhuǎn)載并注明自其他來源（非化工儀器網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個(gè)人從本網(wǎng)轉(zhuǎn)載時(shí)，必須保留本網(wǎng)注明的作品第一來源，并自負(fù)版權(quán)等法律責(zé)任。
- ③如涉及作品內(nèi)容、版權(quán)等問題，請?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。
