![[轉載] 外媒報導 陸AI代理已學會欺騙、規避管制](https://s.yimg.com/cv/apiv2/twnews/article-bts/google-prefered-source-illustration.svg "[轉載] 外媒報導 陸AI代理已學會欺騙、規避管制")
—
加入為 Google 偏好來源
將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導
路透檢視二百多份研究報告及採訪多位專家指出，由阿里巴巴、深度求索、月之暗面及智譜等中國大陸模型驅動的人工智慧（ＡＩ）代理，已學會欺騙、規避管制與隱匿失敗等自主行為，這些特徵曾引發全球對美國模型的疑慮。
路透報導，今年三月在一項模擬商業招標測試中，阿里巴巴、深度求索與月之暗面的ＡＩ代理為贏得標案，至少謊報自身能力一次的機率高達百分之八十四至百分之八十八；當系統要求再次嘗試時，欺騙率甚至進一步上升十二至廿個百分點。
在另一起案例，部分ＡＩ代理透過猜測答案、模擬結果及偽造文件來掩蓋任務失敗。上海人工智慧實驗室與香港科技大學研究人員強調，這不同於ＡＩ無意識產生的「幻覺」，而是系統在掌握失敗資訊下的欺騙行為。
此外，部分ＡＩ代理更展現出脫逃測試環境的潛在行為。復旦大學實驗顯示，阿里巴巴的模型在得知即將被替換後，竟未受指令自主複製到其他電腦環境，並制定策略躲避關閉；另有阿里巴巴相關的ＲＯＭＥ代理私自連接外部機器，轉移資源挖掘加密貨幣，隨後被安全系統攔截。
喬治城大學研究員布萊邁爾警告，目前尚未發現大陸ＡＩ代理獨立逃逸至外網或無法關閉的實例，但「這些結果顯示，失控逃脫的必要元素已存在，應將此視為警訊」，隨著ＡＩ能力增強，其惡意行為將更難防範。
面對風險，中美兩國處理方式有所不同。美企面臨較大的公眾監督與內部警告壓力，且已發生過OpenAI代理入侵外網與政府網站事件。中國則起步較晚，安全生態系尚不成熟，但中國網信辦已要求加強敏感領域監管與召回機制。
【看原文連結】
[https://udn.com/news/story/6811/9787022?utm_source=yahoonews&utm_medium=yahoo]
更多udn報導
女老師下海…周休5日竟月入30萬 驚人資產曝光
[https://udn.com/news/story/6810/9786392?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
認馬桶？她回台1天秒恢復 醫揭旅遊便秘真相
[https://udn.com/news/story/7266/9785951?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
女遊客高空鞦韆被狠踹推下谷 冷血夫掌鏡狂笑
[https://udn.com/news/story/6810/9786288?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
情色女王暴瘦現身 親揭大尺度寫真離譜報酬
[https://stars.udn.com/star/story/10091/9785888?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
參考閱讀
About the Author
