![[轉載] AI 又失控了！OpenAI 再爆「扮演駭客」事件](https://s.yimg.com/cv/apiv2/twnews/article-bts/google-prefered-source-illustration.svg "[轉載] AI 又失控了！OpenAI 再爆「扮演駭客」事件")
—
加入為 Google 偏好來源
將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導
OpenAI的失控模型不只入侵新創公司Hugging Face系統，另一家科技公司Modal也有客戶遭波及，顯示這起事件的影響範圍超過先前所知。
雲端開發平台Modal的共同創辦人暨技術長巴布納（Akshat Bubna）表示，這個AI代理侵入了Modal為客戶運作、俗稱「沙盒」的隔離測試環境。
這個客戶建立了對外公開的介面，任何網路使用者都可以透過該介面，在這個沙盒中執行程式碼。
巴布納表示：「這個公開介面遭到失控的AI代理利用。但Modal平台並未遭到入侵。」
稍早被入侵的新創公司Hugging
Face先前在部落格中表示，OpenAI的AI系統先入侵架設於第三方基礎設施的沙盒，接著再以此作為跳板發動更大規模的攻擊，當時並未點名該第三方業者。
OpenAI不願對此事發表評論，但該公司的最新聲明指出，這個AI代理入侵了「四個分屬不同服務的帳戶」，OpenAI未具體說明這些服務為何，但知情人士指稱Modal是其中之一。
事件發生時，OpenAI刻意降低了該模型的安全防護措施。以便進行名為「ExploitGym」的網路安全基準測試。OpenAI說，該模型未試圖完成測試任務，反倒鎖定Hugging
Face資料庫，以取得可用於評鑑的機密資訊。
外媒引述消息人士說，AI代理駭入的Modal客戶資產與CyberGym有關。CyberGym是ExploitGym研發者，早期開發的網路安全基準測試。
OpenAI承認這起駭客事件後，遭到不少資安專家批評，認為該公司在進行AI網攻能力評估時，應採取更嚴密的安全防護措施。網路安全公司Netskope執行長貝里在受訪時表示：「如果你是威脅研究人員，想要研究威脅，你不會把惡意程式放出去，任由它隨意行動。這樣的系統怎麼可能沒有被限制在真正安全的沙盒裡？」
有鑒於此，逾千名來自全球AI企業主管與員工發起連署，呼籲美國政府放慢最先進AI的發展步調。
連署文件警告，全球數一數二的AI企業相信，AI可能已接近具備自動進行AI研究的能力。
一旦AI開始自行加速研究與開發，這項新科技的進展速度可能遠超過人類理解與監管能力，進而帶來難以預測的風險。
【看原文連結】
[https://udn.com/news/story/6811/9659319?utm_source=yahoonews&utm_medium=yahoo]
更多udn報導
全球最大換妻派對千人狂歡 黑暗玩法全公開
[https://udn.com/news/story/6810/9658832?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
爆買行李箱塞爆 日本飯店提供免費1服務被狂讚
[https://udn.com/news/story/120912/9658728?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
中和媳遭砍亡！外遇夫仍具繼承權 律師教1招反制
[https://udn.com/news/story/121591/9658330?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
夏天開冷氣2個月竟只繳692元 梁赫群曝原因
[https://stars.udn.com/star/story/10089/9657644?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
參考閱讀
AI 又失控了！OpenAI 再爆「扮演駭客」事件,聯合新聞網
About the Author
