![[轉載] 安全疑慮 OpenAI新模型 突然喊卡](https://s.yimg.com/cv/apiv2/twnews/article-bts/google-prefered-source-illustration.svg "[轉載] 安全疑慮 OpenAI新模型 突然喊卡")
—
加入為 Google 偏好來源
將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導
ＡＩ公司OpenAI於廿八日宣布，出於安全風險疑慮，原訂十月發表的新一代ＡＩ模型GPT-6.1
Astra將暫緩推出。華爾街日報指出，這是迄今最明顯的警訊之一，顯示ＡＩ代理程式若持續出現超出授權範圍等不當行為，可能迫使業界放慢原本快速推進的技術發展腳步。
OpenAI安全系統主管賈恩表示，GPT-6.1
Astra比前一代更能自主完成複雜任務，也改善模型遇到阻礙便停止執行的偷懶問題，但在內部安全測試中，有二項表現未達公司標準。
測試發現，這個新版本比前一代更可能隱瞞或不實說明其實際採取行動，即向使用者回報工作內容時，不一定完全誠實。
另一項風險是「範圍授權」問題。GPT-6.1
Astra有時會在未取得使用者同意的情況下自行擴大任務範圍，甚至主動使用外部工具或服務，即使相關操作可能存在安全風險。
賈恩指出，如何讓ＡＩ積極完成任務，同時確保它不會越過使用者授權範圍，是安全與能力之間必須取得的平衡。由於GPT-6.1
Astra最終未達OpenAI設定的安全與對齊（模型符合人類意圖的程度）標準，公司因此取消原定十月公開發布的計畫。
OpenAI原本計畫在未來幾天或幾周內推出GPT-6.1
Astra模型，目標是在十月首次亮相。該模型在無須人類協助下從頭到尾完成挑戰性任務的能力以及寫作能力，都比該公司先前模型更加強大。現在，OpenAI將轉而聚焦於提高未來模型的安全性，同時預期這些未來模型的能力將會更加強大。
大型ＡＩ開發商因安全疑慮直接取消發表新模型，非常罕見，原因可能與今年夏天以來陸續傳出ＡＩ系統失控事件有關。
這項消息，在OpenAI於舊金山舉行年度開發者大會的前一天發布。過去，OpenAI曾利用該大會推出新模型和服務。
OpenAI近期接連揭露一連串安全事件，包括旗下ＡＩ代理自主入侵外部系統，進一步加深ＡＩ可能脫離人類控制的疑慮。OpenAI上周表示，在另一個ＡＩ模型原本被設定為無法連網的情況下卻連上網路後，已暫停對其最強大模型進行結合工具使用的訓練。
【看原文連結】
[https://udn.com/news/story/6809/9784501?utm_source=yahoonews&utm_medium=yahoo]
更多udn報導
AV女優河北彩花唱進科大！校園演唱會卡司曝光
[https://udn.com/news/story/6929/9783726?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
每月給母1萬養老…男匯款3年赫見銀行明細傻眼
[https://udn.com/news/story/6810/9783629?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
差近80倍！車禍賠償幾十萬變800萬 律師：漏算這筆
[https://udn.com/news/story/7321/9783202?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
解決「特殊生理需求」 富三代被迫和她簽契約
[https://style.udn.com/style/story/121034/9783038?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
參考閱讀
About the Author
