![[轉載] 罕見警告 Anthropic招股書：AI恐對人帶來災難](https://s.yimg.com/cv/apiv2/twnews/article-bts/google-prefered-source-illustration.svg "[轉載] 罕見警告 Anthropic招股書：AI恐對人帶來災難")
—
加入為 Google 偏好來源
將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導
路透報導，美國人工智慧（ＡＩ）新創Anthropic
[https://tw.news.yahoo.com/tag/Anthropic]準備首次公開募股（ＩＰＯ），但在招股書中罕見警告投資人，先進ＡＩ可能對人類帶來「災難或生存風險」。
路透取得的Anthropic招股書顯示，該公司認為ＡＩ對全球經濟的重塑程度，可能超越工業化、電力及網際網路。不過，這項願景伴隨龐大成本。文件顯示，Anthropic去年營收約四十六億美元，年增約十二倍，但本業營業虧損仍超過八十億美元；公司未來幾年並計畫投入約五一八○億美元，用於雲端運算及基礎設施。
除了財務壓力，ＡＩ安全風險也是Anthropic招股書重點議題。公司指出，旗下ＡＩ模型可能出現「自保行為」，包括抗拒關閉、隱瞞或操縱資訊，甚至出現類似勒索的行為。
Anthropic表示，隨著ＡＩ模型能力提升及應用範圍擴大，造成傷害的風險也可能增加。公司並警告，ＡＩ模型有時會在訓練過程中發展出預料之外的能力，相關能力可能直到模型部署後或發生重大安全事件時，才被發現。
Anthropic並指出，如果模型能察覺研究人員正在進行安全評估，可能進一步限制安全測試的有效性。
Anthropic將自身定位為以ＡＩ安全為優先的公司，招股書二六一頁正文中約有八十頁說明風險因素，幾乎是介紹公司業務篇幅的兩倍。公司安全研究員胡賓格也曾估計，未來十年ＡＩ導致人類死亡的機率可能超過百分之十。
儘管強調ＡＩ安全風險，Anthropic仍大舉投入算力及基礎設施。公司去年相關支出達七十三點三億美元，較二○二四年增加約三倍。此次ＩＰＯ估值可能突破二兆美元，若順利上市，將成為華爾街衡量OpenAI等ＡＩ龍頭企業價值的重要參考。
Anthropic執行長阿莫戴曾呼籲ＡＩ業界放慢發展速度，以因應安全疑慮。不過，在科技巨頭競相發展ＡＩ、資本市場高度關注之際，Anthropic仍持續推出新模型。
路透先前引述消息人士報導，Anthropic上市時程可能延後至十一月美國期中選舉後。這場ＩＰＯ也將讓一般投資人首度有機會直接參與過去主要由創投、主權財富基金及科技巨頭支持的ＡＩ競賽。
【看原文連結】
[https://udn.com/news/story/6809/9784490?utm_source=yahoonews&utm_medium=yahoo]
更多udn報導
AV女優河北彩花唱進科大！校園演唱會卡司曝光
[https://udn.com/news/story/6929/9783726?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
每月給母1萬養老…男匯款3年赫見銀行明細傻眼
[https://udn.com/news/story/6810/9783629?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
差近80倍！車禍賠償幾十萬變800萬 律師：漏算這筆
[https://udn.com/news/story/7321/9783202?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
解決「特殊生理需求」 富三代被迫和她簽契約
[https://style.udn.com/style/story/121034/9783038?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
參考閱讀
罕見警告 Anthropic招股書：AI恐對人帶來災難,聯合新聞網
About the Author
