[轉載] AI衝擊新聞業／深偽蔓延 大語言模型恐崩潰

—

加入為 Google 偏好來源

將 Yahoo 設為首選來源，在 Google 上查看更多我們的精彩報導

在一個謊言橫行的世界裡，誰能告訴我真相？答案不是大型科技公司的產品，而是新聞業。塞尼奧爾

大型語言模型正面臨「自我吞噬」風險，人工智慧（ＡＩ）快速成長的同時，ＡＩ垃圾內容、深度偽造與虛假訊息也正以前所未有的速度蔓延，大型ＡＩ平台如何面對外界對於ＡＩ幻覺、訊息造假，以及資訊品質逐漸失真的「模型崩潰」危機？ＡＩ引用人類創作內容時，是否做到價值公平交換？成為新聞媒體與ＡＩ巨頭之間的交鋒焦點。

創新媒體顧問集團總裁塞尼奧爾（Juan
Señor）表示，ＡＩ撒謊時往往充滿自信，ＡＩ公司曾在學界研究中公開承認，任何查詢都有約百分之二的假輸出可能性，幻覺可能從第三個提示開始出現，使回答逐漸偏離原本的問題」。

此外，塞尼奧爾也示警，當ＡＩ生成內容的比率逐漸超越人類創作時，大型語言模型正面臨「自我吞噬」風險，模型不斷以自身生成的內容作為訓練或輸入來源，如同近親繁殖般反覆吸收與再生成，最終可能引發「模型崩潰」。

面對這些疑慮，OpenAI媒體合作副總裁謝蒂（Varun
Shetty）強調，OpenAI始終將透明度、知識共享，以及對新聞生態系的支援放在首位，建立搜尋產品時納入了清晰的引用、標示來源，以及讓人們點擊並前往原始來源等意見。但他也坦言，現階段仍在觀察究竟有多少使用者願意從ＡＩ生成的答案回到原始媒體網站，但團隊正努力在「直接回答問題」與「引導讀者閱讀完整報導」之間取得平衡。

謝蒂也說，模型訓練引用公開資訊﹁符合版權法」，但有在場媒體質疑，即使明確標示內容來源，ＡＩ在摘要與重組資訊的過程中仍可能產生錯誤甚至捏造事實，而最終受損的仍是媒體公信力。對此謝蒂表示，「幻覺對我們沒任何好處，人們付費是為了一個準確助理；若不準確，我們就沒盡到職責」，降低幻覺是OpenAI持續投入大量資源改善的核心工作。

不過，正因ＡＩ發展過快帶來的反撲，人類內容反而找到新契機。據路透新聞研究所調查，逾半數受訪者認為，隨假訊息與ＡＩ生成內容大增，將強化新聞媒體作為可信資訊提供者的角色。塞尼奧爾說，在一個謊言橫行的世界裡，新聞業要以更多骨氣和靈魂重新定位自己，數位世界最終能被信任的，仍是人與人之間的真實溝通。

更多報導請看數位版

【看原文連結】
[https://udn.com/news/story/7266/9601195?utm_source=yahoonews&utm_medium=yahoo]

更多udn報導
上廁所拉出1公尺絛蟲 她遊印度3個月腦中藏寄生蟲
[https://udn.com/news/story/6810/9600295?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
外國人被農民「持刀逼吃芒果」 台式熱情神展開
[https://udn.com/news/story/120912/9600786?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
人妻抓包老公「手機秘密」網笑瘋：比出軌嚴重
[https://udn.com/news/story/120911/9600388?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]
狄鶯「研究孫安佐」碩士論文被挖 58頁內容曝光
[https://stars.udn.com/star/story/10088/9600032?utm_source=yahoonews&utm_medium=referral&utm_campaign=yahoo]

參考閱讀

AI衝擊新聞業／深偽蔓延 大語言模型恐崩潰,聯合新聞網

About the Author

theta

Administrator

Visit Website View All Posts