社交媒體 X 計劃利用 AI 撰寫社區(qū)注釋(community notes)，其目的是提高事實核查效率，但官方也承認存在明顯風險。

　　該計劃可能破壞用戶對事實核查系統(tǒng)的信任，因為 AI 撰寫的注釋可能不準確且具有誤導性。專家警告，AI 注釋可能導致錯誤信息擴散，并可能加劇審查負擔。

　　在最新研究論文中，X 平臺將這一計劃描述為一次“升級”，同時解釋了 AI 撰寫社區(qū)注釋可能出現(xiàn)的所有問題。

　　在理想情況下，X 平臺描述了 AI 能夠加速和增加錯誤帖子上的社區(qū)注釋數(shù)量，從而提高平臺范圍內(nèi)的事實核查力度。

　　每個 AI 撰寫的注釋將由人工審查員評分，為 AI 提供反饋，以改善其寫作能力。隨著 AI 寫作能力提升，人工審查員可以專注于 AI 無法快速處理的更細微的事實核查任務，例如需要特定專業(yè)知識或社會意識的帖子。

　　如果一切順利，人類和 AI 審查員將共同轉(zhuǎn)變 X 的事實核查方式，甚至探索形成“公共知識生產(chǎn)中人類與 AI 合作的新形式”。

　　

 

　　IT之家援引論文觀點，然而，仍然存在一個關鍵問題：X 平臺不確定 AI 撰寫的注釋是否能夠像人類撰寫的注釋一樣準確。

　　進一步復雜化的是，AI 可能會生成“有說服力但錯誤”的注釋，人類評分員可能會因為 AI 在撰寫有說服力、情感共鳴且看似中立的注釋方面“異常擅長”而給予好評。這可能會破壞反饋循環(huán)，削弱社區(qū)注釋的可信度，并隨著時間的推移，讓整個系統(tǒng)變得不那么可靠。

　　

 

　　X 平臺預測，如果無法解決這一難題，最重要的注釋的影響可能會被稀釋。一種可能的解決方案是取消人工審查流程，將 AI 撰寫的注釋應用于“類似上下文”的帖子，但最大的潛在問題是顯而易見的：自動匹配人們認為不需要注釋的帖子可能會顯著削弱系統(tǒng)信任度。