社交媒體平台X（原Twitter）將測試一項讓AI聊天機器人生成社群筆記（Community Note）的功能。
據TechCrunch報道，X的老闆馬斯克（Elon Musk）將推特時代的社群筆記功能加以擴充。參與這項事實核查計劃的用戶可以寫評論，為某些文章補充背景，然後經過其他用戶核查，才會出現在文章後面。舉例來說，如果AI生成視頻未清楚說明其合成來源，用戶就可能跟帖寫個社群筆記註明，或附錄在政治人物發表 的誤導性文章之後。當在過去評分上有分歧的團體達成共識時，筆記就會公開。
社群筆記在X網站上相當成功，激勵Meta、TikTok和YouTube推行了類似計劃。 Meta更是完全取消了其第三方事實核查計劃，以這種低成本、社群來源的勞動力替代。但使用AI聊天機器人作為事實核查，究竟是有益還是有害，仍有待觀察。
這些AI筆記可以用X的Grok或其他AI工具生成，並透過API接入X。AI提交的筆記將與人類提交的筆記受到同等對待，這意味著將通過相同的審核流程，以提高準確性。由於AI常常會產生「幻覺」，即編造與現實不符的內容，因此用AI進行事實核查的效果似乎值得懷疑。
X社群筆記研究人員本周發表論文指出，人類的反饋可以透過強化學習來增強AI筆記生成，在筆記發佈之前，人類評分員仍可進行最後的檢查。
「我們的目標不是創造一個能告訴用戶該怎麼想的AI助理，而是建立一個能讓人類更有批判性思考、更了解世界的生態系統」，論文寫道，「LLM和人類可以在一個良性循環中一起工作」。
即使有人工審核，過度依賴AI仍會有風險，尤其是使用者將能夠嵌入第三方LLM的情況下。例如，OpenAI的ChatGPT最近就遇到了一個模型過於諂媚的問題。如果LLM優先考慮的是「有用性」，而非準確地完成事實核查，那麼AI生成的評論最終可能會完全不準確。
此外，也有人擔心AI生成的大量評論會讓人類評分員不勝負荷，降低他們充分完成這項義務工作的動力。用戶現在還看不到AI生成的社群筆記。X計劃先測試幾周，如果成功的話才會更大範圍推出。本報訊
