谷歌今年初加入「內容來源真實性聯盟」(C2PA)成為指導委員之一,旨在確保網路上的生成式人工智能(Generative AI)資訊無誤,經過一段時間研發後,旗下多項產品未來數月將融入C2PA技術,協助用戶辨別影像真偽。
綜合科技新聞網站Engadget與Ars Technica報道,整合C2PA技術的谷歌產品包括搜尋、廣告以至影音平台YouTube。C2PA的「內容驗證」(Content Credentials)技術旨在追蹤數碼內容的原始和修改紀錄,並用於保護這些內容如何產生的「詮譯資料」(metadata)。
谷歌、亞馬遜、Meta和OpenAI等多家科企2019年成立C2PA,旨在打擊網路上具誤導性的合成媒體。谷歌參與開發「內容驗證」最新版本,指稱基於更嚴格的驗證方法,該驗證方式更可靠和防止篡改。
谷歌未來數月將開始把「內容驗證」目前版本融入它部份主流產品。換句話說,谷歌搜尋很快可以告訴大家某張圖像是否使用生成式AI製作或修改。
如果出現一張附有C2PA「詮譯資料」的圖像,那麼用戶就可透過「關於此圖像」的工具來了解生成式AI對該圖像的影響。這也適用於谷歌圖片、谷歌智慧鏡頭和畫圈搜尋等。
谷歌也在研究如何使用C2PA技術,告訴YouTube用戶一部視頻是否由鏡頭錄製的,預料今年稍後將有更詳細資料公布。
谷歌計劃將C2PA「詮譯資料」應用於廣告系統,但資料不多,僅稱「將使用C2PA訊號來告訴我們如何執行重要政策,並循序漸進這樣做」。
當然,這項措施的有效程度取決於相機製造商和生成式AI工具的開發人員是否實際上使用C2PA水印系統,且也阻止不了某人將圖像的「詮譯資料」抹去的可能,此舉恐使谷歌等系統找出任何生成式AI的痕跡。