從身穿知名品牌羽絨外套的教宗到假的五角大樓爆炸，辨別由人工智能（AI）生成的圖像與真實事物的難度越來越大，有時會造成災難性的影響。解決方案仍然遙遙無期，不過微軟在年度Build大會上首次推出了新的媒體證明功能，對此挑戰做出新嘗試。
微軟表示，將為Bing Image Creator和Designer推出新的媒體出處功能，使消費者能夠驗證圖像或視頻是否由AI生成。Designer是微軟類似於Canva的網絡程式，可以生成演示文稿、海報等設計，以供在社交媒體等渠道上分享。該功能使用加密方法，計劃在未來幾個月內推出，將用圖像或視頻來源相關的元數據，來標記和簽名AI生成的內容。
這不像可見的水印那樣簡單明了。要讀取簽名，網站將需要採用「內容證明和真實性聯盟」（C2PA）的可操作規範。該規範由Adobe、Arm、英特爾、微軟和視覺媒體平台Truepic提供意見。只有這樣，網站才能在內容是由AI生成，或是由Designer或Image Creator修改和創造時，提醒消費者。
科技網站TechCrunch指出，問題在於，當這麼多圖像生成工具還沒有接受類似的媒體出處標準時，微軟的努力會產生多大的影響？C2PA確實得到了Adobe的支持，該圖像軟件大廠最近推出的一系列生成式AI工具，包括與谷歌的Bard聊天機器人整合。而生成式AI領域的一個更突出的參與者Stability AI，最近才表示願意接受像微軟提出的那種規格。
撇開標準不談，微軟採用媒體出處追蹤機制的舉動，符合生成式AI發展的廣泛的行業趨勢。谷歌在5月也表示，將使用嵌入式元數據為生成式AI模型創建的視覺媒體提供標記。另外，圖片資料庫Shutterstock和生成式AI初創公司Midjourney採用了相關指導方針，通過嵌入標記表明內容是由生成式AI工具創建的。本報訊
