OpenAI近日宣布推出一系列更新舉措，旨在幫助用戶更輕松地識別網(wǎng)絡(luò)上由其AI模型生成的內(nèi)容。此次更新不僅進一步強化了對C2PA內(nèi)容憑證標準的支持，還將引入谷歌的SynthID水印技術(shù)，構(gòu)建AI內(nèi)容標注的"多層防護體系"。C2PA目前是檢驗圖片、視頻及音頻內(nèi)容來源與編輯歷史最權(quán)威的行業(yè)標準。

OpenAI在公告中表示："這兩套系統(tǒng)相輔相成。C2PA幫助內(nèi)容攜帶詳盡的來源信息，SynthID則在元數(shù)據(jù)丟失時仍能保留有效信號。水印在截圖等格式轉(zhuǎn)換后依然具有較強的持久性，而元數(shù)據(jù)所能承載的信息量又超出單一水印的范疇。兩者結(jié)合，使內(nèi)容溯源能力遠超任何單一層次所能實現(xiàn)的效果。"

SynthID水印將首先應(yīng)用于ChatGPT、Codex及OpenAI API生成的圖像。值得關(guān)注的是，相比C2PA，SynthID在實際應(yīng)用中已被事實核查機構(gòu)和媒體機構(gòu)更廣泛地用于識別網(wǎng)絡(luò)上的深度偽造圖像。此次雙重機制的引入，有望減少OpenAI生成內(nèi)容在身份核驗環(huán)節(jié)中的漏洞，使深度偽造內(nèi)容更易于識別，同時幫助各大網(wǎng)絡(luò)平臺為用戶標注AI生成或經(jīng)AI處理的內(nèi)容。

與此同時，OpenAI還預(yù)告了一個面向公眾的內(nèi)容驗證門戶，用戶可上傳圖片，查看其是否攜帶AI元數(shù)據(jù)或水印標記。該門戶將同時檢測C2PA與SynthID來源信號，判斷圖片是否由ChatGPT、OpenAI API或Codex生成。目前該功能僅限于OpenAI自身生成的圖像，但公司表示將在未來數(shù)月內(nèi)擴展對其他驗證系統(tǒng)的支持，并逐步覆蓋更多類型的網(wǎng)絡(luò)內(nèi)容。

對于檢測失敗的情況，OpenAI也作出了說明："沒有任何檢測方法是萬無一失的，因此在檢測未能得出結(jié)論時，我們會采取審慎的處理方式。例如，若未能檢測到元數(shù)據(jù)或水印，該工具不會對圖片是否由OpenAI工具生成作出明確判斷，因為來源信號在某些情況下可能已被剝離。"

此外，OpenAI還正式加入了C2PA合規(guī)計劃。該計劃旨在確保相關(guān)產(chǎn)品符合內(nèi)容憑證規(guī)范，并滿足一系列安全要求，以保證C2PA數(shù)據(jù)的正確生成與驗證。不過值得注意的是，OpenAI此前已在圖片和視頻內(nèi)容中嵌入C2PA數(shù)據(jù)，但該機制在實際場景中識別深度偽造內(nèi)容的效果并不理想——原因在于，一旦內(nèi)容離開原始發(fā)布平臺，其元數(shù)據(jù)便可能被輕易移除，部分平臺甚至?xí)谏蟼鬟^程中意外將其抹除。

Q&A

Q1：SynthID水印和C2PA內(nèi)容憑證有什么區(qū)別？

A：兩者各有側(cè)重。C2PA是目前最權(quán)威的內(nèi)容來源標準，能攜帶詳細的生成與編輯信息，但元數(shù)據(jù)容易在內(nèi)容傳播過程中被剝離。SynthID是谷歌開發(fā)的水印技術(shù)，在截圖等格式轉(zhuǎn)換后仍具較強持久性，更難被去除。OpenAI將兩者結(jié)合使用，形成互補，提升AI生成內(nèi)容的溯源可靠性。

Q2：OpenAI的內(nèi)容驗證門戶具體怎么用？能識別所有AI圖片嗎？

A：用戶可通過該門戶上傳圖片，系統(tǒng)會自動檢測圖片是否攜帶C2PA元數(shù)據(jù)或SynthID水印，從而判斷其是否由ChatGPT、OpenAI API或Codex生成。目前該工具僅支持識別OpenAI自身生成的內(nèi)容，且每次只能上傳一張圖片。OpenAI表示后續(xù)會擴展對其他驗證系統(tǒng)的支持，逐步覆蓋更多內(nèi)容類型。

Q3：C2PA元數(shù)據(jù)為什么經(jīng)常失效，識別深度偽造圖片效果有限？

A：C2PA元數(shù)據(jù)嵌入在文件信息中，內(nèi)容一旦離開原始發(fā)布平臺，元數(shù)據(jù)便可能被人為刪除，甚至被某些平臺在上傳過程中意外清除。這導(dǎo)致即便OpenAI已長期在生成內(nèi)容中嵌入C2PA數(shù)據(jù)，在實際網(wǎng)絡(luò)環(huán)境中識別深度偽造內(nèi)容的效果依然有限。SynthID水印的引入正是為了彌補這一缺陷。