首頁 | 資訊 | 財經 | 公益 | 彩店 | 奇聞 | 速遞 | 前瞻 | 提點 | 網站相關 | 科技 | 熱點 | 生活 |
      【新要聞】應對生成式造假風險,文檔圖像篡改檢測標準啟動制定

      發稿時間:2023-06-20 09:06:03 來源: 北京日報


      【資料圖】

      北京日報客戶端 | 記者 孫奇茹

      文檔圖像是信息的重要載體,卻經常被不法分子利用軟件、算法進行篡改并用于散播謠言、經濟詐騙、編造虛假新聞等,給個人、社會造成了惡劣的影響。AIGC(生成式人工智能)全球爆火后,人們對“生成式造假”風險的攀升倍感憂慮,圖像內容的安全與可信性也成為公眾關注的焦點。中國信息通信研究院(以下簡稱“中國信通院”)近期啟動《文檔圖像篡改檢測標準》制定工作。該項標準由中國信通院牽頭,上海合合信息科技股份有限公司、中國圖象圖形學學會、中國科學技術大學等科技創新企業及知名學術機構聯合編制。

      《文檔圖像篡改檢測標準》將為文檔圖像內容安全提供可靠保障,助力新時代AI安全體系建設。標準制定牽頭方中國信通院相關負責人介紹,《文檔圖像篡改檢測標準》將基于產業現狀,圍繞“細粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護等行業焦點議題,凝聚行業共識,以期為行業提供有效指引。

      隨著技術的發展和電子設備普及率的提升,人們修改圖像的門檻變得越來越低,以往圖像內容加工需要使用專業的軟件,現在通過某些平臺或者軟件,動動手指即可產出一張虛假圖片,數字圖像的原始性和真實性面臨嚴峻挑戰。此前,圖像篡改檢測的技術研究對象主要集中于自然場景圖像。然而,真正為人們的生活帶來風險的通常是被篡改的資質證書、文檔、聊天截圖等。

      業內人士介紹,傳統的檢測系統往往難以對這些文檔圖像進行篡改判定及修改內容定位,主要原因如下:一方面,真實場景中的篡改方法多樣、篡改視覺痕跡細微,對篡改檢測方案提出了挑戰;文檔版面的復雜化、文本內容的多樣化亦成為圖像內容檢測識別過程中的“攔路虎”,加大了篡改檢測實施的難度。此外,傳統的圖像篡改檢測方法在面對全局性的裁剪、調色處理以及組合式造假手法時,其檢測覆蓋面、精準度、安全性尚存在提升空間,需要政府、研究機構、企業等多方主體聯合起來,通過建立技術規范標準,助力AI視覺圖像產業健康成長。

      據標準制定參與方合合信息相關負責人介紹,其團隊研發了基于深度學習的圖像篡改檢測技術及相關系統,可檢測出多種篡改形式,智能捕捉圖像在篡改過程中留下的細微痕跡,并以熱力圖的形式展示圖像區域篡改地點,相關技術已被應用于銀行、保險等行業中。

      標簽:

      責任編輯:mb01

      網站首頁 | 關于我們 | 免責聲明 | 聯系我們

      生活晚報網版權所有

      Copyright @ 1999-2017 www.8x5.com.cn All Rights Reserved豫ICP備2022016495號-7

      聯系郵箱:939 674 669@qq.com