隨著人工智能的發展，P圖軟件等圖片編輯工具在日常生活中得到了廣泛應用，其在便利公眾生活的同時也給了犯罪分子可趁之機，基于篡改圖像實施的詐騙案件頻頻發生。為了增強全社會抵制網絡不良信息的意識和能力，上海市靜安區委網信辦在2024年“網絡舉報宣傳周”期間舉辦了“靜安區網絡舉報宣傳小課堂”活動。在生成式人工智能風險科普課堂上，合合信息技術專家為社區居民講解AIGC時代如何防范圖像篡改欺詐風險，演示智能圖像處理技術如何助力反詐工作的推進。

　　據專家介紹，人臉圖像偽造和卡證照篡改是當前圖像領域面臨的兩大主要風險。受多種偽造方法疊加、新偽造工具涌現、圖像視頻壓縮等因素影響，篡改圖像特征分布復雜，目前的圖像篡改檢測技術面臨泛化性和魯棒性不足的困境。

　　圖說 AIGC時代主要欺詐風險

　　以身份證檢測場景為例，當我們拍攝身份證照片上傳電子系統審核時，受所處環境光線影響，照片經常會出現反光現象，再加上部分用戶會給身份證套上一層塑封包裝，加劇了信息的模糊程度。機器要在排除這些外部因素干擾的基礎上識別照片是否存在貼圖、復制移動、插入文本等多種篡改形式，增加檢測難度。

　　針對上述問題，合合信息基于數據驅動的神經網絡模型，推出了圖像篡改檢測方案，能夠智能提取篡改留下的細微痕跡，可檢測出多種篡改形式，適用于金融、保險以及商場小票造假等多個檢測場景。該技術具備了基于大規模數據訓練的強大特征學習能力，能夠有效提高圖像篡改檢測技術的準確率和泛化能力，幫助群眾精準識別偽造圖像。

　　圖說 合合信息圖像篡改檢測技術對常見證照篡改痕跡進行定位

　　近年來，生成式人工智能的涌現在創造機遇的同時，也帶來了更多犯罪風險。目前，我國已經相繼出臺了信息安全技術相關法律法規保護公民的合法權益。在圖像內容安全領域，由中國圖象圖形學學會、中國信息通信研究院、合合信息等公司和多所高校聯合編制、中國互聯網協會發布的《文本圖像篡改檢測系統技術要求》團體標準于今年9月正式發布，指導行業共同應對AI合成圖像造假等一系列新難題，從源頭降低電子文檔圖像詐騙風險。

　　詐騙手段層出不窮，構建全民反詐統一陣線刻不容緩。開展反詐科普課堂活動，有助于提高社會各群體警惕意識，保護財產安全。合合信息將繼續深耕文檔圖像反篡改領域，用AI幫助廣大群眾規避詐騙風險，攜手社會各界共同打造安全可信的網絡環境。