i黑馬訊 近日，偽造檢測領域頭部企業(yè)中科睿鑒宣布完成近億元融資，由達晨財智獨家投資，用于業(yè)務線的拓展，保障AI鑒偽產(chǎn)品的規(guī)?；涞亍Ｔ撊谫Y案例恰好也回應了公眾關(guān)于AI安全的擔憂。
很多人認為肉眼越逼真，真?zhèn)尉驮诫y鑒定。其實，視覺上的逼真程度與真?zhèn)舞b定難度并不直接相關(guān)。
AI算法在生成數(shù)據(jù)時更關(guān)注生成后的整體視覺效果達到“肉眼逼真”的表象，從而掩蓋其在光學、物理等的內(nèi)在不合理性，而人眼對這些深層的異常往往不太敏感。而睿鑒自研的偽造檢測大模型“睿鑒圖靈”如同X射線檢測儀，可以透過偽裝的“視覺”表象，從高階語義、光學特征、成像原理、物理噪聲等維度，檢驗其與真實數(shù)據(jù)分布的差異性，發(fā)現(xiàn)其生成痕跡。
自2020年起，中科睿鑒就致力于運用AI技術(shù)賦能數(shù)字內(nèi)容安全。目前，圍繞全類型偽造檢測、多模態(tài)數(shù)據(jù)生成、內(nèi)容合規(guī)審核等核心技術(shù)，中科睿鑒布局了“模型-數(shù)據(jù)-算力”的AI基礎設施，面向國家、行業(yè)、個人安全場景，提供音視圖文全棧全類型鑒偽技術(shù)和產(chǎn)品服務。
中科睿鑒能力全景圖
新技術(shù)的偽造能檢測嗎？底座平臺是核心
大模型技術(shù)持續(xù)升級迭代，生成內(nèi)容愈發(fā)逼真，進入2024年，幾乎每2個月都會出現(xiàn)新的、效果更驚艷的生成技術(shù)。這暴露原本針對垂直領域的傳統(tǒng)檢測小模型的致命缺陷：泛化能力差，無法應對層出不窮的新型AI偽造內(nèi)容。
解決針對新生成技術(shù)的廣譜檢測和快速響應難題，關(guān)鍵是摒棄“來一個打一槍”的事后思維，重視檢測能力的基座化。為此，中科睿鑒自2023年初率先布局，打造了集模型、數(shù)據(jù)、算力一體的體系化能力底座，實現(xiàn)對新型偽造技術(shù)的快速響應、精準檢測。
通過模型、數(shù)據(jù)、算力三者深度結(jié)合，一旦新的偽造技術(shù)面世，“睿鑒圖靈”基礎模型便可達到80%以上的檢測精度。在基礎模型上微調(diào)1-2周，便可取得90%以上的檢測精度，大幅提高了對新型偽造技術(shù)的響應能力。
真實場景中如何落地偽造檢測？全技術(shù)棧布局是關(guān)鍵
現(xiàn)實世界中，虛假信息的形式是多樣的，最新的電詐騙術(shù)已經(jīng)綜合利用實時人臉替換、語音合成等多種偽造技術(shù)，讓人防不勝防。為此，中科睿鑒研發(fā)了全棧全類型檢測技術(shù)：圖像視頻檢測方面，支持檢測AI生成、深度合成、PS篡改等多種偽造；音頻檢測方面，能夠檢測合成、換聲等多種偽造人聲；文本檢測方面，支持多領域、多語種、跨模型的AI生成文本檢測。通過深度整合多模態(tài)偽造檢測能力，檢測系統(tǒng)已實現(xiàn)各類偽造風險場景有效防御。
此外，隨著大模型的應用和生成數(shù)據(jù)的增加，利用AI手段侵害企業(yè)利益、騙取公眾財產(chǎn)的案件進入高發(fā)期，偽造技術(shù)的潛在風險正飛速向企業(yè)和個人擴散，偽造檢測的需求不再局限于國家安全。中科睿鑒面向國家、行業(yè)、個人安全場景展開全面布局，推出針對性解決方案：在ToG方向，推出專用系統(tǒng)和全國產(chǎn)化適配的專用設備，實現(xiàn)敏感任務安全處理；ToB方向，基于企業(yè)多元化業(yè)務需求，提供輕量靈活的SaaS服務；面對個人安全需求，推出終端設備和SDK等產(chǎn)品類型，并持續(xù)通過“睿鑒AI”微信小程序?qū)⒆钚聶z測能力面向公眾免費開放。
實戰(zhàn)深耕：成為頭部企業(yè)的必經(jīng)之路
不同于學術(shù)研究的理想場景，在現(xiàn)實場景實現(xiàn)有效偽造檢測并非易事。
一方面，業(yè)界研究普遍依賴封閉且有限的數(shù)據(jù)集，而實際網(wǎng)絡環(huán)境中的偽造數(shù)據(jù)為躲避審核，往往通過壓縮、模糊等對抗處理。這就容易出現(xiàn)檢測技術(shù)在實驗環(huán)境表現(xiàn)優(yōu)異，但在實際應用中效果大打折扣的結(jié)果，難以實現(xiàn)有效的工程化部署。
另一方面，面對美顏、影視創(chuàng)作等非惡意的生成內(nèi)容，“一刀切”無疑會影響用戶體驗，提高監(jiān)管成本，如何在數(shù)量龐大的生成數(shù)據(jù)中區(qū)分篩選有害偽造內(nèi)容，是另一大難題。
對此，中科睿鑒的應對方法是，通過大規(guī)模實戰(zhàn)深耕打磨檢測技術(shù)。目前，中科睿鑒已經(jīng)在實戰(zhàn)場景中部署了近300臺設備，穩(wěn)定運行兩年，模型累計運行超400億次，有效檢出有害偽造數(shù)據(jù)千萬條。該設備也是國內(nèi)首個經(jīng)過大規(guī)模實戰(zhàn)驗證的偽造檢測產(chǎn)品，奠定了中科睿鑒在數(shù)字內(nèi)容安全領域的領先地位。
此次融資成功，是業(yè)界對中科睿鑒技術(shù)實力與發(fā)展前景的認可與鼓勵。未來，以數(shù)字內(nèi)容偽造檢測技術(shù)為核心的中科睿鑒，將成為應對關(guān)注人工智能技術(shù)發(fā)展安全風險與挑戰(zhàn)，推動國家人工智能安全基礎設施建設的中堅力量；通過持續(xù)探索和拓展技術(shù)邊界，為“AI+”全行業(yè)場景應用提供安全保障，將持續(xù)推動ToG、ToB、ToC業(yè)務的全面發(fā)展，實現(xiàn)產(chǎn)品在全行業(yè)的規(guī)?；瘧?。秉持著“用技術(shù)讓世界更可信”的理念，中科睿鑒將積極推動中國人工智能產(chǎn)業(yè)安全發(fā)展，共同構(gòu)建有利于技術(shù)創(chuàng)新、合規(guī)應用、倫理引領、人才支撐和國際合作的良好生態(tài)。
匿名用戶
