i黑馬訊 近日,偽造檢測領(lǐng)域頭部企業(yè)中科睿鑒宣布完成近億元融資,由達(dá)晨財(cái)智獨(dú)家投資,用于業(yè)務(wù)線的拓展,保障AI鑒偽產(chǎn)品的規(guī)?;涞亍T撊谫Y案例恰好也回應(yīng)了公眾關(guān)于AI安全的擔(dān)憂。
很多人認(rèn)為肉眼越逼真,真?zhèn)尉驮诫y鑒定。其實(shí),視覺上的逼真程度與真?zhèn)舞b定難度并不直接相關(guān)。
AI算法在生成數(shù)據(jù)時(shí)更關(guān)注生成后的整體視覺效果達(dá)到“肉眼逼真”的表象,從而掩蓋其在光學(xué)、物理等的內(nèi)在不合理性,而人眼對(duì)這些深層的異常往往不太敏感。而睿鑒自研的偽造檢測大模型“睿鑒圖靈”如同X射線檢測儀,可以透過偽裝的“視覺”表象,從高階語義、光學(xué)特征、成像原理、物理噪聲等維度,檢驗(yàn)其與真實(shí)數(shù)據(jù)分布的差異性,發(fā)現(xiàn)其生成痕跡。
自2020年起,中科睿鑒就致力于運(yùn)用AI技術(shù)賦能數(shù)字內(nèi)容安全。目前,圍繞全類型偽造檢測、多模態(tài)數(shù)據(jù)生成、內(nèi)容合規(guī)審核等核心技術(shù),中科睿鑒布局了“模型-數(shù)據(jù)-算力”的AI基礎(chǔ)設(shè)施,面向國家、行業(yè)、個(gè)人安全場景,提供音視圖文全棧全類型鑒偽技術(shù)和產(chǎn)品服務(wù)。
中科睿鑒能力全景圖
新技術(shù)的偽造能檢測嗎?底座平臺(tái)是核心
大模型技術(shù)持續(xù)升級(jí)迭代,生成內(nèi)容愈發(fā)逼真,進(jìn)入2024年,幾乎每2個(gè)月都會(huì)出現(xiàn)新的、效果更驚艷的生成技術(shù)。這暴露原本針對(duì)垂直領(lǐng)域的傳統(tǒng)檢測小模型的致命缺陷:泛化能力差,無法應(yīng)對(duì)層出不窮的新型AI偽造內(nèi)容。
解決針對(duì)新生成技術(shù)的廣譜檢測和快速響應(yīng)難題,關(guān)鍵是摒棄“來一個(gè)打一槍”的事后思維,重視檢測能力的基座化。為此,中科睿鑒自2023年初率先布局,打造了集模型、數(shù)據(jù)、算力一體的體系化能力底座,實(shí)現(xiàn)對(duì)新型偽造技術(shù)的快速響應(yīng)、精準(zhǔn)檢測。
通過模型、數(shù)據(jù)、算力三者深度結(jié)合,一旦新的偽造技術(shù)面世,“睿鑒圖靈”基礎(chǔ)模型便可達(dá)到80%以上的檢測精度。在基礎(chǔ)模型上微調(diào)1-2周,便可取得90%以上的檢測精度,大幅提高了對(duì)新型偽造技術(shù)的響應(yīng)能力。
真實(shí)場景中如何落地偽造檢測?全技術(shù)棧布局是關(guān)鍵
現(xiàn)實(shí)世界中,虛假信息的形式是多樣的,最新的電詐騙術(shù)已經(jīng)綜合利用實(shí)時(shí)人臉替換、語音合成等多種偽造技術(shù),讓人防不勝防。為此,中科睿鑒研發(fā)了全棧全類型檢測技術(shù):圖像視頻檢測方面,支持檢測AI生成、深度合成、PS篡改等多種偽造;音頻檢測方面,能夠檢測合成、換聲等多種偽造人聲;文本檢測方面,支持多領(lǐng)域、多語種、跨模型的AI生成文本檢測。通過深度整合多模態(tài)偽造檢測能力,檢測系統(tǒng)已實(shí)現(xiàn)各類偽造風(fēng)險(xiǎn)場景有效防御。
此外,隨著大模型的應(yīng)用和生成數(shù)據(jù)的增加,利用AI手段侵害企業(yè)利益、騙取公眾財(cái)產(chǎn)的案件進(jìn)入高發(fā)期,偽造技術(shù)的潛在風(fēng)險(xiǎn)正飛速向企業(yè)和個(gè)人擴(kuò)散,偽造檢測的需求不再局限于國家安全。中科睿鑒面向國家、行業(yè)、個(gè)人安全場景展開全面布局,推出針對(duì)性解決方案:在ToG方向,推出專用系統(tǒng)和全國產(chǎn)化適配的專用設(shè)備,實(shí)現(xiàn)敏感任務(wù)安全處理;ToB方向,基于企業(yè)多元化業(yè)務(wù)需求,提供輕量靈活的SaaS服務(wù);面對(duì)個(gè)人安全需求,推出終端設(shè)備和SDK等產(chǎn)品類型,并持續(xù)通過“睿鑒AI”微信小程序?qū)⒆钚聶z測能力面向公眾免費(fèi)開放。
實(shí)戰(zhàn)深耕:成為頭部企業(yè)的必經(jīng)之路
不同于學(xué)術(shù)研究的理想場景,在現(xiàn)實(shí)場景實(shí)現(xiàn)有效偽造檢測并非易事。
一方面,業(yè)界研究普遍依賴封閉且有限的數(shù)據(jù)集,而實(shí)際網(wǎng)絡(luò)環(huán)境中的偽造數(shù)據(jù)為躲避審核,往往通過壓縮、模糊等對(duì)抗處理。這就容易出現(xiàn)檢測技術(shù)在實(shí)驗(yàn)環(huán)境表現(xiàn)優(yōu)異,但在實(shí)際應(yīng)用中效果大打折扣的結(jié)果,難以實(shí)現(xiàn)有效的工程化部署。
另一方面,面對(duì)美顏、影視創(chuàng)作等非惡意的生成內(nèi)容,“一刀切”無疑會(huì)影響用戶體驗(yàn),提高監(jiān)管成本,如何在數(shù)量龐大的生成數(shù)據(jù)中區(qū)分篩選有害偽造內(nèi)容,是另一大難題。
對(duì)此,中科睿鑒的應(yīng)對(duì)方法是,通過大規(guī)模實(shí)戰(zhàn)深耕打磨檢測技術(shù)。目前,中科睿鑒已經(jīng)在實(shí)戰(zhàn)場景中部署了近300臺(tái)設(shè)備,穩(wěn)定運(yùn)行兩年,模型累計(jì)運(yùn)行超400億次,有效檢出有害偽造數(shù)據(jù)千萬條。該設(shè)備也是國內(nèi)首個(gè)經(jīng)過大規(guī)模實(shí)戰(zhàn)驗(yàn)證的偽造檢測產(chǎn)品,奠定了中科睿鑒在數(shù)字內(nèi)容安全領(lǐng)域的領(lǐng)先地位。
此次融資成功,是業(yè)界對(duì)中科睿鑒技術(shù)實(shí)力與發(fā)展前景的認(rèn)可與鼓勵(lì)。未來,以數(shù)字內(nèi)容偽造檢測技術(shù)為核心的中科睿鑒,將成為應(yīng)對(duì)關(guān)注人工智能技術(shù)發(fā)展安全風(fēng)險(xiǎn)與挑戰(zhàn),推動(dòng)國家人工智能安全基礎(chǔ)設(shè)施建設(shè)的中堅(jiān)力量;通過持續(xù)探索和拓展技術(shù)邊界,為“AI+”全行業(yè)場景應(yīng)用提供安全保障,將持續(xù)推動(dòng)ToG、ToB、ToC業(yè)務(wù)的全面發(fā)展,實(shí)現(xiàn)產(chǎn)品在全行業(yè)的規(guī)模化應(yīng)用。秉持著“用技術(shù)讓世界更可信”的理念,中科睿鑒將積極推動(dòng)中國人工智能產(chǎn)業(yè)安全發(fā)展,共同構(gòu)建有利于技術(shù)創(chuàng)新、合規(guī)應(yīng)用、倫理引領(lǐng)、人才支撐和國際合作的良好生態(tài)。