i黑馬訊 近日，偽造檢測領(lǐng)域頭部企業(yè)中科睿鑒宣布完成近億元融資，由達(dá)晨財(cái)智獨(dú)家投資，用于業(yè)務(wù)線的拓展，保障AI鑒偽產(chǎn)品的規(guī)?；涞亍Ｔ撊谫Y案例恰好也回應(yīng)了公眾關(guān)于AI安全的擔(dān)憂。
很多人認(rèn)為肉眼越逼真，真?zhèn)尉驮诫y鑒定。其實(shí)，視覺上的逼真程度與真?zhèn)舞b定難度并不直接相關(guān)。
AI算法在生成數(shù)據(jù)時(shí)更關(guān)注生成后的整體視覺效果達(dá)到“肉眼逼真”的表象，從而掩蓋其在光學(xué)、物理等的內(nèi)在不合理性，而人眼對(duì)這些深層的異常往往不太敏感。而睿鑒自研的偽造檢測大模型“睿鑒圖靈”如同X射線檢測儀，可以透過偽裝的“視覺”表象，從高階語義、光學(xué)特征、成像原理、物理噪聲等維度，檢驗(yàn)其與真實(shí)數(shù)據(jù)分布的差異性，發(fā)現(xiàn)其生成痕跡。
自2020年起，中科睿鑒就致力于運(yùn)用AI技術(shù)賦能數(shù)字內(nèi)容安全。目前，圍繞全類型偽造檢測、多模態(tài)數(shù)據(jù)生成、內(nèi)容合規(guī)審核等核心技術(shù)，中科睿鑒布局了“模型-數(shù)據(jù)-算力”的AI基礎(chǔ)設(shè)施，面向國家、行業(yè)、個(gè)人安全場景，提供音視圖文全棧全類型鑒偽技術(shù)和產(chǎn)品服務(wù)。
中科睿鑒能力全景圖
新技術(shù)的偽造能檢測嗎？底座平臺(tái)是核心
大模型技術(shù)持續(xù)升級(jí)迭代，生成內(nèi)容愈發(fā)逼真，進(jìn)入2024年，幾乎每2個(gè)月都會(huì)出現(xiàn)新的、效果更驚艷的生成技術(shù)。這暴露原本針對(duì)垂直領(lǐng)域的傳統(tǒng)檢測小模型的致命缺陷：泛化能力差，無法應(yīng)對(duì)層出不窮的新型AI偽造內(nèi)容。
解決針對(duì)新生成技術(shù)的廣譜檢測和快速響應(yīng)難題，關(guān)鍵是摒棄“來一個(gè)打一槍”的事后思維，重視檢測能力的基座化。為此，中科睿鑒自2023年初率先布局，打造了集模型、數(shù)據(jù)、算力一體的體系化能力底座，實(shí)現(xiàn)對(duì)新型偽造技術(shù)的快速響應(yīng)、精準(zhǔn)檢測。
通過模型、數(shù)據(jù)、算力三者深度結(jié)合，一旦新的偽造技術(shù)面世，“睿鑒圖靈”基礎(chǔ)模型便可達(dá)到80%以上的檢測精度。在基礎(chǔ)模型上微調(diào)1-2周，便可取得90%以上的檢測精度，大幅提高了對(duì)新型偽造技術(shù)的響應(yīng)能力。
真實(shí)場景中如何落地偽造檢測？全技術(shù)棧布局是關(guān)鍵
現(xiàn)實(shí)世界中，虛假信息的形式是多樣的，最新的電詐騙術(shù)已經(jīng)綜合利用實(shí)時(shí)人臉替換、語音合成等多種偽造技術(shù)，讓人防不勝防。為此，中科睿鑒研發(fā)了全棧全類型檢測技術(shù)：圖像視頻檢測方面，支持檢測AI生成、深度合成、PS篡改等多種偽造；音頻檢測方面，能夠檢測合成、換聲等多種偽造人聲；文本檢測方面，支持多領(lǐng)域、多語種、跨模型的AI生成文本檢測。通過深度整合多模態(tài)偽造檢測能力，檢測系統(tǒng)已實(shí)現(xiàn)各類偽造風(fēng)險(xiǎn)場景有效防御。
此外，隨著大模型的應(yīng)用和生成數(shù)據(jù)的增加，利用AI手段侵害企業(yè)利益、騙取公眾財(cái)產(chǎn)的案件進(jìn)入高發(fā)期，偽造技術(shù)的潛在風(fēng)險(xiǎn)正飛速向企業(yè)和個(gè)人擴(kuò)散，偽造檢測的需求不再局限于國家安全。中科睿鑒面向國家、行業(yè)、個(gè)人安全場景展開全面布局，推出針對(duì)性解決方案：在ToG方向，推出專用系統(tǒng)和全國產(chǎn)化適配的專用設(shè)備，實(shí)現(xiàn)敏感任務(wù)安全處理；ToB方向，基于企業(yè)多元化業(yè)務(wù)需求，提供輕量靈活的SaaS服務(wù)；面對(duì)個(gè)人安全需求，推出終端設(shè)備和SDK等產(chǎn)品類型，并持續(xù)通過“睿鑒AI”微信小程序?qū)⒆钚聶z測能力面向公眾免費(fèi)開放。
實(shí)戰(zhàn)深耕：成為頭部企業(yè)的必經(jīng)之路
不同于學(xué)術(shù)研究的理想場景，在現(xiàn)實(shí)場景實(shí)現(xiàn)有效偽造檢測并非易事。
一方面，業(yè)界研究普遍依賴封閉且有限的數(shù)據(jù)集，而實(shí)際網(wǎng)絡(luò)環(huán)境中的偽造數(shù)據(jù)為躲避審核，往往通過壓縮、模糊等對(duì)抗處理。這就容易出現(xiàn)檢測技術(shù)在實(shí)驗(yàn)環(huán)境表現(xiàn)優(yōu)異，但在實(shí)際應(yīng)用中效果大打折扣的結(jié)果，難以實(shí)現(xiàn)有效的工程化部署。
另一方面，面對(duì)美顏、影視創(chuàng)作等非惡意的生成內(nèi)容，“一刀切”無疑會(huì)影響用戶體驗(yàn)，提高監(jiān)管成本，如何在數(shù)量龐大的生成數(shù)據(jù)中區(qū)分篩選有害偽造內(nèi)容，是另一大難題。
對(duì)此，中科睿鑒的應(yīng)對(duì)方法是，通過大規(guī)模實(shí)戰(zhàn)深耕打磨檢測技術(shù)。目前，中科睿鑒已經(jīng)在實(shí)戰(zhàn)場景中部署了近300臺(tái)設(shè)備，穩(wěn)定運(yùn)行兩年，模型累計(jì)運(yùn)行超400億次，有效檢出有害偽造數(shù)據(jù)千萬條。該設(shè)備也是國內(nèi)首個(gè)經(jīng)過大規(guī)模實(shí)戰(zhàn)驗(yàn)證的偽造檢測產(chǎn)品，奠定了中科睿鑒在數(shù)字內(nèi)容安全領(lǐng)域的領(lǐng)先地位。
此次融資成功，是業(yè)界對(duì)中科睿鑒技術(shù)實(shí)力與發(fā)展前景的認(rèn)可與鼓勵(lì)。未來，以數(shù)字內(nèi)容偽造檢測技術(shù)為核心的中科睿鑒，將成為應(yīng)對(duì)關(guān)注人工智能技術(shù)發(fā)展安全風(fēng)險(xiǎn)與挑戰(zhàn)，推動(dòng)國家人工智能安全基礎(chǔ)設(shè)施建設(shè)的中堅(jiān)力量；通過持續(xù)探索和拓展技術(shù)邊界，為“AI+”全行業(yè)場景應(yīng)用提供安全保障，將持續(xù)推動(dòng)ToG、ToB、ToC業(yè)務(wù)的全面發(fā)展，實(shí)現(xiàn)產(chǎn)品在全行業(yè)的規(guī)模化應(yīng)用。秉持著“用技術(shù)讓世界更可信”的理念，中科睿鑒將積極推動(dòng)中國人工智能產(chǎn)業(yè)安全發(fā)展，共同構(gòu)建有利于技術(shù)創(chuàng)新、合規(guī)應(yīng)用、倫理引領(lǐng)、人才支撐和國際合作的良好生態(tài)。
匿名用戶
