2024年是大模型應(yīng)用落地元年。隨著場景落地不斷深化,大模型要貼近場景創(chuàng)造價值已經(jīng)是業(yè)界的共識。
9月5日,2024騰訊全球數(shù)字生態(tài)大會云上智能峰會在深圳舉行。在峰會上,騰訊云邀請來邁瑞醫(yī)療、工業(yè)富聯(lián)、易車、同程旅行、中信百信銀行等多個來自各個行業(yè)的嘉賓,共同探討了大模型落地的新場景、新發(fā)展、新變化。
“面向場景創(chuàng)造價值才是大模型發(fā)展的意義?!彬v訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲表示,基于全矩陣的大模型產(chǎn)品,騰訊已經(jīng)服務(wù)了眾多客戶,在知識管理、智能客服、研發(fā)提效、智能營銷、內(nèi)容生成、辦公協(xié)同、風(fēng)險(xiǎn)管控等場景中,幫助企業(yè)實(shí)現(xiàn)了降本增效和業(yè)務(wù)創(chuàng)新。
知識助手場景:醫(yī)療大模型提升診療效率
在醫(yī)療行業(yè),數(shù)據(jù)量大、維度多且解讀難度高是常見挑戰(zhàn),AI的應(yīng)用在這些方面能顯著提升效率和質(zhì)量,具有重要的經(jīng)濟(jì)和社會價值。
重癥醫(yī)學(xué)科(ICU)是醫(yī)療行業(yè)的特定場景。ICU中醫(yī)療設(shè)備眾多,數(shù)據(jù)復(fù)雜,醫(yī)生需處理大量多維數(shù)據(jù),這對他們的專業(yè)知識和技能要求極高。ICU患者的病情復(fù)雜多變,對醫(yī)護(hù)人員的經(jīng)驗(yàn)和治療水平要求嚴(yán)格,同時,病歷和護(hù)理記錄的撰寫也耗費(fèi)大量時間和精力。邁瑞醫(yī)療副總裁李新勝在對談中表示,邁瑞醫(yī)療在選擇AI落地場景時,主要考慮其對提升臨床診療質(zhì)量、醫(yī)護(hù)人員工作效率和醫(yī)院管理效益的影響。
邁瑞結(jié)合騰訊云的醫(yī)學(xué)行業(yè)大模型和工具鏈,共同構(gòu)建了重癥大模型。該模型整合了病例、生理參數(shù)、醫(yī)學(xué)影像等數(shù)據(jù),開發(fā)了病歷撰寫、患者個性化信息查詢和知識檢索等智能應(yīng)用。這些應(yīng)用通過自然語言處理技術(shù),提高了醫(yī)生查詢患者信息和診療效率,減輕了工作負(fù)擔(dān)。
生產(chǎn)管理場景:生產(chǎn)提效確保信息與生命安全
工業(yè)富聯(lián)在生產(chǎn)場景中有許多實(shí)際痛點(diǎn)。比如質(zhì)檢方面,面對3C零配件產(chǎn)品快速迭代和新生產(chǎn)線投產(chǎn)的需求,傳統(tǒng)質(zhì)檢算法難以迅速適應(yīng),影響生產(chǎn)效率。在巡檢方面,工業(yè)富聯(lián)希望通過AI技術(shù)實(shí)現(xiàn)從被動管理到主動預(yù)警的轉(zhuǎn)變,減少人工管理的疏漏。在知識管理方面,多年積累的研發(fā)知識資產(chǎn)分散在不同團(tuán)隊(duì)和系統(tǒng)中,缺乏有效的管理和利用。
工業(yè)富聯(lián)首席數(shù)據(jù)官劉宗長表示,在與騰訊合作打造工業(yè)大模型的過程中,騰訊云通過提供自研的大模型推理框架、數(shù)據(jù)生成和異常檢測算法,以及混元大模型+RAG技術(shù)方案,幫助工業(yè)富聯(lián)克服這些難點(diǎn)。
落地階段,工業(yè)富聯(lián)和騰訊云合作,重點(diǎn)關(guān)注數(shù)據(jù)管理、知識管理和業(yè)務(wù)系統(tǒng)融合。通過統(tǒng)一的數(shù)據(jù)存儲平臺和大模型的推理結(jié)果,實(shí)現(xiàn)數(shù)據(jù)的集成和標(biāo)準(zhǔn)化處理,提升生產(chǎn)透明度和響應(yīng)速度。同時,利用大模型深度分析和理解能力,為員工提供精準(zhǔn)的知識服務(wù),提高工作效率。
通過這些措施,工業(yè)富聯(lián)旨在提升生產(chǎn)效率,確保信息和生產(chǎn)安全,以及優(yōu)化知識管理,從而在激烈的市場競爭中保持領(lǐng)先地位。
營銷服務(wù)場景:垂類大模型助力智能營銷
易車選擇垂類大模型的原因在于通用大模型難以完全理解汽車領(lǐng)域的專業(yè)知識和術(shù)語,特別是在汽車配置解讀和評測方面。易車?yán)么诡惔竽P蜑橛脩籼峁?D看車、AI解讀、AI對比問答和AI搜索等服務(wù),增強(qiáng)了用戶獲取信息的效率,提升了用戶停留時長。
對于B端客戶,易車通過大模型提升了線索質(zhì)量和轉(zhuǎn)化效率。大模型在自然語言理解、超長上下文學(xué)習(xí)和多步推理方面的優(yōu)勢,幫助易車更好地理解用戶需求,實(shí)現(xiàn)精準(zhǔn)營銷。
易車研發(fā)平臺部總經(jīng)理孫佑時表示,在大模型落地過程中,易車面臨的挑戰(zhàn)包括大模型基礎(chǔ)能力的構(gòu)建和生態(tài)服務(wù)形態(tài)的更新迭代。易車選擇云平臺作為實(shí)現(xiàn)路徑,利用騰訊云的TI平臺,提高了模型訓(xùn)練的易用性、穩(wěn)定性和效率。通過騰訊云的算力資源和算法工程師資源,易車模型在準(zhǔn)確率、問答速度和質(zhì)量上都有顯著提升。
智能客服場景:讓機(jī)器擁有感情
客詢是旅游服務(wù)中至關(guān)重要的環(huán)節(jié)。不同于簡單的商品交易,旅游服務(wù)涉及復(fù)雜的咨詢與個性化服務(wù)。在大模型建設(shè)中,同程旅行面臨了開放性問題處理和邏輯推理的挑戰(zhàn)。同程旅行與騰訊云的合作,旨在通過共建客詢垂類大模型,提升智能客服的理解能力、人性化和回復(fù)準(zhǔn)確度。
同程旅行副總裁余沛介紹,通過與騰訊云的緊密合作,同程旅行在酒店客詢場景中進(jìn)行了試點(diǎn),通過定制的原子能力模塊,實(shí)現(xiàn)了上下文意圖識別和推理計(jì)算,在短文識別率上能夠做到一次性超過90%的準(zhǔn)確率,即使在復(fù)雜的多輪對話中,也能做到一次性超過70%的識別準(zhǔn)確率。
風(fēng)險(xiǎn)管控場景:高安全、強(qiáng)適應(yīng)的大模型應(yīng)用
中信百信銀行在金融風(fēng)控領(lǐng)域應(yīng)用大模型產(chǎn)品時,特別注重安全性、隱私保護(hù)、可解釋性、高精度、可擴(kuò)展性和適應(yīng)性。這些要求確保了模型不僅能提供準(zhǔn)確的風(fēng)險(xiǎn)預(yù)測,還能符合法律法規(guī),保護(hù)用戶數(shù)據(jù)。
在風(fēng)控場景中應(yīng)用大模型可能會遇到數(shù)據(jù)質(zhì)量、多樣性、對抗訓(xùn)練、多任務(wù)學(xué)習(xí)、模型結(jié)構(gòu)設(shè)計(jì)等方面的挑戰(zhàn)。中信百信銀行大數(shù)據(jù)部總經(jīng)理彭南博在對談中表示,為了解決這些問題,中信百信銀行采取了一系列技術(shù)措施,包括數(shù)據(jù)質(zhì)量控制和模型結(jié)構(gòu)優(yōu)化等。大模型技術(shù)開始落地到風(fēng)險(xiǎn)管控中,進(jìn)一步提升了風(fēng)控的質(zhì)量和效率。