AI應(yīng)用落地，算力不足仍是擺在眾人面前的***道檻。
這不，作為國(guó)產(chǎn)芯片設(shè)計(jì)公司，燧原科技成立時(shí)就碰上了這個(gè)老大難。
好在后來(lái)通過(guò)上云，其驗(yàn)證、benchmark測(cè)試效率從2周準(zhǔn)備環(huán)境縮短至30分鐘，算力充足加速了芯片研發(fā)。
△燧原科技副總裁任樹(shù)峰
當(dāng)下，云+AI基礎(chǔ)設(shè)施已成為企業(yè)智能化轉(zhuǎn)型的關(guān)鍵支撐。
在以生成式AI為代表的技術(shù)驅(qū)動(dòng)下，互聯(lián)網(wǎng)行業(yè)作為云+AI應(yīng)用的先鋒，已經(jīng)找到了新的增長(zhǎng)點(diǎn)。
具體是如何做到的呢？？
9月6日，騰訊數(shù)字生態(tài)大會(huì)「互聯(lián)網(wǎng)AI應(yīng)用專(zhuān)場(chǎng)」在深圳拉開(kāi)序幕，現(xiàn)場(chǎng)人從人…（頭頂臺(tái)風(fēng)摩羯）
整場(chǎng)大會(huì)只做一件事，講干貨、講干貨、講干貨。例如：
作為C端消費(fèi)玩家，值得買(mǎi)科技如何讓AIGC內(nèi)容點(diǎn)擊率是用戶(hù)生產(chǎn)內(nèi)容的103% ？作為國(guó)產(chǎn)算力先鋒，燧原科技***初如何擺脫峰值算力供給難題？作為和技術(shù)沒(méi)那么近的文娛行業(yè)，貓眼娛樂(lè)如何完成幾十上百TB動(dòng)畫(huà)渲染？……話(huà)不多說(shuō)，這就挑重點(diǎn)為大家奉上。
關(guān)于用AI轉(zhuǎn)型升級(jí)，他們有話(huà)說(shuō)
在大會(huì)現(xiàn)場(chǎng)，大家達(dá)成了一個(gè)基本共識(shí)：
技術(shù)方案的選擇將影響AI應(yīng)用的效率。
至今為止，有3條技術(shù)路徑成為趨勢(shì)：
結(jié)合專(zhuān)業(yè)領(lǐng)域知識(shí)做RAGAgent將成為應(yīng)用落地的主要方式云計(jì)算是夯實(shí)基礎(chǔ)的重要底座引用騰訊云副總裁許華彬的話(huà)來(lái)解釋?zhuān)?/span>
RAG結(jié)合企業(yè)自有知識(shí)，無(wú)需企業(yè)花費(fèi)較多人力和算力，以及對(duì)大模型SFT精調(diào)，是當(dāng)前企業(yè)級(jí)AI應(yīng)用落地的成熟方案。近期來(lái)多行業(yè)場(chǎng)景的AI Agent蓬勃發(fā)展，面向Ｃ端的原生應(yīng)用，以及B端企業(yè)級(jí)業(yè)務(wù)流程自動(dòng)化，將成為后續(xù)應(yīng)用落地的主要方式。云計(jì)算是夯實(shí)基礎(chǔ)的重要底座，云原生技術(shù)助力企業(yè)實(shí)現(xiàn)敏捷開(kāi)發(fā)，以新技術(shù)、新市場(chǎng)的創(chuàng)新，實(shí)現(xiàn)增長(zhǎng)突破。
那么問(wèn)題來(lái)了，不同行業(yè)/企業(yè)如何根據(jù)自身情況做選擇？
下面有請(qǐng)幾位代表性玩家為我們“現(xiàn)身講案例”：
用戶(hù)更喜歡點(diǎn)擊AIGC內(nèi)容了
作為聚焦消費(fèi)領(lǐng)域的玩家，值得買(mǎi)科技分享了一個(gè)有意思的數(shù)據(jù)：
在***新內(nèi)部測(cè)試中，通過(guò)AIGC生產(chǎn)的內(nèi)容，它的點(diǎn)擊率已經(jīng)是用戶(hù)生產(chǎn)內(nèi)容的103%。
該公司CTO王云峰坦言，一般情況下，人們不太喜歡AI生產(chǎn)的內(nèi)容（擔(dān)心虛假信息），而現(xiàn)在，這一點(diǎn)擊率已經(jīng)打破了舊有印象。
why？？
復(fù)盤(pán)背后的原因，王云峰首先分享了值得買(mǎi)對(duì)AI的不同認(rèn)知：
AI不僅僅是一個(gè)技術(shù)，其實(shí)它本身也是一個(gè)生態(tài)。
按他的話(huà)說(shuō)，如果AI純粹是一個(gè)技術(shù)，那么AI應(yīng)用落地可能意味著單純使用通用模型；而實(shí)際上，AI不僅僅是生產(chǎn)力，很多時(shí)候它在重塑我們的生產(chǎn)流程。
放到消費(fèi)領(lǐng)域的AI生態(tài)，一個(gè)明顯特征讓它區(qū)別于金融、醫(yī)療等領(lǐng)域。
在消費(fèi)領(lǐng)域，經(jīng)驗(yàn)遠(yuǎn)大于知識(shí)。
也就是說(shuō)，不同于金融、醫(yī)療等領(lǐng)域有很多確定性的知識(shí)可供模型訓(xùn)練學(xué)習(xí)，用戶(hù)消費(fèi)主要憑借經(jīng)驗(yàn)，個(gè)性化非常強(qiáng)。
概括下來(lái)，消費(fèi)領(lǐng)域的特點(diǎn)主要包括：
內(nèi)容場(chǎng)景靈活。用戶(hù)消費(fèi)更多憑借個(gè)人經(jīng)驗(yàn)而非知識(shí)，且動(dòng)態(tài)變化；能力外延拓展。消費(fèi)不單指買(mǎi)東西本身，還有之后的一系列體驗(yàn)，邊界非常廣；消費(fèi)需求復(fù)雜。消費(fèi)需求復(fù)雜多樣，個(gè)性化強(qiáng)
認(rèn)知有了，行業(yè)特點(diǎn)也理清了。
所以，AIGC內(nèi)容之所以能逐漸贏得青睞，答案正式揭曉：
讓AI在更大程度上幫助用戶(hù)做功課。
值得買(mǎi)發(fā)現(xiàn)，讓AI幫用戶(hù)去做那些以前要做很多功課才能解決的問(wèn)題，用戶(hù)點(diǎn)擊率和閱讀效率、閱讀時(shí)長(zhǎng)都會(huì)比通過(guò)AI單純生成內(nèi)容要好很多。
具體而言，值得買(mǎi)的做法是：推出一套AI解決方案。
包括1個(gè)“值得買(mǎi)消費(fèi)大模型”（自研13B消費(fèi)模型），“商品庫(kù)”和“內(nèi)容庫(kù)”2大數(shù)據(jù)庫(kù)，AIUC分析引擎、AIGC生成引擎和AGENT調(diào)度引擎3個(gè)應(yīng)用構(gòu)建框架，以及提供針對(duì)性的AI解決方案的4類(lèi)應(yīng)用AI戰(zhàn)略。
在這一方案中，上云是值得買(mǎi)戰(zhàn)略的關(guān)鍵：
通過(guò)騰訊混元大模型等理解語(yǔ)音、視頻、圖像的多模態(tài)數(shù)據(jù)；自購(gòu)算力托管+多云算力，迅速進(jìn)行模型訓(xùn)練和推理部署；通過(guò)騰訊云容器場(chǎng)景GPU虛擬化，實(shí)現(xiàn)對(duì)單個(gè)GPU的更細(xì)粒度劃分，提升資源利用率、減少資源和人力消耗；實(shí)現(xiàn)10億+條商品庫(kù)與近百億條內(nèi)容庫(kù)的數(shù)據(jù)處理；
芯片設(shè)計(jì)也能上云了
作為國(guó)產(chǎn)AI算力先行者，燧原科技副總裁任樹(shù)峰一上臺(tái)就回顧了創(chuàng)業(yè)初期面臨的痛點(diǎn)：
對(duì)一家芯片設(shè)計(jì)創(chuàng)業(yè)公司來(lái)說(shuō)，如何***峰值算力供給一直是個(gè)難題。
據(jù)他介紹，一個(gè)芯片設(shè)計(jì)項(xiàng)目的研發(fā)周期大概在1~2年，不同時(shí)間對(duì)算力的需求呈現(xiàn)波峰波谷狀態(tài)。
實(shí)際情況是，公司一般會(huì)集中在兩三個(gè)月內(nèi)做很復(fù)雜、壓力很大的模擬仿真和各種運(yùn)算。
與此同時(shí)，通常大家認(rèn)為芯片設(shè)計(jì)就是寫(xiě)IP或者寫(xiě)代碼，但實(shí)際上，一家芯片公司還需要建機(jī)房、買(mǎi)服務(wù)器，以及管理服務(wù)器。
那么問(wèn)題來(lái)了，對(duì)當(dāng)時(shí)的燧原來(lái)說(shuō)：
面對(duì)擴(kuò)容需求，公司需要買(mǎi)服務(wù)器，這個(gè)過(guò)程需要工程師等待算力；而且，整個(gè)機(jī)房的建設(shè)也屬于一件很復(fù)雜的工程。
結(jié)果就是，千萬(wàn)級(jí)IT開(kāi)銷(xiāo)花出去了，工程師還是因?yàn)?span id="ka6ukrr" class="bjh-strong" style="max-width: ***; font-size: 18px; color: #333333; font-weight: bold;">算力不夠需要等物理擴(kuò)容、等算力。
后來(lái)的解決方案是：上云。
據(jù)任樹(shù)峰介紹，芯片設(shè)計(jì)上云在整個(gè)行業(yè)還不太常見(jiàn)，原因主要是相關(guān)數(shù)據(jù)過(guò)于敏感。
對(duì)此，燧原科技聯(lián)合騰訊云打造了本地+上云的存算分離式新架構(gòu)。
效果上，通過(guò)騰訊云保障燧原的峰值算力供給，燧原驗(yàn)證、benchmark測(cè)試效率從2周準(zhǔn)備環(huán)境縮短至30分鐘，提升作業(yè)并發(fā)***、縮短仿真周期30%。
動(dòng)畫(huà)渲染更絲滑了
到了看似和技術(shù)沒(méi)那么近的文娛行業(yè)，貓眼娛樂(lè)副總裁徐曉也揭露了業(yè)內(nèi)痛點(diǎn)：
在動(dòng)畫(huà)電影制作時(shí)，涉及跨城市協(xié)作且數(shù)據(jù)量達(dá)到數(shù)十至上百TB時(shí)，使用傳統(tǒng)網(wǎng)絡(luò)進(jìn)行傳輸非常緩慢。
這里要補(bǔ)充下，一般一個(gè)動(dòng)畫(huà)項(xiàng)目的服務(wù)公司和工作人員可能分散在全國(guó)各地，需要將四散的工程文件進(jìn)行匯總并統(tǒng)一渲染。
通常情形是，大家只能依賴(lài)快遞U盤(pán)或硬盤(pán)給對(duì)方，跨市傳輸至少需要1天，跨省則需2天，而跨國(guó)協(xié)作甚至可能拖延到十幾天。
經(jīng)過(guò)試驗(yàn)，貓眼基于騰訊云數(shù)據(jù)傳輸、數(shù)據(jù)存儲(chǔ)安全方面能力打造了貓眼渲染平臺(tái)。
讓工作者全部用遠(yuǎn)程桌面登錄到集群，集群上安裝了常用工作軟件。
如此一來(lái)，工作者只需遠(yuǎn)程在集群里制作，不僅省去了素材交換下載環(huán)節(jié)，還能更好保護(hù)版權(quán)方。
解決了這個(gè)大問(wèn)題后，再用AI去做建模……
另外，關(guān)于貓眼AI轉(zhuǎn)型之路，徐曉在會(huì)中透露：
（我們）沒(méi)有基建建設(shè)能力，只能做一些垂類(lèi)模型。
他重點(diǎn)分享了票房預(yù)測(cè)這一場(chǎng)景，當(dāng)前，貓眼能夠根據(jù)單個(gè)影片特征和同期大盤(pán)預(yù)估票房。
這里依托了基于騰訊云打造的大數(shù)據(jù)平臺(tái)。具體包括：
基于騰訊云Wedata數(shù)據(jù)開(kāi)發(fā)治理平臺(tái)，提供數(shù)據(jù)集成，數(shù)據(jù)開(kāi)發(fā)、數(shù)據(jù)資產(chǎn)管理等；基于騰訊云DLC數(shù)據(jù)湖產(chǎn)品，提供Serverless方式使用存儲(chǔ)計(jì)算資源，按需自動(dòng)彈性擴(kuò)縮容；基于騰訊云DLC數(shù)據(jù)湖產(chǎn)品，提供統(tǒng)一湖格式存儲(chǔ)、實(shí)時(shí)寫(xiě)入和更新數(shù)據(jù)入湖；騰訊云BI提供查詢(xún)加速能力，聯(lián)合TCHouse-D提供的高性能查詢(xún)和加載報(bào)表數(shù)據(jù)到緩存，提供秒級(jí)交互式分析能力；數(shù)據(jù)顯示，該平臺(tái)可實(shí)現(xiàn)日均3萬(wàn)+離線數(shù)倉(cāng)調(diào)度任務(wù)穩(wěn)定運(yùn)行，核心任務(wù)執(zhí)行效率提升20%。
還有哪些看點(diǎn)
事實(shí)上，本次大會(huì)聚齊了SaaS、文娛、社交、營(yíng)銷(xiāo)、電商、招聘等多個(gè)泛AI應(yīng)用場(chǎng)景，到場(chǎng)分享的企業(yè)還有金蝶云、趣丸科技、智譜、獵聘、筷子科技……
篇幅有限，下面只能分享部分嘉賓看法。
作為L(zhǎng)LM的頭部玩家，智譜企業(yè)商業(yè)技術(shù)中心總經(jīng)理柴思遠(yuǎn)分享了：
把大模型真正變成企業(yè)生產(chǎn)力，有幾件事值得思考。
具體而言，企業(yè)要選一個(gè)好的基座模型，同時(shí)內(nèi)部***也有類(lèi)似業(yè)務(wù)BP的角色（懂模型價(jià)值、懂業(yè)務(wù)）。
更重要的是，***發(fā)動(dòng)全員去使用AI。
真正好的應(yīng)用還是基于業(yè)務(wù)場(chǎng)景當(dāng)中一些原生應(yīng)用，而這些應(yīng)用的創(chuàng)新肯定是來(lái)自于自下而上的組織內(nèi)部的元素。
隨著數(shù)據(jù)資產(chǎn)的沉淀和變現(xiàn)，企業(yè)可以構(gòu)筑自身競(jìng)爭(zhēng)優(yōu)勢(shì)。
今天我們?cè)诖竽Ｐ蜕下涞貞?yīng)用，大家做的所有的指令工程和SRT的內(nèi)容，隨著這個(gè)場(chǎng)景越來(lái)越深入的探索，這就會(huì)成為我們企業(yè)自身在大模型這個(gè)時(shí)代數(shù)據(jù)的資產(chǎn)或者是數(shù)據(jù)的壁壘。
***后是業(yè)務(wù)場(chǎng)景，前期可能適合將大模型嵌入已有工作流程；更長(zhǎng)遠(yuǎn)的，企業(yè)需要找到一些新的場(chǎng)景和業(yè)務(wù)模式，然后把模型的能力使用進(jìn)去。
另外，趣丸技術(shù)保障負(fù)責(zé)人劉亞丹分享了：
應(yīng)用AI賦能工具要回答的3個(gè)問(wèn)題。
展開(kāi)來(lái)說(shuō)，劉亞丹首先提醒AI轉(zhuǎn)型也要講ROI，即“愿意為AI轉(zhuǎn)型花多少？想得到怎樣的成果？”。
然后還要尋找切入點(diǎn)。按他的說(shuō)法：
提升3到5倍效率的事情，我們才投資去做。
同時(shí)，基于以往向客戶(hù)交付顛覆性東西的嘗試，他還分享了一條經(jīng)驗(yàn)教訓(xùn)：
在切入點(diǎn)上，不要改變現(xiàn)有的流程。
***后，騰訊混元高級(jí)AI策略產(chǎn)品經(jīng)理張漢策分享了如何構(gòu)建AI角色。
他們構(gòu)建的《長(zhǎng)相思》AI角色獲得了成功：長(zhǎng)相思AI角色對(duì)話(huà)總熱度超3.7億，“相柳” 單角色熱度超2億。
重點(diǎn)是，他詳細(xì)介紹了不同訓(xùn)練方法踩過(guò)的坑，包括純prompt法、RAG法，以及Agent法。
并***終總結(jié)了長(zhǎng)相思采用的方法。
騰訊云：讓企業(yè)更聚焦自身核心業(yè)務(wù)
相信大家也發(fā)現(xiàn)了一個(gè)華點(diǎn)：這些企業(yè)在AI轉(zhuǎn)型升級(jí)中都用上了騰訊云。
據(jù)了解，騰訊云擁有廣泛的全球基礎(chǔ)設(shè)施，覆蓋21個(gè)地區(qū)，運(yùn)營(yíng)58個(gè)可用區(qū)，全球服務(wù)器數(shù)量超過(guò)100萬(wàn)臺(tái)，全球加速節(jié)點(diǎn)超過(guò)3200個(gè)，帶寬儲(chǔ)備達(dá)到200Tbps。
一直以來(lái)，騰訊云都以深厚的公有云實(shí)力和分布式云戰(zhàn)略，持續(xù)推動(dòng)各行各業(yè)的數(shù)字化轉(zhuǎn)型。
截至目前，騰訊云AI產(chǎn)品已覆蓋超過(guò)400家互聯(lián)網(wǎng)頭部企業(yè)，累計(jì)服務(wù)超過(guò)12萬(wàn)家互聯(lián)網(wǎng)客戶(hù)。
從AI應(yīng)用落地面臨的挑戰(zhàn)出發(fā)，騰訊云行業(yè)架構(gòu)副總監(jiān)邱浩分享了騰訊云AI全棧解決方案。
從基礎(chǔ)設(shè)施層、模型層、模型加速層、機(jī)器學(xué)習(xí)平臺(tái)層、應(yīng)用平臺(tái)層和業(yè)務(wù)應(yīng)用層闡述了騰訊云在計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)，一站式AI開(kāi)發(fā)平臺(tái)騰訊云TI-ONE以及云原生產(chǎn)品等方面的能力，并給出了對(duì)應(yīng)不同階段AI應(yīng)用開(kāi)發(fā)的具體方案。
具體而言，騰訊云提供了如下開(kāi)箱即用的產(chǎn)品：
騰訊混元大模型。企業(yè)和個(gè)人開(kāi)發(fā)者，都可以通過(guò)API直接調(diào)用騰訊混元；騰訊云TI平臺(tái)。打通從數(shù)據(jù)獲取到模型訓(xùn)練部署、***后到AI應(yīng)用開(kāi)發(fā)的全流程鏈路；數(shù)據(jù)庫(kù)TDSQL。涵蓋金融級(jí)分布式、云原生、分析型等多引擎融合的完整數(shù)據(jù)庫(kù)產(chǎn)品體系，支持?jǐn)?shù)據(jù)庫(kù)遷移；大數(shù)據(jù)處理套件TBDS。可在公有云、私有云、非云化環(huán)境，根據(jù)不同數(shù)據(jù)處理需求組合合適的存算分析組件；……總之，一句話(huà)概括騰訊云的作用，那就是可以讓企業(yè)更聚焦自身核心業(yè)務(wù)。
借用值得買(mǎi)科技王云峰的說(shuō)法：
企業(yè)面臨的不確定性不會(huì)消失，但可以讓專(zhuān)業(yè)的人來(lái)解決。
BTW，就在大會(huì)前一天，騰訊混元發(fā)布了全新Turbo大模型，作為新一代的旗艦?zāi)Ｐ汀?/span>
相比上一代混元pro，推理性能提升超過(guò)***的情況下，成本降低了50%，效果對(duì)標(biāo)GPT-4o。
此外，新模型也支持角色扮演、代碼生成FunctionCall，以及全新推出的支持騰訊生態(tài)整合的AI搜索聯(lián)網(wǎng)的能力。
對(duì)了，Turbo模型這一次的定價(jià)也降低了50%。
