2025年云原生AI底座技術(shù)白皮書

2025-10-6 20:51| 發(fā)布者: 劉火云9 0

摘要: 在人工智能技術(shù)迅猛發(fā)展的背景下，企業(yè)智能化轉(zhuǎn)型正面臨算力需求激增、資源利用效率低下以及成本與穩(wěn)定性難以平衡三大核心挑戰(zhàn)。尤其是在自動駕駛、大模型訓(xùn)練等高算力場景中，每日需處理上百GB甚至TB級的數(shù)據(jù)，高峰 ...

在人工智能技術(shù)迅猛發(fā)展的背景下，企業(yè)智能化轉(zhuǎn)型正面臨算力需求激增、資源利用效率低下以及成本與穩(wěn)定性難以平衡三大核心挑戰(zhàn)。

尤其是在自動駕駛、大模型訓(xùn)練等高算力場景中，每日需處理上百GB甚至TB級的數(shù)據(jù)，高峰期動輒消耗數(shù)百張GPU卡和數(shù)萬核CPU資源，傳統(tǒng)的資源調(diào)度模式已難以為繼。

如何構(gòu)建高效、彈性、低成本的AI基礎(chǔ)設(shè)施，成為企業(yè)邁向智能化的關(guān)鍵命題。

在此背景下，騰訊云TKE（Tencent Kubernetes Engine）提出“云原生智變出行”的全新理念，通過技術(shù)創(chuàng)新重構(gòu)資源調(diào)度與使用體驗，打造面向未來的高效能AI底座新范式。

其核心技術(shù)支柱由三大能力構(gòu)成：云函數(shù)（SCF）、超級節(jié)點與原生節(jié)點，分別對應(yīng)不同業(yè)務(wù)場景下的最優(yōu)解。

云函數(shù)SCF主打“無運維、極致彈性”，支持容器鏡像部署，兼容傳統(tǒng)Web框架，開發(fā)者只需關(guān)注業(yè)務(wù)邏輯，無需管理底層資源。

系統(tǒng)可根據(jù)實際請求毫秒級自動擴(kuò)縮容，結(jié)合跨可用區(qū)容災(zāi)與租戶級強(qiáng)隔離機(jī)制，實現(xiàn)超高可用性與安全性。

更重要的是，采用按量計費模式，真正實現(xiàn)“只為運行時長付費”，避免資源閑置浪費，顯著降低運營成本。

超級節(jié)點則定位為“極低門檻的Serverless容器服務(wù)”，兼容原生Kubernetes生態(tài)，允許用戶像管理普通Node一樣管理Serverless資源。

其最大優(yōu)勢在于秒級擴(kuò)容能力——冷啟動最快25秒，熱啟動僅需3-5秒，遠(yuǎn)優(yōu)于傳統(tǒng)K8s集群擴(kuò)容所需約3分鐘的時間。

同時支持包月、按量、離線等多種計費方式混合使用，并可通過計劃彈性功能提前鎖定資源供給，保障關(guān)鍵任務(wù)100%資源供應(yīng)，兼顧成本與穩(wěn)定性。

原生節(jié)點則聚焦深度優(yōu)化與FinOps實踐，集成騰訊自研內(nèi)核增強(qiáng)技術(shù)，支持CPU Burst、內(nèi)存壓縮、POD原地升降配、節(jié)點運行時水位保護(hù)等多項高級特性。

特別適用于GPU/CPU在離線混部場景，如白天用于推理、夜間用于訓(xùn)練的任務(wù)錯峰復(fù)用，最大化提升資源利用率。

通過跨集群、跨地域的GPU資源共享機(jī)制，進(jìn)一步打破資源孤島。

典型應(yīng)用場景中，智能輔助駕駛的數(shù)據(jù)脫敏處理通過“在線+離線”雙區(qū)調(diào)度策略，實現(xiàn)GPU資源錯峰復(fù)用。

結(jié)果顯示，僅用700多張GPU卡即可完成原本需1600+TB/天處理量的任務(wù)，節(jié)省300+張GPU投入，整體成本下降30%。

此外，EMR on TKE方案也驗證了容器化大數(shù)據(jù)平臺的彈性潛力。

綜上所述，TKE通過云函數(shù)、超級節(jié)點與原生節(jié)點三位一體的技術(shù)布局，不僅解決了AI時代算力供需矛盾，更推動企業(yè)從“資源堆砌”走向“智能調(diào)度”的新階段，為云原生與AI深度融合提供了可復(fù)制的技術(shù)范式。

出品方：騰訊云
發(fā)布時間：2025年