靈雀云云原生MLOps以及其開源工具kubeflow-chart，致力于最大程度地降低企業(yè)應(yīng)用AI能力的門檻，使企業(yè)獲得高效、低成本、規(guī)范化、可追溯的AI應(yīng)用開發(fā)以及上線流程，幫助企業(yè)快速應(yīng)用云原生機(jī)器學(xué)習(xí)技術(shù)，構(gòu)建高效、穩(wěn)定、可擴(kuò)展的MLOps平臺(tái)。

靈雀云云原生MLOps相較于其他MLOps開源工具，具備以下亮點(diǎn)：

●非侵入開發(fā)模式：支持非侵入式的、可視化的工作流編排開發(fā)環(huán)境，不需要改造原先工程代碼即可應(yīng)用MLOps能力。 可視化分布式:支持在可視化工作流開發(fā)時(shí)，直接配置多種形式的分布式訓(xùn)練 多租戶和配額:和ACP聯(lián)動(dòng)的可視化多租戶資源配額(CPU, GPU, vGPU)管理能力

●虛擬GPU：支持使用GPUManager管理的虛擬GPU資源

●調(diào)度器：使用Volcano增強(qiáng)分布式訓(xùn)練任務(wù)的調(diào)度器(支持TFJob, PytorchJob, MPIJob, 和通用 Argo 工作流) 實(shí)驗(yàn)追蹤:集成MLFlow代替 Kubeflow實(shí)驗(yàn)追蹤和可視化實(shí)驗(yàn)比對(duì)

●數(shù)據(jù)標(biāo)注：集成label studio聯(lián)動(dòng)S3存儲(chǔ)完成可視化數(shù)據(jù)標(biāo)注

●SQL訓(xùn)練：集成SQLFlow ，使用SQL語言完成模型訓(xùn)練和預(yù)測

●大模型：在數(shù)據(jù)存儲(chǔ)、分布式訓(xùn)練、模型存儲(chǔ)等MLOps關(guān)鍵環(huán)節(jié)，支持對(duì)大模型的存儲(chǔ)和調(diào)用中文界面：支持中文界面

●國產(chǎn)硬件支持：支持 arm64 架構(gòu)的各種國產(chǎn)CPU和部分國產(chǎn)GPU案例教程：內(nèi)置大量中文案例和教程N(yùn)otebook，快速上手

●高性能：內(nèi)置IntelTensorflow,NeralCompressor,GPUManager,Triton等工具充分發(fā)揮訓(xùn)練、推理的性能 高可用:支持平臺(tái)高可用，發(fā)布的推理服務(wù)高可用

靈雀云Alauda MLOps 現(xiàn)已支持 Meta LLaMA 2 全系列模型  了解更多>>

AIGC時(shí)代，基于云原生 MLOps 構(gòu)建屬于你的大模型（下） 了解更多>>

AIGC時(shí)代，基于云原生 MLOps 構(gòu)建屬于你的大模型（上） 了解更多>>

企業(yè)級(jí)云原生MLOps在多種應(yīng)用方向均可以發(fā)揮其功能，包括傳統(tǒng)數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)，甚至超大規(guī)模語言模型、對(duì)話AI等。目前平臺(tái)包含了4個(gè)主要功能板塊：

● 數(shù)據(jù)集管理

● 機(jī)器學(xué)習(xí)開發(fā)

● 模型訓(xùn)練

● 模型/推理服務(wù)