Z銀行成立于1987年,是中國境內(nèi)第一家完全由企業(yè)法人持股的股份制商業(yè)銀行,也是國家從體制外推動改革的第一家試點銀行,現(xiàn)已發(fā)展成為滬港兩地上市,擁有商業(yè)銀行、金融租賃、基金管理、人壽保險、境外投行等金融牌照的銀行集團(tuán)。至2021年末,Z銀行總資產(chǎn)規(guī)模達(dá)9.25萬億元,全年營業(yè)收入3312.53億元,位列英國《銀行家》全球銀行1000強(qiáng)榜單第11位,連續(xù)五年位居前20強(qiáng)。
Z銀行于2018年創(chuàng)立銀行業(yè)首個AI實驗室,目前對人工智能的研究已經(jīng)涵蓋自然語言處理、生物識別、機(jī)器學(xué)習(xí)、大數(shù)據(jù)等多個領(lǐng)域,并在支付、風(fēng)控、營銷、消費金融等諸多應(yīng)用場景下進(jìn)行實踐。
隨著AI在金融科技領(lǐng)域的廣泛應(yīng)用,金融機(jī)構(gòu)對AI的依賴度逐漸增強(qiáng),覆蓋營銷、風(fēng)控、智能識別、智能客服和量化交易等核心業(yè)務(wù)流程。這種依賴對服務(wù)連續(xù)性、業(yè)務(wù)響應(yīng)速度和運營成本收益比提出了更高的要求。特別是在AI應(yīng)用迅速擴(kuò)展的背景下,GPU資源的緊張問題日益凸顯,如何高效利用和管理這些資源成為AI在金融行業(yè)全面推廣的關(guān)鍵挑戰(zhàn)。
同時,考慮到AI在風(fēng)控、投研、防欺詐和智能客服等關(guān)鍵業(yè)務(wù)中的核心作用,金融機(jī)構(gòu)對平臺的高可用性和容災(zāi)能力提出了嚴(yán)格的標(biāo)準(zhǔn)。不僅要求平臺能夠在正常業(yè)務(wù)場景下穩(wěn)定運行,還需要具備快速恢復(fù)和應(yīng)對突發(fā)情況的能力。
此外,隨著AI應(yīng)用的廣泛部署,如何確保資源使用效率,避免資源浪費和成本超支,也成為金融機(jī)構(gòu)面臨的重要議題。
通過利用靈雀云的GPU虛擬化技術(shù)和標(biāo)準(zhǔn)化產(chǎn)品,Z銀行AI實驗室成功構(gòu)建了一個基于GPU虛擬化技術(shù)的人工智能平臺;
? 通過GPU虛擬化技術(shù),將單張GPU卡進(jìn)行碎片化切分,并按照業(yè)務(wù)需求靈活調(diào)度給不同的應(yīng)用程序使用。這有效避免了應(yīng)用程序長時間獨占GPU,提高了GPU卡的利用率,使得GPU資源利用率提升30%至50%。
? 該平臺能夠統(tǒng)一管理深圳、上海兩個不同地點的三個中心機(jī)房的服務(wù)器,并通過應(yīng)用調(diào)度策略,如節(jié)點標(biāo)簽、親和性等配置來完成應(yīng)用的多中心發(fā)布,從而實現(xiàn)了關(guān)鍵應(yīng)用的多活或主備容災(zāi)部署。
? 通過將平臺和K8s集群直接運行在裸金屬服務(wù)器上,避免了傳統(tǒng)虛擬化技術(shù)帶來的性能損失,保證了在保障應(yīng)用程序性能的同時,提高了CPU計算資源的利用率。
? 該平臺還具備按天為單位頻率的上線能力,并保證生產(chǎn)環(huán)境資源的充分利用和應(yīng)用的高可用性要求。
此外,協(xié)助Z銀行制定了平臺使用規(guī)范,并且提供平臺實施、應(yīng)用遷移、應(yīng)用安全加固及詳細(xì)的云原生相關(guān)技術(shù)培訓(xùn),同時為Z銀行運維人員定制了相關(guān)功能組件,使平臺操作更符合Z銀行的運維流程和規(guī)范,以提供更好的使用體驗。
已建成的平臺正在支撐一個規(guī)模龐大的容器集群,超300個物理機(jī)節(jié)點,支持調(diào)度1400多張GPU卡,為全行超過3000個AI類應(yīng)用提供支持,這些應(yīng)用涉及風(fēng)險控制、信用卡、AI實驗室等多個部門。并達(dá)成以下預(yù)期效果:
? 通過靈雀云先進(jìn)的GPU虛擬化技術(shù),顯著提高了行業(yè)內(nèi)的GPU資源使用效率,實現(xiàn)了高達(dá)30%-50%的提升。此技術(shù)進(jìn)一步釋放了GPU資源的潛能,提高了整體計算性能。
? 借助靈雀云的云原生能力,極大地減輕了開發(fā)與運維部門的工作負(fù)擔(dān)。通過自動化部署和一鍵式快速測試,使得開發(fā)測試過程更加高效流暢,提升了開發(fā)團(tuán)隊的工作效率。
? 實現(xiàn)應(yīng)用版本以“日”為單位的上線頻率,充分保證了生產(chǎn)環(huán)境資源的充分利用,以及應(yīng)用的高度可用性。這一創(chuàng)新性解決方案為各行各業(yè)帶來了前所未有的優(yōu)勢。
? 在AI實驗室的推動方面,靈雀云助力其在行業(yè)內(nèi)快速普及,并成功提升了AI技術(shù)在眾多關(guān)鍵領(lǐng)域的占比。通過引入機(jī)器學(xué)習(xí)、自然語言處理和知識圖譜等核心技術(shù),推動AI技術(shù)在更多場景的落地應(yīng)用。這一舉措不僅提高了風(fēng)險識別的準(zhǔn)確性和效率,還為信用卡、投研等業(yè)務(wù)領(lǐng)域帶來了實實在在的利益。