在預(yù)訓(xùn)練大模型催生的人工智能浪潮下,數(shù)據(jù)已經(jīng)成為各行各業(yè)不可或缺的新型生產(chǎn)要素,同時也面臨著一系列棘手挑戰(zhàn):既要保護(hù)數(shù)據(jù)安全,又要利用數(shù)據(jù)創(chuàng)造經(jīng)濟(jì)效益。

(相關(guān)資料圖)

讓數(shù)據(jù)可用不可見的“隱私計算”,由此被越來越頻繁地提及。有人打了一個形象的比喻:隱私計算就像是一個黑箱,人們不需要看到黑箱內(nèi)是如何運作的,卻可以得到想要運算結(jié)果,可以說是“魚與熊掌”兼得的最優(yōu)解。

在大廠扎堆的隱私計算賽道中,有一個“黑馬”級的創(chuàng)新團(tuán)隊——沖量在線,成立僅三年多時間就躋身國內(nèi)隱私計算第一梯隊,并頻頻在人工智能應(yīng)用落地有關(guān)的重量級比賽中嶄露頭角。

首創(chuàng)隱私計算與海光異構(gòu)加速卡結(jié)合,性能比肩國際主流產(chǎn)品

可能不少人對“沖量在線”這個名字還有些陌生,卻是隱私計算賽道中名符其實的實力派選手。

2022年6月,沖量在線與中科海光聯(lián)合推出了全國產(chǎn)化的異構(gòu)加速隱私計算一體機(jī),將適用于CPU芯片上的CSV技術(shù)與海光芯片異構(gòu)加速芯片直通,利用GPU資源加速TEE中的隱私計算。和市場上的其他可信方案相比,沖量在線的異構(gòu)加速隱私計算一體機(jī)表現(xiàn)出了多方面的優(yōu)勢:

第一,在整個機(jī)器學(xué)習(xí)的訓(xùn)練和推理過程中,數(shù)據(jù)無需落盤,保證數(shù)據(jù)不存在隱私泄露的困擾;

第二,基于海光異構(gòu)加速卡,保證上層基于深度學(xué)習(xí)框架上的AI應(yīng)用和隱私計算算法不需要修改;

第三,攜手海光,實現(xiàn)底層核心的自主、安全,達(dá)成了端到端的軟硬件全國產(chǎn)化。

目前,沖量在線基于海光的異構(gòu)加速機(jī)密計算產(chǎn)品已經(jīng)在中國電信和浦發(fā)銀行的項目中落地,安全性能可以比肩國際主流產(chǎn)品,是國內(nèi)首個基于GPU的TEE方案,可同時滿足大規(guī)模數(shù)據(jù)訓(xùn)練推理的高性能和安全需求。

打通隱私計算“最后一公里”,需要產(chǎn)業(yè)鏈互促共贏

在沖量在線的異構(gòu)加速隱私計算一體機(jī)方案中,“AI安全開放平臺”是一個不可或缺的模塊,用于實現(xiàn)AI安全對外共享服務(wù)的場景,也就是現(xiàn)在很流行的可信MaaS平臺(Model as a Service)。

而沖量在線“AI安全開放平臺”的誕生契機(jī),則是第二屆光合組織解決方案大賽。通過大賽這一平臺,沖量在線加深與了海光的合作。在經(jīng)歷了長達(dá)7個月的研發(fā)“急行軍“后,雙方聯(lián)合推出了“沖量AI安全開放平臺”。該平臺為政務(wù)、金融、算力中心等領(lǐng)域提供安全可靠的AI服務(wù)。

銀行等金融機(jī)構(gòu)通過“AI安全開放平臺”,將成熟應(yīng)用的AI能力(OCR能力、NLP能力等) 向第三方輸出,無需修改AI應(yīng)用和隱私計算算法,就能對外提供隱私計算AI SaaS服務(wù)。這不僅可以保證第三方提交的合同、數(shù)據(jù)等信息的安全,也能保證銀行AI算法的安全性,在全面可控的隱私計算機(jī)制下實現(xiàn)數(shù)據(jù)資產(chǎn)的價值變現(xiàn)。

沖量在線合伙人、解決方案總經(jīng)理黃淼介紹:“在整個比賽過程中,光合組織給予了非常多的資源支持。比如一些深度學(xué)習(xí)框架,框架的開發(fā)者并未對國產(chǎn)芯片進(jìn)行適配。比賽過程中,我們向海光提出了大量優(yōu)化和適配需求,對方基本在一個禮拜內(nèi)就能解決,可以明顯感受到國產(chǎn)軟硬件生態(tài)的持續(xù)改善。”

而國產(chǎn)生態(tài)的改善,帶來的直接結(jié)果就是業(yè)務(wù)量的激增。黃淼介紹,在某銀行AI SaaS服務(wù)的安全能力技術(shù)提升的項目招標(biāo)中,參與投標(biāo)的企業(yè)不乏一些知名的金融科技和AI公司,但最終中標(biāo)的是沖量在線的產(chǎn)品和方案。因為沖量在線對業(yè)務(wù)的理解更加深刻,譬如如何將模型在國產(chǎn)芯片上運行和優(yōu)化,對外應(yīng)該提供什么樣的接口,怎么和客戶的業(yè)務(wù)系統(tǒng)進(jìn)行集成等。

光合組織的第三屆解決方案大賽已經(jīng)啟動。大賽設(shè)置了集智計劃(人工智能)、桃李計劃(教育信息化)、堡壘計劃(安全技術(shù)應(yīng)用)三大細(xì)分賽道,優(yōu)勝者將贏取超過1000萬的資金及資源,參賽者將獲得專屬技術(shù)指導(dǎo)、產(chǎn)業(yè)資源對接、品牌推廣助力等多維度支持。

關(guān)鍵詞：