Google Cloud擴大機密運算版圖,強化AI推論與提示詞加密防護

6月下旬雲端服務供應商Google Cloud宣布擴大機密運算(Confidential Computing)服務,包括推出搭載Nvidia Blackwell架構GPU的Confidential G4 VMs預覽版、用於加密AI提示詞與模型回應的開源Prompt Encryption SDKs,並強化Confidential Space與Confidential VMs等服務,擴大機密運算在多方資料協作、遠端證明驗證(remote attestation)與雲端工作負載防護上的應用範圍。

Confidential G4 VMs採用Nvidia RTX PRO 6000 Blackwell Server Edition GPU,底層以第5代AMD EPYC Turin處理器搭配AMD安全加密虛擬化(Secure Encrypted Virtualization,SEV)技術,讓敏感資料在可信執行環境(Trusted Execution Environment,TEE)中處理時受到硬體層級隔離保護,並加密CPU與GPU之間傳輸的資料。Google Cloud也推出支援機密運算的Google Kubernetes Engine節點Confidential G4 GKE Nodes,供企業在Kubernetes環境執行AI推論、模型微調與高效能運算等涉及敏感資料的工作負載。

Google Cloud也開源Prompt Encryption SDKs,協助開發者加密AI提示詞與模型回應,讓這些資料在傳送至機密運算環境中的推論伺服器時,以端對端加密方式受到保護。

在多方資料協作方面,Google Cloud更新機密運算資料協作環境Confidential Space,讓不同組織可在不向其他參與方或Google Cloud揭露原始資料的情況下,進行資料分析或機器學習。Confidential Space也新增整合Intel獨立證明驗證服務Intel Trust Authority,可在將加密金鑰交付工作負載之前,先驗證Confidential Space執行環境未遭竄改,並符合客戶預期的安全狀態。此外,Confidential Space已正式支援Nvidia Hopper架構GPU,可用於聯邦學習、共同訓練模型等跨組織AI應用。