優(yōu)刻得AIGC算力底座亮相，中立安全云計算助力大模型發(fā)展

2023-07-08 02:53:18 來源：天極大咖秀

7月7日上午，在2023世界人工智能大會“AI生成與垂直大語言模型的無限魅力”主題論壇上，UCloud優(yōu)刻得AIGC算力底座亮相，優(yōu)刻得董事長兼CEO季昕華發(fā)表了“中立安全云計算助力大模型發(fā)展”主題演講，介紹優(yōu)刻得在AIGC領(lǐng)域的技術(shù)產(chǎn)品、工程能力和生態(tài)建設(shè)等發(fā)展情況。

【資料圖】

作為具有10年云計算技術(shù)積累和全面工程能力的優(yōu)刻得，全面擁抱了這次AIGC引爆的科技熱潮。在演講開始，季昕華展示了優(yōu)刻得公司內(nèi)部系統(tǒng)的“AI化”，短短幾個月內(nèi)，就基于公司內(nèi)部使用場景，迅速推出了：“識問”智能助手平臺，UCoder代碼助手平臺，AI繪畫助手平臺、大模型安全管理平臺等。優(yōu)刻得通過對AIGC應(yīng)用側(cè)的快速響應(yīng)和研發(fā)，展示了在這個領(lǐng)域內(nèi)“玩兒得轉(zhuǎn)”的技術(shù)實力和工程能力、以及對用戶場景的敏感洞察力。

由AIGC引爆的熱潮里，國內(nèi)大模型已百花齊放，競速神通，但也面臨算力、數(shù)據(jù)、模型穩(wěn)定性、工程能力及安全等多方面的挑戰(zhàn)。

針對AIGC發(fā)展的問題，優(yōu)刻得在本次WAIC上隆重亮相的AIGC解決方案全景圖，通過深厚的技術(shù)積累和全面的系統(tǒng)工程能力，推出涵蓋了數(shù)據(jù)中心、計算平臺、管理平臺、網(wǎng)絡(luò)服務(wù)、應(yīng)用服務(wù)、生態(tài)接口的一系列產(chǎn)品和解決方案。開放、安全、定制的AIGC解決方案讓客戶既能利舊已有服務(wù)器資源，又可以便捷享受公有云的彈性擴容，實現(xiàn)IT層面的降本增效。并可通過數(shù)據(jù)中心托管專區(qū)，為用戶提供完全物理隔離的獨享機柜、服務(wù)器、網(wǎng)絡(luò)、存儲資源，結(jié)合完整的安全方案和專家服務(wù)，確保了用戶的大模型平穩(wěn)運行。

優(yōu)刻得在國家“東數(shù)西算”算力樞紐節(jié)點，自建了低成本、高附加值的數(shù)據(jù)中心，相較北京同等質(zhì)量的數(shù)據(jù)中心，成本下降40%。數(shù)據(jù)中心內(nèi)，提供多款GPU算力資源選擇，可為大模型的AI訓(xùn)練、推理、數(shù)據(jù)處理等多場景打造靈活、可擴展的算力服務(wù)，充分滿足高電算力集群的高電需求。同時，通過IB和RoCE的高性能網(wǎng)絡(luò)，打造互聯(lián)的高性能計算集群，實現(xiàn)多節(jié)點間無損通信，滿足用戶多節(jié)點并行計算的場景需求。

【優(yōu)刻得AIGC解決方案全景圖】

優(yōu)刻得的AIGC金翼專區(qū)，分為“訓(xùn)練區(qū)、存儲區(qū)、推理區(qū)和管理區(qū)”，在訓(xùn)練區(qū)主要以A800/H800進行集群專區(qū)建設(shè)，集群規(guī)模最大可達(dá)2048卡規(guī)模。并通過高帶寬、低延遲的設(shè)計，提升整體訓(xùn)練效率。在存儲區(qū)，根據(jù)高讀寫帶寬的場景特點，采用冷熱分離的存儲系統(tǒng)設(shè)計，并支持POSIX、K8S CSI掛載方式，不僅能滿足訓(xùn)練需求，同時保障成本可控。在推理區(qū)，通過內(nèi)網(wǎng)打通同可用區(qū)公有云GPU資源池，具備多種類推理GPU資源，彈性可伸縮的滿足多場景推理需求。在管理區(qū)，提供日志、調(diào)度、IPMI管控、自動化裝機和公網(wǎng)訪問等能力，協(xié)助用戶進行更為便捷的遠(yuǎn)程管理。

在AIGC應(yīng)用服務(wù)方面，為了滿足客戶對大模型的需求，優(yōu)刻得以MaaS模式，推出“算法模型鏡像市場”，上線Alpaca-LoRA7B、ChatGLM-6B、T5-Base、T5-3B、MiniGPT-4、Stable Diffusion 、Milvus向量數(shù)據(jù)庫等7款開源模型和工具，覆蓋知識推理、問答、圖文生成及繪畫設(shè)計等 AI 應(yīng)用領(lǐng)域。通過“大模型+大算力”的方式，提供一鍵部署和開箱即用能力，為用戶快速搭建大語言模型的微調(diào)或者推理環(huán)境。

私有化是垂直大模型的發(fā)展方向，針對政府、金融、教育、制造、基金等客戶大模型場景，優(yōu)刻得 AIGC 私有化算力中心和全棧私有云平臺，從大模型訓(xùn)練推理多樣化場景出發(fā)，為客戶推薦機型提供預(yù)裝部分工具的鏡像；并提供推理GPU算力/網(wǎng)絡(luò)資源；同時結(jié)合優(yōu)刻得一云多芯且自主可控的私有云平臺，提供虛擬化、存儲、網(wǎng)絡(luò)及 MaaS 模型的私有化交付解決方案，支持 Alpaca-LoRA、ChatGLM、T5、MiniGPT-4 及 Stable Diffusion 等大模型，可覆蓋知識推理、問答、圖文生成及繪畫設(shè)計等 AI 應(yīng)用領(lǐng)域，從而在用戶本地或自己數(shù)據(jù)中心內(nèi)部署針對特定場景的大模型服務(wù)，既可以為內(nèi)部提供AI訓(xùn)練/推理服務(wù)，也可選擇性對外提供AI推理服務(wù)。

【優(yōu)刻得AIGC私有化方案架構(gòu)圖】

作為中立云計算企業(yè)，優(yōu)刻得AIGC解決方案具有獨特的優(yōu)勢：一是中立，優(yōu)刻得作為中立第三方，與大模型企業(yè)沒有競爭，不觸碰用戶的隱私數(shù)據(jù)。二是安全可靠，優(yōu)刻得具有內(nèi)資背景，系列安全防護產(chǎn)品及數(shù)據(jù)保護機制，確保大模型訓(xùn)練穩(wěn)定可靠運行。并支持私有化部署。三是技術(shù)沉淀，優(yōu)刻得具有超10年云計算技術(shù)沉淀，已經(jīng)超5萬家企業(yè)級消費用戶驗證，更好的為大模型提供穩(wěn)定的高性能算力服務(wù)。四是工程能力，優(yōu)刻得能夠從數(shù)據(jù)中心、底層架構(gòu)做到算力平臺、模型庫等，具有一站式系統(tǒng)工程服務(wù)能力。

隨著AIGC的繼續(xù)發(fā)展和走向行業(yè)縱深，UCloud優(yōu)刻得將通過中立安全的算力底座，與技術(shù)層、應(yīng)用層的合作伙伴一起，探索AIGC更大的發(fā)展前景和更廣闊的發(fā)展空間。智算無界，生成未來。

關(guān)鍵詞：