8月14日，第七屆GAIR全球星空人工智能與星空機器人大會在新加坡隆重召開，大會特邀全球產業領袖、業內大咖共話大模型和生成式AI的美女福利导航突破和商業創新。據悉，本屆GAIR由雷峰網聯合新加坡GAIR研究院、世界科學出版社、科特勒谘詢集團等機構共同舉辦，是國內首個出海的大型AI論壇，也是中國星空人工智能影響力的一次跨境溢出。
UCloud優刻得作為國內知名的雲計算廠商受邀參會，UCloud優刻得董事長兼CEO季昕華在《大模型時代的超級基建》主題論壇發表了題為《中立雲服務助力AIGC發展》的精彩演講，分享了對大模型的關注與思考、剖析了大模型發展的痛點，並全麵展示了UCloud優刻得在AIGC領域的算力底座和工程實踐。
GPT的橫空出世引領著星空人工智能產業新機遇，“百模大戰”正在國內打響。季昕華總結了當前國內做通用和垂直大模型的企業已有130餘家，團隊構成可劃分為五大方陣，分別是互聯網巨頭、上市公司、AI團隊、科學家創業、互聯網高管創業，這些企業呈現出了資金、人才、數據、算力密度高的特點，也構成了大模型的四大核心要素。
大模型的生命周期包括前期的數據清洗、預訓練、有監督微調、獎勵建模、強化學習，以及後續的部署運營六個階段，而在對應的過程中往往會麵臨著多樣合規數據如何獲取，計算、存儲、網絡能否滿足訓練需求，模型的穩定性和安全性又如何保障等一係列難題。UCloud優刻得是中立、安全的雲廠商，擁有超過10年的公有雲美女福利导航沉澱並積累了全麵的係統工程能力，具備從數據中心、計算平台，到管理平台、網絡服務、應用服務、生態接口等一站式產品和解決方案。
季昕華首先分享了大模型在功耗和電力方麵的挑戰，大模型所需的機房電量消耗大且功率更高。UCloud優刻得烏蘭察布數據中心電力充分、電價低廉、可自然製冷且距離北京更近，具備高可靠性、高性價比等優勢，可有效滿足大模型的訓練要求。相較上海、北京等同等質量的數據中心，成本下降40%；采用雙路不間斷電源供電，更加安全可靠；模塊化的設計布局，支持機房模塊、基礎設施配置的深度靈活定製。
當前大規模集群算力仍存在較大的缺口，UCloud優刻得基於自建數據中心所打造的AIGC解決方案可充分滿足大模型企業對於底層算力基礎設施的需求，同時UCloud優刻得可為客戶提供後續的維護服務。自建數據中心內提供專為GPU集群建設的高電機櫃，並上線了多款GPU算力資源，推出了“訓練專區+推理專區+存儲專區+管理專區”的分區建設方案，企業可根據實際的訓練、推理、數據處理等應用場景進行靈活可擴展的算力選擇。基於完善的基礎架構方案和安全保障，幫助大模型企業快速搭建算力平台，並通過對接上層的資源調度係統，提高模型訓練和推理效率，讓客戶專注於模型迭代與業務創新。
優刻得 AIGC解決方案全景圖
其次是大模型的存儲挑戰，存儲性能會直接影響大模型的訓練時間。大模型計算的工作負載大多是讀密集型的，UCloud優刻得從大量列表元數據操作、高吞吐讀需求、大量順序寫入這三個方麵針對基於US3對象存儲的文件係統進行升級改造，提升元數據性能、讀緩存和寫吞吐的能力。經測試，優化後的讀性能有70%左右的性能提升，達到5GBps；寫吞吐10%左右的吞吐提升，達到2.2GBps，可充分滿足大模型客戶在單點掛載時吞吐的性能需求，大幅提升訓練效率。後續，UCloud優刻得會在和kernel交互的方式上進一步優化並發來提升寫吞吐的能力。此外，UCloud優刻得研發中的GPUDirect Storage，將會有更高的存儲性能。
大模型訓練依賴於大規模分布式並行集群，還麵臨著網絡層麵的挑戰。一方麵是因為模型本身非常大，需要拆分到多個GPU上來存儲；另一方麵，模型參數量越大就越需要更多的計算量，千張GPU甚至幾千張GPU並行訓練是大模型成功的基礎。季昕華分享，大模型訓練RDMA網絡設計要滿足“大規模、高帶寬”的要求，目前UCloud優刻得支持IB和RoCE兩種高性能網絡方案，可充分滿足大規模算力集群之間的高速網絡互聯，實現多節點間的無損通信。
談到目前國內的場景應用，季昕華表示，按照對大模型輸出內容準確性的容忍度來分類，遊戲NPC、社交輔助、電商、遊戲/設計的畫圖、翻譯、客服支持、文字和編程輔助、教育、法律、醫療這10大行業場景有較為廣泛的落地。同時，大模型發展還將持續麵臨數據安全、政府對於合規性的要求、國際關係對於中國AI發展的限製等挑戰。
在隨後的圓桌交流中，季昕華提到，“UCloud優刻得從五個方麵幫助大模型客戶進行降本增效，第一在烏蘭察布數據中心實現70%的電費成本節約；第二通過租用的方式，幫助客戶節省IT基礎設施成本投入；第三通過優化網絡和存儲帶寬幫助提升大模型訓練效率；第四未來推理成本會遠高於訓練成本，UCloud優刻得可以幫助客戶將大模型放至3090或V100進行推理任務；第五UCloud優刻得不做大模型，但可以通過私有化大模型一體機的模式，幫助客戶推廣大模型。”
據悉，為加速垂直大模型的行業落地，UCloud優刻得基於開箱即用的私有化大模型一體機提供一站式MaaS服務，支持Alpaca-LoRA7B、T5、MiniGPT-4、ChatGLM、Ziya、LlaMA2以及Milvus向量數據庫等開源大模型，企業可以快速搭建大模型的微調或推理環境，輕鬆部署大模型應用。大模型一體機內置UCloud優刻得自主研發的全棧私有雲平台，統一了計算、存儲、網絡底層資源，通過運行環境一鍵打包和算力調度，使得大模型一體機既可作為訓練的算力運行環境，又可在訓練結束後，無縫切換至推理業務部署模式，確保基礎設施成本可控、安全可靠。
在當下的大模型時代，UCloud優刻得希望發揮雲廠商在算力、工程、網絡、安全等多方麵的產品美女福利导航和實踐能力，構築強大的AI算力底座。同時，基於遍布全球的海外數據中心，協助大模型企業完成模型研發和測試等工作。作為中立的雲計算企業，優刻得也希望與更多合作夥伴和科學家攜手進行大模型美女福利导航研究與迭代優化，助力大模型應用快速、安全的落地千行百業。
星空人工智能美女福利导航網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯係方式等發郵件至1851688011@qq.com美女直播全婐APP免费下载將及時溝通與處理。！：首頁 > 新聞 » 2023 GAIR｜優刻得季昕華：中立雲服務助力AIGC發展