國內最大大模型服務平臺正式上線 接入超300款AI大模型

來源 Jinse_news
金色財經報道,5月9日,據央視,國內最大的大模型服務平臺昨天(8日)正式上線,由中國移動開發的這個平臺已接入並提供300餘款國內主流AI大模型的服務與能力,是國內匯聚大模型數量最多的平臺。據瞭解,該平臺首創詞元(Token)集約化運營模式,在現場看到,平臺能夠自動分析用戶需求,智能爲任務匹配最優模型。通過“成本優先”“效果優先”“均衡優先”三種模式,爲用戶動態篩選適配方案,以更低的詞元消耗、更高的執行效率完成工作。當模型出現超時、限流或故障時,平臺能自動實現秒級切換,確保業務連續不中斷。目前,該平臺實現單位詞元成本降低30%左右,資源佔用率減少50%以上,日均調用量超過千億級。(東新社)
免責聲明:僅供參考。 過去的表現並不預示未來的結果。
goTop
quote