【国内最大大模型服务平台正式上线 接入超300款AI大模型】金色财经报道,5月9日,据央视,国内最大的大模型服务平台昨天(8日)正式上线,由中国移动开发的这个平台已接入并提供300余款国内主流AI大模型的服务与能力,是国内汇聚大模型数量最多的平台。据了解,该平台首创词元(Token)集约化运营模式,在现场看到,平台能够自动分析用户需求,智能为任务匹配最优模型。通过“成本优先”“效果优先”“均衡优先”三种模式,为用户动态筛选适配方案,以更低的词元消耗、更高的执行效率完成工作。当模型出现超时、限流或故障时,平台能自动实现秒级切换,确保业务连续不中断。目前,该平台实现单位词元成本降低30%左右,资源占用率减少50%以上,日均调用量超过千亿级。(东新社)

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。