成都赛力斯申请大模型服务调用方法专利，避免系统服务过载

如果商品出现故障，可以申请官方售后服务，避免被假冒服务欺骗。 #生活知识# #购物技巧# #售后服务咨询#

金融界2024年12月26日消息，国家知识产权局信息显示，成都赛力斯科技有限公司申请一项名为“大模型服务调用方法、装置和计算机设备”的专利，公开号CN 119179593 A，申请日期为2024年11月。

专利摘要显示，本申请涉及一种大模型服务调用方法、装置和计算机设备。所述方法包括：响应于针对大模型服务实例发起的当前服务调用请求，获取大模型请求队列中包含的服务调用请求的请求数量，在请求数量未达到预设请求阈值的情况下，将当前服务调用请求添加进大模型请求队列，最后通过预设的调度器基于大模型请求队列中包含的各服务调用请求对应的大模型服务实例的实时请求数，获取目标大模型服务实例，最终调用该目标大模型服务实例。通过设置大模型请求队列，有效控制了当下后端系统处理的请求量，进而避免了由于请求量过大而出现的系统服务过载的问题，提高了系统的可行性和高可用性。

本文源自：金融界

作者：情报员

网址：成都赛力斯申请大模型服务调用方法专利，避免系统服务过载 https://www.yuejiaxmz.com/news/view/579699

相关内容

暗物质申请多系统智能执行专利 引领个性化服务新趋势
申请法律援助服务
寻找成都AI“向新力”丨近百款“成都造”备案 大模型和深度合成服务算法落地开花
赛力斯凤凰智创申请无感设备升级专利，科技未来再添新翅膀
家用服务型机器人大盘点，你家都有哪些？
社区服务机器人专利转让
【公司空调清洗申请 服务/价格信息】
吉利+大模型=画饼充饥？
浙江辉驿网络科技申请智能酒店清扫专利：重塑服务效率的未来
欧派：开创优质服务体系，领跑家居“服务赛道”

随便看看