7月2日消息，Kimi 开放平台日前宣布其“上下文缓存”技术进入公测阶段。该技术可为开发者大幅降低长文本旗舰大模型的使用成本，最高可达90%，并显著提升模型的响应速度。
据了解，上下文缓存技术作为一种高效的数据管理技术，其核心优势在于能够预先存储并快速提供那些可能被频繁请求的大量数据或信息。当用户再次请求相同信息时，系统无需重新计算或从原始数据源中检索，而是直接从缓存中快速提取，从而显著节省时间和资源。
Kimi 开放平台方面以某硬件产品说明书为例介绍了该技术的应用场景。对于一份长达9万字的说明书，在传统模式下，售前支持人员需要在10分钟内对产品的功能/使用方式进行40次问答，问题大概100个字，回答在120字以内。
然而，在接入上下文缓存技术后，9万字的文档只需创建并存储一次缓存，40次问答将仅收取将只收取问题的100字+回答的120字的费用，预计节省费用达92.27%。
业内人士称，在当前大模型行业日益注重效率和成本控制的背景下，Kimi的这一创新不仅为开发者提供了更经济、更高效的解决方案，也有望进一步推动大模型行业的应用和发展。
标签：
7月2日消息，Kimi 开放平台日前宣布其上下文缓存技术进入公测阶段
为了进一步提升教师的信息化应用能力，有效促进信息技术与课堂教学的深
9月24日8时10分许，贵州省六盘水市盘州市山脚树煤矿井下发生皮带着
你血糖有点高，不要光吃药，还要管着嘴，迈开腿，会更安全……9月16日
希顿评曼联队内各项最佳：瓦拉内的心态，安东尼的技术,曼联,骑士团,卢
近年来，镇平县王岗乡积极推进巩固拓展脱贫攻坚成果同乡村振兴有效衔接
流淌千年的北运河，是城市副中心最亮眼的金名片。如今，这张金名片
陕西省人民医院烧伤整形医学美容外科烧伤整形医学美容外科门诊位于陕西
导读1、风筝是由古代汉族劳动人民发明于中国东周春秋时期，至今已2000
8月22日，浙江队球员埃弗拉（右）在比赛中与泰国泰港队球员汉密尔顿争
颍上县气象台2023年08月22日06时19分发布大雾黄色预警信号。预计未来12
山西路桥：上半年营收7 90亿元，净利润2 47亿元,总营收,上市公司,高速
山东济宁任城区：“人才夜市”火热出摊求职者“逛街”择业---8月18日晚
企查查APP显示，近日，国电电力(600795)青龙满族自治县新能源开发有限
河南经济报记者郭俊娟技术交流促生产，科技进步稳发展。7月16日-17日，
日前，跨境电商冷链物流及分拣加工项目综合楼及2 冷库单体正式完成结构
