当前位置:首页 >>新闻资讯 >> 行业资讯

光羽芯辰申请用于大模型AI芯片的片上缓存管理系统专利,有效降低响应延迟满足大模型低延迟推理需求

2026年07月14日 08:51
 

国家知识产权局信息显示,上海光羽芯辰科技有限公司申请一项名为“用于大模型AI芯片的片上缓存管理系统、方法、介质、程序产品及终端”的专利,公开号CN122346443A,申请日期为2026年3月。

专利摘要显示,本申请提供的用于大模型AI芯片的片上缓存管理系统、方法、介质、程序产品及终端,本申请采用3T GC‑eDRAM缓存单元结构在芯片上提升单位面积存储容量,并且与传统的6T SRAM相比在同等缓存容量下芯片面积明显缩减,进而降低了量产成本。本申请基于大模型的数据热度特征参数采用三级动态刷新策略,避免统一刷新的资源浪费,降低刷新功耗。本申请在面向大模型推理的应用场景中,通过片上缓存硬件结构与动态刷新机制结合,有效降低了响应延迟,满足大模型低延迟推理需求。本申请采用3T GC‑eDRAM缓存单元结构在芯片上实现片上缓存,可以基于标准CMOS工艺实现,并且可以直接迁移至7nm、5nm等先进制程,不需要工艺改造。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。