建大新闻网讯 11月13日上午,国家高层次人才、清华大学计算机系长聘副教授张广艳,来我校作题为“存算双向感知的大模型推理KV缓存设计”的学术报告。报告会由学院副院长(主持工作)常金勇主持,100余名教师和研究生参加了会议。

张广艳围绕大语言模型多轮交互场景下键值缓存(KV Cache)规模迅速增长、显存与内存容量受限的突出问题展开分析,介绍了团队在存储与计算跨层协同方面的最新探索——“存算双向感知”的KV缓存系统设计方法,突破孤立优化存储或计算的局限,使二者相互感知、协同决策。最后,他介绍了该成果在多个真实负载中的应用情况,并分析了实际部署时面临的挑战。
报告结束后,师生踊跃提问,张广艳就大模型推理优化、存储系统关键技术等问题与在场师生深入交流。
此次报告会不仅拓宽了师生的学术视野,更启发大家让理论扎根实践,做出既有学术价值又能真正落地的科研工作。计算机学院将紧扣学校“信息学科崛起计划”,以“智能+”赋能学科交叉,深化高水平对外交流合作,搭建多层级学术交流平台,助力信息类学科实现更高质量发展。
文字:张芙宁(计算机与信息工程学院)
图片:计算机与信息工程学院
编辑:陈莞苏