北京师范大学 · 人工智能与未来网络研究院

边缘智能系统实验室

让大模型和生成式 AI 在边缘跑得快、跑得稳、成本低

我们研究边缘 AI 系统：把异构的边缘设备与云端协同起来，让大模型、扩散模型等 AI 应用在算力、内存和带宽受限的环境中高效运行。研究覆盖大模型服务、生成式 AI 加速、容器调度与资源管理，成果发表于 ICLR、ICML、ACM MM、IEEE TMC、IEEE TSC 等会议和期刊。

研究方向加入我们科研入门手册

56篇论文

5个开源项目

400张 A100/A800 GPU

研究方向

我们关注的核心问题 →

云边协同的大模型服务

边缘侧算力有限，云端模型强但远、贵。我们研究如何在云和边之间分配请求、缓存和计算，让大模型服务的响应速度、吞吐和回答质量都更好。

复杂大模型应用的端到端加速

真实的大模型应用是由 RAG、智能体和多个模型组成的工作流。我们研究如何在异构硬件上对整个工作流做端到端优化。

生成式 AI 的缓存与并行加速

图像和视频生成模型要迭代几十步去噪，非常慢。我们利用相邻步之间计算的冗余，通过特征缓存、特征预测和多设备协同，在几乎不损失质量的前提下大幅加速生成。

边缘容器调度与资源管理

边缘集群资源紧张、负载波动大。我们研究感知镜像层的容器调度、迁移与更新，冷启动优化和资源超售，并用深度强化学习和在线算法做决策。

高效多模态推理与检索

图像、文本、音频、视频混合的检索和问答，既要语义对得准，又要在边缘设备上算得快、存得下。

边缘计算中的任务调度与优化

课题组长期研究边缘计算中的任务卸载与调度、服务部署、无人机与车联网边缘计算、众包与联邦学习等问题，并撰写了端侧 AI 模型的综述。

代表成果

全部论文 →

ICLR 2026CCF-A

BWCache: Accelerating Video Diffusion Transformers through Block-Wise Caching

Hanshuai Cui, Zhiqing Tang*, Zhifei Xu, Zhi Yao, Wenyi Zeng, Weijia Jia

International Conference on Learning Representations (ICLR), 2026

arXiv Code Project Page

ICML 2026CCF-A

HeraSys: Collaborative Serving of Multiple LLM Workflows via Fine-Grained End-to-End Optimization

Size Li, Zhiqing Tang*, Hongrui Liang, Jianxiong Guo, Jiong Lou, Tian Wang, Weijia Jia

International Conference on Machine Learning (ICML), 2026

arXiv

ICML 2026CCF-A

Semantic Cache Distillation: Efficient State Transfer via Reuse and Selective Patching

Qianli Ma, Zhiqing Tang*, Hanshuai Cui, Zhi Yao, Weijia Jia*

International Conference on Machine Learning (ICML), 2026

arXiv

ACM MM 2026CCF-A

Predict to Skip: Linear Multistep Feature Forecasting for Efficient Diffusion Transformers

Hanshuai Cui, Zhiqing Tang*, Qianli Ma, Zhi Yao, Weijia Jia*, Wei Zhao

ACM International Conference on Multimedia (ACM MM), 2026

arXiv Code Project Page

TMC 2026CCF-A

EAT: QoS-Aware Edge-Collaborative AIGC Task Scheduling via Attention-Guided Diffusion Reinforcement Learning

Zhifei Xu, Zhiqing Tang*, Jiong Lou, Zhi Yao, Xuan Xie, Tian Wang, Yinglong Wang, Weijia Jia

IEEE Transactions on Mobile Computing (TMC), 2026, Accepted

arXiv Code

TSC 2025CCF-A广东省计算机学会优秀论文奖二等奖

Enhancing LLM QoS through Cloud-Edge Collaboration: A Diffusion-based Multi-Agent Reinforcement Learning Approach

Zhi Yao, Zhiqing Tang*, Wenmian Yang, Weijia Jia*

IEEE Transactions on Services Computing (TSC), 2025, 18(3): 1412–1427

DOI PDF

加入我们

长期招收博士后、博士生、硕士生、科研助理和本科生。零基础的同学可以先看我们的入门手册。

了解如何加入科研入门手册