谷歌浏览器插件

订阅小程序

在清言上使用

立即登录

学术主页个人账号

我的关注论文收藏浏览历史

SkipDecode: Autoregressive Skip Decoding with Batching and Caching for Efficient LLM Inference

Luciano Del Corro,Allie Del Giorno,Sahaj Agarwal,Bin Yu,Ahmed Hassan Awadallah,Subhabrata Mukherjee

ICLR 2024（2024）

引用 25|浏览17

关键词

Adaptive Computation,Efficient Inference,Generative Models

AI 理解论文

溯源树

样例

生成溯源树，研究论文发展脉络

Chat Paper

正在生成论文摘要