首页 > LongLLMLingua

LongLLMLingua

  • 最高20倍！压缩ChatGPT等模型文本提示，极大节省AI算力

    原文来源：AIGC开放社区由无界AI生成在长文本场景中，ChatGPT 等大语言模型经常面临更高算力成本、更长的延迟以及更差的性能。为了解决这三大难题，微软开源了 LongLLMLingua。据悉，LongLLMLingua 的核心技术原理是将“文本提示”实现最高 20 倍的极限压缩，同时

热门文章