内存直降50%，token需求少56%！用视觉方式处理长文本

在NeurIPS 2025论文中，来自「南京理工大学、中南大学、南京林业大学」的研究团队提出了一个极具突破性的框架——VIST（Vision-centric Token Compression in LLM），为大语言模型的长文本高效推理提供了全新的「视觉解决方案」。值得注意的是，这一思路与近期引起广泛关注的DeepSeek-OCR的核心理念不谋而合。

在处理短文本时，大语言模型（LLM）已经表现出惊人的理解和生成能力。但现实世界中的许多任务——如长文档理解、复杂问答、检索增强生成（RAG）等——都需要模型处理成千上万甚至几十万长度的上下文。

与此同时，模型参数规模也从数十亿一路飙升至万亿级别。

在「上下文长度激增」与「模型参数量膨胀」的双重挑战下，Token压缩不再是优化项，而是必需品。

若不能有效缩减输入规模，即便最强大的大语言模型，也难以高效处理我们需要它分析的海量信息。

南京理工大学、中南大学、南京林业大学的研究人员提出VIST（Vision-centric Token Compression in LLM）框架，正是为了解决这一痛点