摘要 对比学习（Contrastive Learning）作为自监督学习的核心范式，通过构建正负样本对来学习具有判别性的特征表示，已成为计算机视觉领域的重要研究方向。本文参考[李沐论文精读-对比学习综述]，系统梳理了2018年至2021年间CV领域对比学习的发展历程，涵盖14篇里程碑式论文，按技术演进划分为四个阶段：百花齐放期（2018-2019）、CV双雄期（2020）、无负样本探索期（2020-2021）和Transformer时代（2021）。报告详细分析了每篇论文的核心思想、关键技术创新及性能表现，并总结了技术演进脉络和未来发展方向。 1. 引言 1.1 对比学习的核心思想 对比...

1. 摘要 多模态大语言模型（Multimodal Large Language Models, MLLM）近年来取得了突破性进展，然而其在精细视觉理解任务上的表现仍存在显著瓶颈。本文系统性地梳理了2024-2025年，arXiv上关于MLLM视觉Token监督不足问题的最新研究。研究表明，当前主流MLLM采用的"仅文本监督"训练范式导致视觉路径处于欠监督状态，进而引发视觉注意力退化、表征学习不充分及视觉遗忘等一系列问题[1][2]。本文将现有解决方案归纳为三大类别：训练时方法（辅助损失函数、强化学习）、推理时方法（动态干预、注意力调制）及架构改进方法（特征重采样、模...

本文以 QwenVL 和 InternVL 系列模型为研究对象，探讨多模态大模型的演进路径，重点关注模型架构与训练流程两个维度。通过梳理这两个系列的迭代过程，可以总结出以下关键趋势： 在模型架构方面，主流设计逐渐收敛于“VIT-MLP-LLM”的三级架构范式，即视觉编码器（VIT）、轻量级适配层（MLP）与大语言模型（LLM）依次连接，结构趋于统一。 在训练流程上，多阶段训练策略成为共识，通常遵循“预训练—指令微调—强化学习”的递进流程。其中，预训练阶段的策略有明显演进：早期方法通常冻结语言模型，仅训练视觉编码器与适配层，随后再解冻语言模型进行整体微调；而近期方法则倾向于直接进行全局参数...