近日，一个来自斯坦福的研究团队发布了一款名为Llama3-V的多模态大模型，声称只要500美元（约合3650元）训练，就能在多个基准测试中实现与GPT4-V、Gemini Ultra、Claude Opus一较高下的性能。

Llama3-V团队中的两位作者Siddharth Sharma与Aksh Garg是斯坦福大学计算机系的本科生，曾发表过数篇机器学习相关的论文。因两人具备名校背景，且曾在特斯拉、SpaceX等大厂任职，Llama3-V一经发布迅速蹿红网络，还冲上了HuggingFace趋势榜首页。

然而Llama3-V迅速跌落神坛。有网友指出，该模型跟“清华系”大模型创业企业面壁智能5月发布的MiniCPM-Llama3-V 2.5模型有不少相似处，模型结构、代码、配置文件堪称雷同，只是变量名称做了更改。

具体来看，Llama3-V的代码是对MiniCPM-Llama3-V 2.5的重新格式化，其模型行为检查点的噪声版本相似；Llama3-V使用了MiniCPM-Llama3-V 2.5的分词器（tokenizer），并且MiniCPM-Llama3-V 2.5定义的特殊符号也出现在了Llama3-V中；Llama3-V提供的代码无法与Hugging Face的检查点兼容，而将从HuggingFace下载的Llama3-V模型权重中的变量名改成MiniCPM-Llama3-V 2.5的，模型可以用MiniCPM-V代码成功运行。

此外，在未公开的实验性特征上，Llama3-V与MiniCPM-Llama3-V 2.5显示出了相似的推理结果。

6月3日上午，面壁智能CEO李大海在朋友圈发文称，团队核实发现，Llama3V展现出和小钢炮一样的清华简识别能力，连做错的样例都一模一样，而这一训练数据尚未对外公开。

他表示，清华简的识别能力是团队耗时数月，从卷帙浩繁的清华简中一个字一个字扫描下来，并逐一进行数据标注从而融合进模型中的。在对两个模型进行高斯扰动验证后发现，它们在正确和错误表现方面都高度相似。

对于质疑，Llama3-V项目的作者与外界进行一番辩驳后，删除了质疑者在Llama3-V上提交的质疑他们偷窃的问题，并将Llama3-V项目从开源网站中删除，且发文致歉。Siddharth Sharma与Aksh Garg解释道，他们并未参与代码工作，所有代码都是毕业于南加州大学的Mustafa Aljadery负责的，而他一直没交出训练代码。

关于套壳与借壳

业内关于“套壳”的争议由来已久。有人认为，开源就该被充分利用；有人则表示，闭源才是自主研发，参考开源就是套壳。

而大模型的“壳”一般指调优。调优是指对已经预训练过的模型进行进一步的训练。这个过程通常是有监督的，需要使用标注好的数据来指导模型的学习。调优的目标是调整模型参数，使其更好地适应特定任务的需求。

据业内人士说："套壳"常指在调优阶段通过更改变量名称，在开源成果基础上调适出更加符合某些场景的大模型。实际上，套壳是个相对正常的模式，针对某一垂直领域频繁进行调优司空见惯，该主题的研究论文也非常多。而抄袭框架和预训练数据的情况，一般得叫"借壳"了。