【雷峰网音信】上周五，各人最大的开源大模子社区Hugging Face公布了最新的开源大模子排名榜，阿里云通义千问Qwen-72B推崇拉风，以73.6的概述得分在统统预教师模子中排名第一广州第三方调查公司，超越Llama2登顶榜首。

Hugging Face的开源大模子排名榜（Open LLM Leaderboard）是当今大模子畛域最具巨擘性的榜单，收录了各人上百个开源大模子，测试维度涵盖阅读贯穿、逻辑推理、数学计较、事实问答等六大测评。 

通义千问（Qwen-72B）是基于3Ttokens数据教师而成，同期也在10个巨擘基准测评中夺得开源模子最优获利，在部分测评中超越闭源的GPT-3.5和GPT-4。

这是一个兴奋东说念主心的时刻，从Llama2开源可商用，迄今5个月，国产大模子开源终于有一个能追上Llama2，大模子开源畛域终于不再是Llama2独领风流的期间，国产大模子开源也由此进入新期间。

从Hugging Face官网公布的开源大模子排名榜（Open LLM Leaderboard）来看，他们是从ARC、HellaSwag、MMLU、TruthfulQA、Winogrande、GSM8K来对现时的开源大模子进行测试评估。

从上述截图咱们可以看到通义千问Qwen-72B在多个测评中断层最初其他开源模子，其中MMLU、TruthfulQA、GSM8K三个维度的得分远超Llama-2-70B，分别得分为77.37、60.19、70.43，而Llama-2-70B的得分分别是69.83、44.94、54.06。

Qwen-72B得分最高的三大测评：MMLU测验模子的全国知识和说话才调，概述评测LLM的英文概述才和谐知识才调；GSM8K测验的是模子的数学推理和计较关系大模子的数学推理才调；TruthfulQA测验模子的知识问答关系模子的知识才调、抗幻觉才调、问答才调等。

而在其他测评ARC、HellaSwag、Winogrande中，通义千问Qwen-72B与Llama-2-70B的差距仅有1、2分之差。

ARC测验模子阅读贯穿，这个才调关系大模子的说话贯穿、文档问答、器具调用才调；WinoGrande测验模子的说话推理、指代贯穿关系大模子的说话贯穿、说话推理、指代消歧等才调；Hellaswag测验模子的知识和说话推理关系模子的知识和说话推理才调。

最终Qwen-72B以73.6的概述得分在统统预教师模子中排名第一，在这之前，该榜单恒久被Meta的Llama2占领。同期，除了阿里云开的通义千问、Meta的Llama2，榜单上还出现了幻方量化的deepseek-67B、零一万物的Yi-34B、百川的baichuan2-13B等中国开源大模子。

国产开源大模子势头正猛。

在评分除外，咱们用通盘高考数学题来约略测试下Qwen-72B的推崇，发现Qwen-72B解题念念路了了，计较后果准确:

同期，还问了它通盘异邦东说念主看了头大、极具中国说话特质的复杂语义贯穿题，没猜度Qwen-72B真的潜入贯穿了中国式的职场“拉扯”：

在复杂逻辑推理上，推崇相似可以：

不仅如斯，通义千问依然发布，在海外引起了庸俗商讨，不少国表里开发者进行了测试和应用，内容使用体验在某些畛域还高出了GPT-4：

为什么Qwen-72B能有这样出色的性能推崇？

人所共知，一个优质的模子开端离不开团队远大的研发才调，通义千问团队在国内互联网公司中最早探索大模子，据称是阿里全力插足打造的团队；其次，通义千问背靠阿里云，在AI算力基础设施上领有饱胀补给；还很遑急的是，通义千问一直在勤奋发展我方的开源生态，来自应用场景和开源社区的反馈能匡助研发团队不断优化基础模子。

具体到Qwen-72B模子的教师，通义千问应用多达43T的高质地数据进行教师，折合7Ttokens（当今教师完成3Ttokens，还在握续进行），涵盖近20种说话，隐敝网页、新闻、册本、数学、代码及各个垂类畛域，如金融、法律、医疗等等。

概述应用了dp、tp、pp、sp等形状进行大限制散播式并行教师，引入flashattentionv2等高效算子普及教师速率。借助阿里云东说念主工智能平台PAI的拓扑感知诊疗机制，灵验裁减了大限制教师时通讯资本，将教师速率提高30%。

在教师踏实性方面，模子教师流程中，通义千问团队通过PAI平台AiMaster管理组件监控功课的日记/报错/metric等信息，分散用户空幻和系统空幻，凭据功课类型和容错场景提供管理才和谐全链路自动化运维才调，自动剔除故障机器重启任务，使教师流程中东说念主工干与重启频率由日裁减到周。

从本年7月Meta文书Llama2开源可商用以来，Llama2便一直站在各人大模子开源的神坛上，它更是国产大模子早期闹热发展的救星，元象唯念念的独创东说念主姚星曾对AI科技评述吐露真言，国内大部分大模子齐是基于Llama开源来做的教师，他以为莫得 Llama 开源，中国的大模子探索可能还要走很长一段路。

但这背后也要国内开发者承担许多“辱没”，一位大模子公司的CEO曾无奈地告诉AI科技评述，Llama2的汉文才调很差。

由于此，一些基于Llama2做垂直行业模子的厂商曾告诉咱们，他们要用Llama2必须得先跟国内做Llama2汉文化的公司合作，不可平直用Llama2去做教师。

况且Llama2对中国很不友好，在Llama2的开源左券里强调了English tended，广州第三方调查公司其他地区illegal，道理即是中国拿它来做汉文的大模子和应用是分歧法的，但国内又必须得用。

因为在通义千问Qwen-72B发布之前，咱们并莫得能跟Llama2并列的开源大模子，很长一段时候Llama2无与争锋。

由于各大模子厂商聘任了“小参数用来开源，大参数拿来交易化”的战略，导致国内大模子开源一直停留在14B，是以国产开源大模子看似越来越卷，实则中国大模子市集还莫得出现足以对标Llama-2-70B的优质开源模子。

但许多开发者曾对AI科技评述暗示，诚然大模子开源很是丰富，但他们能真确用起来的未几。在一些畛域，举例金融行业、医疗行业，以及一些科研机构，14B其实是远远不够的。

直到11月、12月，开源大模子Yi-34B、元象XVERSE-65B、Qwen-72B继续抛出，国产开源似乎有了新进展，真确跨入了“追逐Llama2”的期间。

而Qwen-72B登顶Hugging Face榜首，高出Llama2这一事件，意味着国产大模子开源运行参与各人竞争，同期，Qwen-72B的出现填补了中国大模子开源恒久被Llama2所占据的空缺畛域。

个东说念主开发者、中国动力开发集团浙江省电力计算院有限公司系统室专工陶佳，他在想要做大模子应用时际遇的窘境应该是国内大广泛开发者齐会际遇的：海外的模子，如闭源的如OpenAI才调是很强，然则API调用未便，况且咱们这种B端用户更可爱我方上手定制，API能做的事如故太少；开源的比如Llama2，然则汉文才调一般。

他试了几款，试下来通义千问是最好的。“准确，况且‘手感’很好，莫得那些有数乖癖的 bug”，他说。

有鹿机器东说念主公司正在研发第二代具身智能时刻LPLM大模子，LPLM是和会了LLM大说话模子和物理全国大模子。在独创东说念主、CEO陈俊波看来，LLM自己是一个偏慢速的、逻辑推理的、有比拟完满的结构性念念考的智能系统，而物理全国大模子是一个更偏及时反映、偏直观的一套念念维流程，比喻说东说念主类若何去感知这个全国，若何去对这个全国做预判，以及若何去权术咱们总共动做念维。LPLM和会了这两个系统，使它们粗略很好地配合跟互助，粗略从东说念主类的高层的领导贯穿、到拆解、再到底层对物理全国进行贯穿和权术。

他们把市面上能找到的大模子齐做过推行，临了聘任了通义千问，独创东说念主、CEO陈俊波以为原因主要有以下几点：

第一，它是当今至少在汉文畛域能找到的智能性推崇最好的开源大模子之一。

第二，它提供了很是粗浅的器具链，可以在他们我方的数据上快速地去做finetune和各式千般的推行。

第三，它提供了一个特式量化的模子，量化前跟量化后基本上莫得掉点，这对咱们来说很是有诱惑力，因为咱们需要把它部署在一个镶嵌式的拓荒上。

不仅如斯，海外一些网友也对Qwen-72B等国产大模子抒发了惊奇：

通义千问还开源了18亿参数模子Qwen-1.8B和音频大模子Qwen-Audio，至此，通义千问共开源了18亿、70亿、140亿、720亿参数的4款大说话模子，以及视觉贯穿、音频贯穿两款多模态，是业界首个“全尺寸、全模态”开源大模子。

阿里云CTO周靖东说念主暗示，开源生态对促进中国大模子的时刻跨越与应用落地至关遑急，通义千问将握续插足开源，但愿成为“AI期间最绽开的大模子”，与伙伴们共同促进大模子生态开发。

开源、绽开成为阿里在大模子畛域通常提到的要道词，开源Qwen-72B即是其最好的作风展示。

Meta各人事务主宰Nick Clegg曾这样评价开源：开源是摒除AI联系畏缩的最好解药，开源有助于Meta追逐竞争敌手。

正如业内东说念主广泛招供的，已往90%的企业会倾向于基于开源大模子发展，依托于开源生态。

如今，有了Qwen-72B的开源，国内大模子也能接上Llama2的次序，允许各式限制的公司在Qwen-72B上变嫌这项时刻，并在其上构建应用法子。

7月，Llama2开源闹热了各人大模子发展，12月，通义千问Qwen-72B开源，使得国产开发者不再“求外”。