北京老旧机动车解体中心北京老旧机动车解体中心

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

存款继承新规来了!5万元以下免公证,快捷提取范围扩大……源与闭源之争延续到大模(mó)型时代。在寻找(zhǎo)“新大陆”的路上,开源与闭源的辩论,就像是一场关于AI未来的“航海策略”讨(tǎo)论 。

开源一(yī)派认为(wèi),开源(yuán)能够(gòu)促进(jìn)全球科(kē)研人员和开发者的协作,加(jiā)速AI技(jì)术的迭(dié)代与创(chuàng)新。同时,开源让更多人参与到模型的改进和优化中,通过集体智慧解决复杂的(de)技术难题。

闭源(yuán)的(de)倡导(dǎo)者(zhě)则看重其在商业化、技术保护和(hé)产(chǎn)品差异化方 面的优势。闭源模型使得企(qǐ)业能够控制产品(pǐn)的(de)开发节奏和市场策略,保护其商业利益。此外,闭源也有助于企(qǐ)业(yè)维护其技术优势,避免竞争对手模仿或超越。

Llama 3的发(fā)布让(ràng)开源(yuán)大模(mó)型在与(yǔ)闭源的竞争中再(zài)度“扳回一城”。从测试结果来(lái)看,Llama 3的成(chéng)绩大幅超越了Llama 2,也胜过了GPT-3.5。

在AI这场(chǎng)没有硝烟的“航 海(hǎi)竞赛”中,大模型已然成为眼前的灯塔(tǎ)。未知的是,这(zhè)座灯塔(tǎ)究竟(jìng)是(shì)向所有航海者开放其光(guāng)芒,还是仅(jǐn)为特定的(de)船只照亮前行的航道。

开(kāi)源在(zài)开(kāi)发者和研究人员中极受欢迎

Meta正沿着开源路径继续前进。

近日,Meta推(tuī)出开源大模型Llama 3系列,发布(bù)8B和70B两个(gè)版本。Meta创始人兼首席(xí)执行官扎克伯格在同(tóng)一天宣布,基于Llama 3,Meta的AI助手现在已经覆盖 I存款继承新规来了!5万元以下免公证,快捷提取范围扩大……nstagram、WhatsApp、Facebook等全系应用,并单独(dú)开启了网(wǎng)站。

与Llama 2相(xiāng)比,Llama 3进行了几项(xiàng)关键的改进:使用具128K token(输(shū)入数据的最小单(dān)元(yuán))词汇表的tokenizer(编译(yì)器),可以更(gèng)有效地(dì)编码语(yǔ)言,从而显著提升模型性能;在8B和70B模型中都(dōu)采用(yòng)分组(zǔ)查询注意力(GQA),以提高Llama 3模(mó)型的推理效率;在8192个token的序列上训练模型,使用掩码来(lái)确(què)保自注意力(Self-Attention)不会跨越文档边界。

据Meta介绍,Llama 3已经在多(duō)种行业基准(zhǔn)测试上展现(xiàn)了最先进的性能,提供(gōng)了(le)包括改进的推理能力在内的新功能,是目前市场上最好(hǎo)的开(kāi)源(yuán)大模型(xíng)。

此(cǐ)外,Llama 3发布后,微软Azure、谷歌云、百度(dù)智能云等陆续宣布其平台上线Llama 3。百度方面此前 对(duì)《每日经济新闻(wén)》记者表示(shì),百度(dù)智能云千帆大模型平台在国内首家推出针(zhēn)对Llama 3全系(xì)列(liè)版(bǎn)本的训练推理方(fāng)案,便于开发者进行再训练,搭建专属大模(mó)型。

工业和信息(xī)化部工业文化发(fā)展中心AI应(yīng)用工作组执(zhí)行组(zǔ)长、行行(xíng)AI董事长李明顺在接受《每日经济新闻》记者采访时表示,Meta的Llama 3发布可能会带来更多AI应用落地机会和场景(jǐng),它通过提(tí)供更大词 汇量(liàng)的(de)Token词(cí)典、更长的输(shū)入上下文长度(dù)以(yǐ)及优(yōu)化的模型结构,增强了模型的编码效率和推理效率。“现在,比(bǐ)起Llama 2,Llama 3在(zài)代码(mǎ)能(néng)力和逻辑推理能力上有显(xiǎn)著提升,这可能会促进相关AI应用的性能(提升(shēng)),尤其是在需要(yào)复杂逻辑和代码理解的场景中去 落(luò)地。”

OpenAI在(zài)GPT-2之(zhī)后调转船头走向闭源,Meta则成为开源界的引领者之一。

从(cóng)2020年发布GPT-3,到引发轰动的GPT-3.5,以及2023年3月发布(bù)的GPT-4,都是闭源模型。此前,马(mǎ)斯克(kè)起诉OpenAI时曾直言:“如(rú)果OpenAI改名为ClosedAI,我就撤销诉(sù)讼。”

李明顺认为(wèi),OpenAI的转 变可能与其商业(yè)战略和市场定(dìng)位有(yǒu)关。“初期开源有助于快速(sù)吸引关注和社区参与 ,但随着公司的发展,我估计阿尔特曼(Sam Altman)的野心和(hé)商业梦想(xiǎng)越来(lái)越(yuè)膨胀了,闭源可以更好地让它融资,包括和微软合作,保护领先的技术优势。”他(tā)表示,从OpenAI的(de)转变中(zhōng)可以看出,开(kāi)源与闭源的选择并非固定不变,而是需要根据(jù)公司战略目标、市场环境和产(chǎn)品发展阶段灵活调整。天下没什么事(shì)情是(shì)绝(jué)对的,很多开源(yuán)公司也是拿着次优代码(mǎ)开源,独家(jiā)秘方闭源。

在追逐AGI(通用人(rén)工智能)这颗明珠的道路上,迄今为止,Meta依旧持续沿着开源的路径(jìng)前行。

2024年初,扎克伯格在Meta第四季度及2023全年财报电话(huà)会议上表示:“长期以来(lái),我们的策略(lüè)是构(gòu)建并(bìng)开放源代码通用基础设施,同时保留我们的具体(tǐ)产(chǎn)品(pǐn)实现为专有技术。”

他 认为,开源(yuán)带(dài)来了几个战略好处。首 先,开源软件通常更加安(ān)全可(kě)靠,并且因为社区的持续反馈、审查和开发,更加高效。其次,开源软件经(jīng)常成(chéng)为 行业标准,“当企(qǐ)业开始基于我们的(de)技术栈建立标准时(shí),这使得将创新融入我们的产品变得(dé)更加容易。这种微妙(miào)的(de)优势,能够迅(xùn)速学(xué)习和改进,是巨大(dà)的竞(jìng)争优势(shì),而成为行业(yè)标准正是这一能力(lì)的关(guān)键”。第三,开源在开(kāi)发者和研究人员中极受欢迎。

开源与闭源并不矛(máo)盾

开(kāi)源还是闭源,也许(xǔ)是全球人工智能(néng)信徒长久的辩题。在(zài)Llama 3诞生前几天,国内同样在进(jìn)行一场“辩论”。

4月(yuè)11日(rì),百度董事长兼首 席执行官李彦宏在其内部讲话中直言,大模型开源的(de)意义不(bù)大,闭源模型在能力上(shàng)会持续领先,而(ér)不是(shì)一(yī)时领先,做模型的创(chuàng)业公司既做模型又做应用 的“双轮驱动”不是一个好的模式。在一周后的(de)Create 2024百(bǎi)度AI开发者大会上,李彦宏再(zài)度提到,大家以前用开源觉得(dé)开源便宜,其实在大模型场景(jǐng)下(xià),开源是最贵的,所以开源模型会越来越落后。

360公(gōng)司创始人周鸿祎则持不(bù)同的观点。他表示:“网上(shàng)有些(xiē)名人胡说八道,大(dà)家也别被他们忽悠,说开源不(bù)如闭(bì)源好。一句(jù)话,今(jīn)天没有开(kāi)源就没有Linux(操作系统内核),没有Linux就没有互联网,就连说这(zhè)话的公司自己都借助了开源的(de)力量 才成长到(dào)今(jīn)天。”

这段发言被解读为对李彦宏观点的回怼,周鸿祎随后澄清(qīng)道:“我(wǒ)一直是开源的(de)信徒,但是我说开源好,是(4月)13日在哈佛(fú)讲的(de),李厂长(指李彦宏)说闭源好,是(4月)16日在(zài)北京讲的。”

生(shēng)数科技(jì)联合创始人兼CEO唐家(jiā)渝站在闭源的(de)一边(biān)。在4月18日举行的(de)“2024中(zhōng)国生成式AI大会”上,唐家渝表示:“在我们看(kàn)来,开源、闭源都有各自可 以做的商业生态,但是从(cóng)模型能力的(de)提升来说,或者持续走(zǒu)到前列来说,闭源还是会走到开源的前面。”

昆仑万(wàn)维董事长方(fāng)汉(hàn)的观点是,开源模型与闭源模型之间的差距正在(zài)不断缩小。4月16日(rì),方汉在接(jiē)受《每(měi)日经济新闻》记者在(zài)内的媒体采访(fǎng)时表示,闭源模型的(de)确是第一,但是开(kāi)源(yuán)大模型(xíng)在2023年到今年这一年(nián)间,从落后两年以上(shàng),已经进化到落后4~6个月以上。

此外,方汉认为,在应用(yòng)侧,闭源(yuán)对于产品特性和(hé)长尾需求的满足都落后于开源 大模型,开(kāi)源大模型(xíng)是一种生态(tài)构建器,更利于满(mǎn)足用(yòng)户的长(zhǎng)尾需求。开源(yuán)大模型和闭源(yuán)大模型是一个生态的组成部分(fēn),不是谁压倒谁,大(dà)家都有自己的生存空间,也都 有更好(hǎo)的明天。

不(bù)过,从商业化上来讲,闭源和开源也许并不矛盾。启明创投合伙人周志峰(fēng)就认为,开源闭源在过去(qù)几个大浪潮当中没有很大的冲(chōng)突(tū),不太理解为什么(me)很多人把闭源、开源在AI时代(dài)看成(chéng)对立的。

李明顺(shùn)的观点则是,在当前强应用导向的背景下(xià),开源模式具有显著优势,能够(gòu)吸引全球范(fàn)围内最广泛的人参与,从而使(shǐ)其创新性保持在较高水平。

相较之下,尽管一些闭源大模型(xíng)在技术上(shàng)具有领先(xiān)地(dì)位,但其成本太高。不过他也强调,开源与闭源在不同(tóng)公司和应用场景中可以相互转换 。一些(xiē)基于(yú)开源的产品在发 掘到独(dú)特优(yōu)势后,可能(néng)会通过闭源策略建立竞争壁垒。同时,一些闭源公司也会不断将其部分产品(pǐn)开源。这两个应该(gāi)是共存(cún)的,未来开(kāi)源可能用户量级上更大,但是行业内,商业化做得比较好的公司,往往还是闭源(yuán)的(de)多(duō)一点。

在(zài)开源与闭源的(de)辩论中,也许答(dá)案(àn)并非非此即彼。AI的未来(lái)可(kě)能既不是完(wán)全开放的“自(zì)由港”,也不是彻(chè)底封(fēng)闭的“孤(gū)岛”,而是一个既包含(hán)开放协作也包含封(fēng)闭竞争的混合生态。在这个生态系统中,开放 与封闭(bì)不是对(duì)立 的两极,而是一(yī)枚硬币的(de)两(liǎng)面。

未经允许不得转载:北京老旧机动车解体中心 存款继承新规来了!5万元以下免公证,快捷提取范围扩大……

评论

5+2=