当前位置:首页 >> 风事话

蚂蚁集团官宣开源统一多模态大模型Ming

5月27日,蚂蚁模态在蚂蚁工艺日上,集团蚂蚁集团旗下的官宣百灵大模型(Ling)团队宣布正式开源统一多模态大模型Ming-lite-omni。据蚂蚁方面介绍,开源这是统多一款基于Ling-lite构建的MoE架构的全模态模型,其总参数22B,大模老师隐私泄露高清视频激活参数3B。蚂蚁模态 

蚂蚁集团官宣开源统一多模态大模型Ming-lite-omni

据悉,Ming-lite-omni当前模型权重和推理代码已开源,官宣后续会陆续开源训练代码和训练信息。开源

https://huggingface.co/inclusionAI/Ming-Lite-Omni

今年以来,统多百灵大模型已经连续开源了多个模型产物,大模包括2个MoE架构的蚂蚁模态韩式美容房隐私外泄合集大语言模型,Ling-lite和Ling-plus,集团多模态大模型Ming-lite-uni,官宣以及Ming-lite-omni-preview。

其中,其中五月中旬开源了Ling-lite-1.5,据百灵方面介绍,“能力已经接近同水位SOTA水平,介于千问4B和8B的水平。”蚂蚁方面称,这两个模型在多个算力平台(包括非Hopper架构的国产算力)进行训练,验证了300B尺寸的SOTA MoE大语言模型在非高端算力平台上训练的可行性。

而本次开源的Ming-lite-omni产物在多项理解和生成能力评测中,性能与10B量级领先的多模态大模型相当或更优。蚂蚁方面认为,这是目前已知首个在模态支持方面能够与GPT-4o相媲美的开源模型。

百灵大模型负责人西亭对媒体表示,百灵大模型的命名规则是Ling代表基础大模型,Ring代表推理版本,Ming代表多模态大模型。百灵在过去主要在几个方面做了聚焦,一个是很早做MoE架构的探索,坚定的在语言大模型和多模态大模型上面统一使用了MoE的架构,同时使用了大量非高端的算力平台,证明了国产GPU的“也能训练出来可比拟GPT4o的模型”。其次,百灵很重视多模态领域的探索,一直在推进多模态的生成和理解的统一,而本次开源的Ming-lite-omin即是过去工艺探索的成果。

百灵方面表示,团队下一步将持续优化Ming-lite-omni在全模态理解和生成任务上的效果,并提升Ming-lite-omni的多模复杂推理能力;同时也会训练更大尺寸的全模态模型Ming-plus-omni。此外,根据西亭透露, 百灵还在筹备Ling的Max版本,发布节点将会是“追寻跟(deepseek)V3的版本差不多的版本时开出去”。

(雷峰网(公众号:雷峰网))

雷峰网原创文章,未经授权禁止转载。详情见转载须知。

蚂蚁集团官宣开源统一多模态大模型Ming-lite-omni

  • 关注微信

猜你喜欢

热门标签

DALL·E 3 推理能力炸裂提升,OpenAI 抢跑「ChatGPT 原生」AMD 6.65 亿美元收购 Silo AI;Genie 击败 Devin、GPT视觉 AI 的「Foundation Model」,已经发展到哪一步?丨CVPR 2024 现场直击OpenAI 终于发布 GPT产业跑进数字世界,要先迈过安全这道坎图灵奖遗忘的AI之父,GAI时代再发声:Jurgen重谈AI“创业”史无问芯穹完成近 5 亿元 A 轮融资,累计融资近 10 亿元AI 搜索向左,搜索 OG 向右2D变3D,电影之城邀你“入画”AI 手术平台 Caresyntax 获 1.8 亿美元融资;智元发布 5 款商用人形机器人,开发者还能“0元购”丨AI情报局AI 编程新星 Anysphere 获 A16z 估值 4 亿美元投资;微软为 Excel 等研发新 AI 模型丨AI情报局成立996天,MiniMax 每日与世界的30亿次交互零一万物 API 上线,用户反馈多模态中文能力超过 GPT专访 OmniH2O 项目发起人何泰然:探索人形机器人遥操作通向具身智能的可行之路JetBrains与阿里云战略合作发布JetBrains AI Assistant:聚焦中国市场开发者,实现开发效率代际提升阿里领投首家人形机器人:逐际动力完成亿元 A 轮融资;谷歌 Eureka AI 模型提前曝光丨AI情报局用扩散模型生成神经网络?NUS 尤洋团队:这不是开玩笑苹果大模型最新论文:AFM 模型多维度评测「出炉」开源公司 Grafana Labs 融资 2.7 亿美元;a16z 发布全球 Top100 AI 应用:字节美图上榜丨AI情报局DeepMind 危,OpenAI 押注成立六个月 AI 药物发现公司;四川具身人形机器人科技公司成立,彭倍教授牵头丨AI情报局

推荐排行

  • [list:title len=50]
  • [list:title len=50]
  • [list:title len=50]
  • [list:title len=50]
  • [list:title len=50]
  • [list:title len=50]