大模型训练参数规模量级最高或达5万亿以上

2023/6/21 10:15:42 5010 
 

-国内大模型出现大量参数规模大于100亿的模型

-百度研发的Ernie和华为研发的盘古目前是有数据的国内大模型参数规模的L先者

-国际L先的大模型GPT-4据推测参数规模量J可达5万亿以上

国内大模型未公布参数规模

•自研大模型(字节)

• 1+N认知智能大模型(科大讯飞)

•二郎神模型(IDEA研究院)

•自研AI大模型(光年之外)

•自研大模型(燧原科技)

•超拟人大模型(聆心智能)

•自研大模型(香依科技)

•魔力写作(竹间智能)

•自研大模型(MiniMax)

•蛋白质大模型(浙江大学杭州国 际科创中心)

国内模型参数规模<100 亿

•书生3.5 (商汤科技)

•孟子(澜舟科技)

•DriveGPT (毫末智行)

•ChatGLM (清华大学)

国内模型参数规模>100 亿

•ERNIE 3.0 (百度)

•盘古(华为)

•MOSS (复旦大学)

•遵义(阿里)

•言犀(京东)

•混元(腾讯)

•伏羲(网易)

•源1.0 (浪潮信息)

•行业精灵(云从科技)

•八卦炉(达摩院)

•元语大模型(莫塔社区)

•曹植大模型(达观数据)

•紫东太初(中科院自动化研究所)

•自研大模型(西湖星辰)

•悟道2.0 (智源研究院)

国际模型参数规模

•GPT-4 (OpenAI) 未公开,推测为超过50000亿

•PaLM (Google) 5400亿

•BERT (Google) 4810亿

•GPT-3.5 (OpenAI) 1750亿

•LaMDA (Google) 1370亿

•Galatica (Meta) 1200亿

•LLaMDA (Meta) 650亿

•Chinchilla (DeepMind) 700 亿

•Claude (Anthropic) 520亿

•Mineva (Google) 5400亿


 
上一篇   下一篇
 
返回顶部
  技术支持
  关于创泽
  隐私条款
咨询热线
 
销售咨询
4006-935-088 / 4006-937-088
 
客服热线
4008-128-728

版权所有 @ 创泽智能机器人集团股份有限公司
运营中心 / 北京市·清华科技园九号楼5层
生产中心 / 山东省日照市开发区太原路71