开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 正文

GPT-3-中文-large 有多少参数

GPT-3-中文-large、base 分别 有多少参数呢?请大佬告知下。

展开
收起
dian张 2023-03-01 14:59:21 966 0
6 条回答
写回答
取消 提交回答
  • 天下风云出我辈,一入江湖岁月催,皇图霸业谈笑中,不胜人生一场醉。

    GPT-3-中文-large模型有175亿个参数,是一种大型预训练自然语言处理(NLP)模型。

    2023-03-02 09:30:29
    赞同 展开评论 打赏
  • GPT-3-中文-large有175亿参数,而GPT-3-中文-base有17.5亿参数。

    2023-03-02 09:10:23
    赞同 展开评论 打赏
  • GPT-3的参数量高达1750亿,相比之下,GPT-2的最大版本只有15亿个参数,由此可见GTP-3的强大能力,根据深度学习之父、图灵奖得主Geoffrey Hinton的表示,从GPT-3惊人的性能可以推测:生命、宇宙和万物的答案,只需要4.398万亿个参数而已。由此可见GTP-3的强大能力是划时代的。

    2023-03-01 18:40:09
    赞同 展开评论 打赏
  • CSDN博客专家,51CTO博主专家,多知名企业认证讲师&签约作者&培训讲师,特邀作者等,华为云专家,资深测试开发专家,金牌面试官,职场面试培训及规划师。

    【回答】

    gpt-3使用的数据集容量达到了45TB,

    gpt-3具有1750亿个参数,

    一个gpt-3 模型可能需要要 700G的硬盘空间来存储

    2023-03-01 18:14:39
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    gpt-3具有1750亿个参数

    2023-03-01 17:43:04
    赞同 展开评论 打赏
  • 十年摸盘键,代码未曾试。 今日码示君,谁有上云事。

    有base/large/1.3B/2.7B/13B/30B/175B等不同参数的版本,现在除了175B的版本都已经上线,175B的版本正在训练中,

    阿里巴巴达摩院发布中文社区最大规模预训练语言模型PLUG(Pre-training for Language Understanding and Generation)。该模型参数规模达270亿,集语言理解与生成能力于一身,在小说创作、诗歌生成、智能问答等长文本生成领域表现突出,其目标是通过超大模型的能力,大幅提升中文NLP各类任务的表现,取得超越人类表现的性能。发布后,PLUG刷新了中文语言理解评测基准CLUE分类榜单历史纪录。

    BERT论文中提到的BERT-base有1亿参数和BERT-large有3亿参数;最近的GPT-3和PaLM的large更是高达1750亿参数和5400亿参数。 

    2023-03-01 16:20:40
    赞同 展开评论 打赏
滑动查看更多

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

热门讨论

热门文章

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载

相关实验场景

更多