您当前位置:首页 > 法治

阿里达摩院发布中文领域最大规模语言模型 AI可仿写小说

来源:
11分钟前

       4月19日,阿里巴巴达摩院发布超大规模语言模型PLUG,该模型参数规模达270亿,是目前全球规模最大的中文纯文本预训练语言模型。PLUG集良好的语言理解与创造性文本生成能力于一身,在小说仿写、诗歌生成、智能问答等长文本生成领域表现突出,其目标是通过超大模型的能力,大幅提升中文自然语言技术在各类任务中的表现。

点击进入下一页
4月19日,PLUG刷新CLUE分类榜单纪录,排名仅次于“人类”

  近年来,大规模预训练模型成为人工智能领域的重要趋势。训练拥有“大智慧”的“大模型”,展现了一条通向通用人工智能的可能路径。去年5月,海外公司OpenAI发布能写小说、聊天、编曲谱、写代码的GPT-3模型,将这一浪潮在全球范围内推向新高。此后,中文领域同类模型的训练进程备受关注。与GPT-3类似,阿里达摩院本次发布的PLUG模型有望广泛应用于文本生成领域,成为“万能写作神器”。更重要的是,此类超大模型拥有极强的通用性,被认为或将成为人工智能时代新型基础设施之一。

  较GPT-3改进之处在于,PLUG集成了达摩院自研的语言理解及语言生成双模型,并通过构建输入文本双向理解能力,显著提升了输出文本的相关性。在语言理解任务上,PLUG以80.614分刷新了业内权威的中文语言理解评测基准CLUE分类榜单历史纪录;在语言生成任务上,PLUG多项应用数据较业内最优水平提升了8%以上。

点击进入下一页

  据了解,PLUG采用了1TB以上高质量中文文本训练数据,涵盖新闻、小说、诗歌、问答等广泛类型及领域。接下来,PLUG将扩大参数规模至2000亿级,并进一步提升文本生成质量。在超大规模预训练模型领域,除发布以中文为核心的PLUG外,达摩院、阿里云计算平台团队还联合智源研究院、清华大学发布了面向认知的超大规模新型预训练模型“文汇”,以及联合清华大学发布了超大规模多模态预训练模型“M6”。

  阿里巴巴达摩院语言技术实验室负责人司罗表示,“达摩院团队将进一步攻克自然语言处理领域科研难题,完善中文及跨语言人工智能基础设施,让AI没有难懂的语言,并探索通用人工智能之路。”

相关阅读

随着第四次工业革命走向纵深,大数据、人工智能、区块链等新一代信息技术得到蓬勃发展和深度应用,世界经济数字化转型成为大势所趋,企业“数智化”转型也[详细]

2021-04-20 15:41:38

4月19日,阿里巴巴达摩院发布超大规模语言模型PLUG,该模型参数规模达270亿,是目前全球规模最大的中文纯文本预训练语言模型。PLUG集良好的语言理解与创造性文本生成[详细]

2021-04-20 15:36:05

日前,“合理用药•中国行动”2020年全国经验交流总结暨2021年启动大会在海南省海口市召开,来自全国各地的卫生健康行政部门的管理者,医疗机构药事管[详细]

2021-04-20 15:01:43

近几年来,国家对于物联网的战略支持使得“智能家居”成为了刚需式的存在,它不仅具备传统的居住功能,还能提供舒适、安全、高效、人性化的生活空间,通过[详细]

2021-04-20 14:42:46

4月18日,由中国妇幼保健协会主办,中国关心下一代工作委员会、中国营养学会妇幼营养分会、英氏共同协办的“中国喂道—中国婴幼儿辅食分阶喂养高峰论坛&r[详细]

2021-04-20 14:37:00

随着5G、Wi-Fi 6浪潮全面涌来,万物互联的全场景智慧生活体验成了备受大家追捧的全新生活方式。4月19日,荣耀与京东结合双方当下发展需求,进一步深化合作,不仅在全[详细]

2021-04-20 14:31:16

近日,兴业银行上线“兴旅程”权益平台,探索零售财富客户线上成长激励体系。“兴旅程”平台依托于兴业银行手机银行APP,首次引入成长型游戏设计[详细]

2021-04-20 14:26:41

近日,西藏银行业社会责任报告和服务报告发布会暨表彰会在拉萨举行。区党委宣传部、区金融监管局、西藏银保监局、区经济和信息化厅、区扶贫办、区社科院、区工商联以[详细]

2021-04-20 14:23:11

  • 意见反馈:g2416238474@163.com
  • 稿件投诉:g2416238474@163.com
  • 网站首页:www.udlsy.com
  • 客服联系:g2416238474@163.com
  • 关注我们