这段时间，一款名叫ChatGPT的人工智能谈天系统就像平地起春雷，突然刷爆网络。
“从现在普遍的对话感受来看，ChatGPT的最大亮点就在于其优异的意图识别与语言明确能力，这令人意识到人工智能的交互能力已经实现了跨越式希望。”rb88随行版咨询高级剖析师陈宇评价。
有问必答，侃侃应对。这种神奇的人机互动体验，勾起人们绞尽脑汁向ChatGPT提问的热情，并为其带来惊人的用户量：该系统在两个多月前由美国人工智能研究公司OpenAI推出，今年1月便已抵达1亿月活跃用户，用户增添速率堪称史无前例。
这款产品大受接待，其主要幕后元勋是被业内称为预训练模子的手艺。面临ChatGPT的爆火，海内科技机构和企业纷纷“亮剑”。据最新新闻，中国版ChatGPT将于下个月与公众晤面。
参数规模从几百万狂飙至几千亿
“现在，预训练手艺是人工智能研究的主要突破口。”阿里研究院未来手艺中心认真人苏中解读，古板的研究要领中，标注本钱一直是阻碍人工智能算法推向更大数据荟萃的障碍，而预训练手艺不依赖数据标注，就可以训练出一个大规模深度学习模子。
rb88随行版咨询相识到，由于不需要数据标注，预训练模子往往可以使用更大的数据集，因而可以选择更大的模子规模——这就催生了预训练大模子。
“与以往的人工神经网络相比，预训练大模子最大的差别在于它规模足够大，深度学习网络的层数多、毗连多、参数多。”IDEA研究院（粤港澳大湾区数字经济研究院）认知盘算与自然语言研究中心讲席科学家张家兴接受采访时先容，2012年前后的深度学习网络只有几百万参数；2018年前后主流的预训练模子抵达1亿参数；现在被证实很是有用的大规模预训练模子已有几千亿参数，短短几年时间提升了几千倍。
量变引起质变。苏中剖析，在对预训练模子州差别的手艺评测中，算法性能展示了一个纪律：数据规模越大、预训练模子参数越多，算法输出精度往往也越高。
除了规模大以外，张家兴谈到，现在的预训练大模子由于接纳了新的结构模子，很是适合并行训练。同时，在训练方法上，人工神经网络的预训练使命类似“解题”，好比把一句话的某个词或前半句去掉，让预训练模子使用海量大数据对句子举行恢复，这样训练下去，预训练模子的“解题”能力就会越来越好。并且，在大语言模子的基础上，引入指令学习，可以远超模子微调带来的收益。在此基础上，人类的反响可以资助模子更好地明确人类意图和吸收信息，人机对话也就越来越流通。
“ChatGPT在底层数据、焦点手艺、用户体验等各方面都可以说是里程碑式的人工智能产品。”旷视研究院基础科研认真人张祥雨体现，ChatGPT的焦点手艺是人工智能语言大模子，其要害是怎样让人工智能模子具备逻辑推理能力，以及怎样让人工智能学习全互联网的知识。这些ChatGPT基本都做到了，因此在决媾和知识环节有了很大的突破。
海内多家科技机构已结构相关领域
据外媒报道，多家外洋科技巨头正重金投入预训练模子和人工智能天生内容（AIGC）赛道。记者相识到，海内已有不少科技机构和企业结构相关领域。
张家兴告诉记者，IDEA研究院认知盘算与自然语言研究中心在此偏向上结构已久，该中心拥有海内最大的开源模子系统——封神榜，已开源的98个模子正在全力支持中国AIGC的生长，探索研发适配各个领域的个性化可定制模子，支持所有自然语言处置惩罚（NLP）使命。
“很兴奋能在深度学习高速生长的第十年节点上，看到AIGC和ChatGPT的泛起，今天所有这些自然语言处置惩罚使命正在被统一到ChatGPT模式下，我们也正在整合之前的模子和手艺，推出rb88随行版类ChatGPT模子。”张家兴说。
记者从百度获悉，百度已投入开发类似ChatGPT的相关手艺，该项目名字确定为文心一言，英文名ERNIE Bot，3月份完成内测后面向公众开放。现在，文心一言在做上线前的冲刺。
“ChatGPT主要涉及自然语言处置惩罚相关手艺，属于认知智能领域的应用之一，科大讯飞在该偏向的手艺和应用方面具备恒久深挚的积累。”2月8日晚，科大讯飞在投资者互动平台回应称，公司已面向认知智能领域陆续开源了6大类、凌驾40个通用领域的系列中文预训练语言模子，并于去年12月启动天生式预训练大模子使命攻关，人工智能学习机将成为该项手艺率先落地的产品，今年5月将举行产品级宣布。
别的，360公司2月7日在投资者互动平台体现，该公司也妄想尽快推出类ChatGPT手艺的原型版产品。“AIGC手艺除了在搜索引擎的应用之外，还可以辅助数字清静能力的提升。”360公司称。
扫一扫
