章节

自然语言处理模型技术竞争白热化,市场前景回温向好

摘要

2021年,自然语言处理技术在超大规模预训练模型、训练范式和训练效率等方面继续实现突破,适用性和效率进一步提升,带动下游知识图谱、智能语音等技术的发展,广泛落地并赋能于金融、生物医疗、互联网应用、智慧安防等诸多场景,投融资和市场规模均迎来增长。在学术领域,研究者在进一步提升预训练语言模型性能的同时,也愈发关注模型规模加速膨胀背景下的技术可解释性、泛化性及社会性问题,以及由技术依赖产生的伦理和垄断问题。

作者

黄金成 ,北京大学电子信息专业硕士研究生,主要从事国内外人工智能、新一代信息技术、大数据等领域政策与产业研究。
明书聪 ,国家工业信息安全发展研究中心工程师,主要从事国内外新一代信息技术、人工智能等领域研究工作。

参考文献 查看全部 ↓
  • 《2021年中国人工智能产业研究报告(Ⅳ)》,https://www.iresearch.com.cn/Detail/report?id=3925&isfree=0。
  • 《中国AI+医疗行业报告》,https://www.iresearch.com.cn/Detail/report?id=3722&isfree=0。
  • “2022 Trends Report:Data,Machine Learning,and AI”,https://gradientflow.com/2022trendsreport/.
  • “2021 NLP Survey Report”,https://gradientflow.com/2021nlpsurvey/.
  • 《智源研究院2021年智源人工智能前沿报告》,https://mp.weixin.qq.com/s/dccSrFNYAzWI1E1o_Qwafg。
  • 《2022爱分析·人工智能应用实践报告》,https://www.ifenxi.com/research/content/6032。
  • 《人工智能标准化白皮书(2021版)》,http://www.cesi.cn/202107/7796.html。
  • 《中国人工智能高价值专利及创新驱动力分析报告》,http://www.cmrnn.com.cn/content/2021-11/03/content_207390.html。
  • Jin Z.,Chauhan G.,Tse B.,Sachan M.,& Mihalcea R.,“How Good is NLP?A Sober Look at NLP Tasks Through the Lens of Social Impact”,paper presented at the ACL,2021.
  • “The Chatbot Problem”,https://www.newyorker.com/culture/cultural-comment/the-chatbot-problem.
  • “Artificial Intelligence Index Report 2022”,https://aiindex.stanford.edu/wp-content/uploads/2022/03/2022-AI-Index-Report_Master.pdf.
  • Lin Z.,Wu L.,Wang M.,et al.,“Learning Language Specific Sub-network for Multilingual Machine Translation”,paper presented at the ACL,2021.
  • Xu J.,Zhou H.,Gan C.,et al.,“Vocabulary Learning via Optimal Transport for Neural Machine Translation”,paper presented at the ACL,2021.
  • Yao X.,Zheng Y.,Yang X.,et al.,“NLP from Scratch Without Large-Scale Pretraining:A Simple and Efficient Framework”,paper presented at the 39th International Conference on Machine Learning,2022.
  • Gehrmann S.,Adewumi T.,Aggarwal K.,et al.,“The Gem Benchmark:Natural Language Generation,Its Evaluation and Metrics”,paper presented at arXiv preprint,arXiv:2102.01672,2021.
  • Bender E.M.,Gebru T.,McMillan-Major A.,et al.,“On the Dangers of Stochastic Parrots:Can Language Models be too Big?”,paper presented at the ACM,2021.
  • Saar K.L.,Morgunov A.S.,Qi R.,et al.,“Learning the Molecular Grammar of Protein Condensates from Sequence Determinants and Embeddings”,Proceedings of the National Academy of Sciences of the United States of America,118(15),2021.
  • Zhang S.,Song L.,Jin L.,et al. “Video-aided Unsupervised Grammar Induction”,paper presented at the NAACL,2021.

自然语言处理模型技术竞争白热化,市场前景回温向好

可试读20%内容 PDF阅读 阅读器阅览

试读已结束,剩余80%未读

¥10.67 查看全文 >

VIP免费

章节目录

  • 一 自然语言处理学术研究持续深化,关注视域不断拓展
    1. (一)语言模型功能更加强大通用
    2. (二)模型评估基准更加动态多元
    3. (三)技术伦理探讨趋向深入务实
    4. (四)论文竞赛关注应用实效与伦理
  • 二 自然语言处理技术行业落地提速,产业前景趋向明朗
    1. (一)自然语言处理市场规模稳中有进,实现加速增长
    2. (二)自然语言处理融资规模颓势扭转,市场信心回温
    3. (三)自然语言处理行业赋能持续发力,蓝图落地见效
  • 三 自然语言处理技术路线仍较趋同,既有难题尚待突破
    1. (一)技术发展路线同质化较为明显
    2. (二)范式依赖不利于突破应用难题
    3. (三)伦理问题随技术铺开日渐尖锐
  • 四 自然语言处理技术将以融合为引领,发掘深层应用潜力

章节图片/图表

查看更多>>>