广东龙网 | 科技 | 登录

字符级NLP优劣分析:在某些场景中比词向量更好用[二]

广东龙网 - 科技频道 | | 来源:机器之心Synced

广东龙网科技频道:【本文标题是字符级NLP优劣分析:在某些场景中比词向量更好用[二]。。】---来源是:机器之心Synced

[字符级NLP优劣分析:在某些场景中比词向量更好用[二]]NLP 系统就像人生一样 , 充满了选择与权衡 。 其中一个选择是指定我们的模型所看到的最小单位 。 通常而言 , 我们处理语言的方式是处理「词(word)」 。 本文则将探索另一个不太直观的选择——字符(character) , 并将介绍字符级处理方式的优缺点 。

字符级模型放弃了词所具有的语义信息 , 也放弃了即插即用的预训练词向量生态系统 。 另一方面 , 字符级深度学习模型又有两个基本优势:它们能缓解我们在模型输入上遇到的词汇库问题 , 还能避免在模型输出上的计算瓶颈 。

在输入方面 , 它们能极大地提升我们的模型所能处理的词汇量 , 并且能弹性地处理拼写错误和罕见词问题 。 在输出方面 , 由于字符级模型的词汇库很小 , 所以计算成本更低 。 这样的性质使得在预算有限时也能使用某些训练技术(比如联合训练一个语言模型)并达到较快的训练速度 。

你会喜欢下面的文章?

月亮的背后有什么?

- 阅13

广东龙网科技频道提示您本文原始标题是:月亮的背后有什么? 撰文/古道君 出品/古道......

微盟CEO孙涛勇:与腾讯多层面合作 将探索并购整合机会

- 阅45

广东龙网科技频道提示您本文原始标题是:微盟CEO孙涛勇:与腾讯多层面合作 将探索并......

瑞幸咖啡公布2019年战略目标 回应严重亏损持续补贴等话题

- 阅30

广东龙网科技频道提示您本文原始标题是:瑞幸咖啡公布2019年战略目标 回应严重亏损持......

焊接机器人自动化生产线在汽车摩托车行业替代人工作业

- 阅15

广东龙网科技频道提示您本文原始标题是:焊接机器人自动化生产线在汽车摩托车行业替......

京东第一夫人朋友圈被爆,原来是其同学所为,章泽天退群

- 阅34

广东龙网科技频道提示您本文原始标题是:京东第一夫人朋友圈被爆 , 原来是其同学所......

小米Play隐藏水滴后的样子,网友看完:窒息了

- 阅47

广东龙网科技频道提示您本文原始标题是:小米Play隐藏水滴后的样子 , 网友看完:窒......

儿童手表行业年终盘点:小天才Z5行业最佳,亦青藤旗舰抢眼!

- 阅27

广东龙网科技频道提示您本文原始标题是:儿童手表行业年终盘点:小天才Z5行业最佳 ,......

收入破千亿,BAT底蕴助力百度寒冬狂奔

- 阅11

广东龙网科技频道提示您本文原始标题是:收入破千亿 , BAT底蕴助力百度寒冬狂奔 新......

UFO频繁光顾地球,为何从不主动攻击人类?科学家或已发现背后秘

- 阅18

广东龙网科技频道提示您本文原始标题是:UFO频繁光顾地球 , 为何从不主动攻击人类?......

海底终极大战中的三维应用

- 阅46

广东龙网科技频道提示您本文原始标题是:海底终极大战中的三维应用 近日上映的好莱坞......