博客
关于我
fastText中常见问题汇总
阅读量:299 次
发布时间:2019-03-03

本文共 1498 字,大约阅读时间需要 4 分钟。

fastText中常见问题汇总:

1、什么是fastText
fastText是一个用于文本分类和词向量表示的库,它能够把文本转化成连续的向量然后用于后续具体的语言任务,目前教程较少!

2、为什么训练的模型非常大

fastText对字和字符串使用hash表,hash表的大小将直接影响模型的大小,可以通过选项-hash来减少词汇hash表的大小,一个可选的好参数时20000。另一个影响模型大小重要的因素是训练向量的维度大小(-dim),如果维度缩小模型将大大减小,但同时也会很大程度影响模型的性能,因为向量维度越大则捕获的信息越多,当然还有一种将模型变小的方法是使用量化选项(-quantize),命令如下所示:

./fasttext quantize -output model

3、模型中使用单词短语而不是单个单词最佳方式是什么
目前使用单词短语或句子最好的方式是使用词向量的bow(bag of words),另一种方式例如New York,我们可以将其处理成New_York也会有帮助

4、为什么fastText甚至可以为语料库中未出现的单词产生词向量

fastText一个重要的特性便是有能力为任何单词产生词向量,即使是未出现的,组装的单词。主要是因为fastText是通过包含在单词中的子字符substring of character来构建单词的词向量,正文中也有论述,因此这种训练模型的方式使得fastText可以为拼写错误的单词或者连接组装的单词产生词向量

5、为什么分层softmax在效果上比完全softmax略差

分层softmax是完全softmax的一个近似,分层softmax可以让我们在大数据集上高效的建立模型,但通常会以损失精度的几个百分点为代价

6、可以在GPU上运行fastText项目吗

目前fastText仅仅可运行在CPU上,但这也是其优势所在,fastText的目的便是要成为一个高效的CPU上的分类模型,可以允许模型在没有CPU的情况下构建

7、可以使用python语言或者其他语言使用fastText嘛

目前在GitHub上有很少的关于fastText的其他语言实现的非官方版本,但可以负责任的说,是可以用tensorflow实现的

8、可以在连续的数据集上使用fastText吗

不可以,fastText仅仅是用于离散的数据集,因此无法直接在连续的数据集上使用,但是可以将连续的数据离散化后使用fastText

9、数据中存在拼写错误,我们需要对文本进行规范化处理吗

如果出现的频率不高,没有必要,对模型效果不会有什么影响

10、在模型训练时遇到了NaN,为什么会这样

这种现象是可能出现的,很大原因是因为你的学习率太高了,可以尝试降低一下学习率直到不再出现NaN

11、系统无法编译fastText,怎么处理

尝试更新一下编译器版本,很大可能就是因为编译器太旧了

12、如何完全重现fastText的运行结果,为什么每次运行的结果都有些差异

当多次运行fastText时,因为优化算法异步随机梯度下降算法或Hogwild,所以每次得到的结果都会略有不同,如果想要fastText运行结果复现,则必须将参数thread设置为1,这样你就可以在每次运行时获得完成相同的性能
--------------------- 
作者:feilong_csdn 
来源:CSDN 
原文:https://blog.csdn.net/feilong_csdn/article/details/88655927 
版权声明:本文为博主原创文章,转载请附上博文链接!

你可能感兴趣的文章
【招生目录和招生简章】浙江大学 华北电力大学 河南工业大学 福建师范大学...
查看>>
这些考研阅卷潜规则你知道几个?
查看>>
【考研英语】考研英语小作文万能模板(致歉信)
查看>>
【数据结构与算法】队列
查看>>
【研究生】PyTorch 1.0稳定版正式发布,并向开发者提供免费AI课程
查看>>
为何二战考生成功率远远大于应届?
查看>>
计算机专业【本科生】毕业还不如【专科生】?
查看>>
考研408联盟新添一所985!某知名大学专业课改用408!
查看>>
最有钱的大学是哪个?教育部直属高校公布2018年决算
查看>>
408的逆袭!武汉大学所有计算机/软件专业都改为408!
查看>>
408又多一所学校!广东某大学专业课改为408!
查看>>
【报名问题】考研现场确认时发现报考点选错了怎么办?
查看>>
提醒 | 未下载打印准考证的考生,不能参加2020年考研初试
查看>>
【调剂】其它计算机/软件调剂信息 20.4.21
查看>>
【调剂】华侨大学媒体分析与数据挖掘小组招收学硕调剂生
查看>>
分数线385!平均分399!985大学计算机的真正“实力”!
查看>>
【调剂】211云南大学2020年硕士研究生招生调剂通知
查看>>
【调剂】985复旦大学类脑智能科学与技术研究院硕士研究生招生接收校内调剂考生工作细则...
查看>>
【调剂】沈阳航空航天大学2020年硕士研究生调剂信息
查看>>
最新!薪酬最高的大学本科专业公布!
查看>>