集搜客分词工具有些新的名词切不出来,可以自定义词典吗?
举报 使用道具
| 回复

共 4 个关于本帖的回复 最后回复于 2020-4-27 12:05

沙发
ym 版主 发表于 2020-4-27 12:00:06 | 只看该作者
集搜客分词工具目前是采用条件随机场CRF算法,相对其他切词算法,CRF在识别新词上有较好的效果,但也会存在识别不准确的情。

如果有些词语没切分出来,可以在“选词结果”页面里点击“添加词语”按钮,这相当于是自定义的词典,然后系统会直接把所添加的词与原数据进行精确查找匹配并计算出词频,如果已经预先整理好词典,可以直接“添加词语”,从而实现自定义词典的匹配。
举报 使用道具
板凳
韧柳御风 初级会员 发表于 2020-4-27 12:02:20 | 只看该作者
自己添加的词语,它的词频是怎么计算的,是直接算匹配到的原数据数量吗?
举报 使用道具
地板
ym 版主 发表于 2020-4-27 12:04:37 | 只看该作者
韧柳御风 发表于 2020-4-27 12:02
自己添加的词语,它的词频是怎么计算的,是直接算匹配到的原数据数量吗? ...

添加词语的词频,是统计它在每一条原数据里的出现次数的总和,比如 词语A匹配上2条原数据,第一条原数据出现3次,第二条原数据出现5次,那么词语A的词频就是8

举报 使用道具
5#
韧柳御风 初级会员 发表于 2020-4-27 12:05:11 | 只看该作者
明白了,谢谢
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-25 06:38