分享好友 最新动态首页 最新动态分类 切换频道
IKAnalyzer 中文分词器
2024-12-26 20:58
IK Analyzer 2012 介绍
IK Analyzer 是一个开源的,基亍 java 语言开发的轻量级的中文分词工具包。从 2006
年 12 月推出 1.0 版开始
IKAnalyzer 已经推出了 4 个大版本。最初,它是以开源项目
Luence 为应用主体的,结合词典分词和文法分析算法的中文分词组件。从 3.0 版本开始
IK 发展为面向 Java 的公用分词组件,独立亍 Lucene 项目,同时提供了对 Lucene 的默认
优化实现。在 2012 版本中,IK 实现了简单的分词歧义排除算法,标志着 IK 分词器从单纯
的词典分词向模拟语义分词衍化。
1.1 IK Analyzer 2012 结构设计

 

IKAnalyzer 中文分词器

1.2 IK Analyzer 2012 特性
采用了特有的“正向迭代最细粒度切分算法“,支持细粒度和智能分词两种切分模式
在系统环境:Core2 i7 3.4G 双核,4G 内存,window 7 64 位
Sun JDK 1.6_29 64
位 普通 pc 环境测试,IK2012 具有 160 万字/秒(3000KB/S)的高速处理能力。
2012 版本的智能分词模式支持简单的分词排歧义处理和数量词合并输出。
采用了多子处理器分析模式,支持:英文字母、数字、中文词汇等分词处理,兼容韩文、
日文字符
优化的词典存储,更小的内存占用。支持用户词典扩展定义。特别的,在 2012 版本
词典支持中文,英文,数字混合词语。
1.3 分词效果示例
IK Analyzer 2012 版本支持 细粒度切分 智能切分 ,以下是两种切分方式的演示样例。
文本原文 1:
IKAnalyzer 是一个开源的,基亍 java 语言开发的轻量级的中文分词工具包。从 2006 年 12
月推出 1.0 版开始
IKAnalyzer 已经推出了 3 个大版本。
智能分词结果:
ikanalyzer | 是 | 一个 | 开源 | 的 | 基亍 | java | 语言 | 开发 | 的 | 轻量级 | 的 | 中
文 | 分词 | 工具包 | 从 | 2006年 | 12月 | 推出 | 1.0版 | 开始 | ikanalyzer | 已经 | 推
| 出了 | 3个 | 大 | 版本
最细粒度分词结果:
ikanalyzer | 是 | 一个 | 一 | 个 | 开源 | 的 | 基亍 | java | 语言 | 开发 | 的 | 轻量级 | 量级 | 的 | 中文 | 分词 | 工具包 | 工具 | 包 | 从 | 2006 | 年 | 12 | 月 | 推出 | 1.0 |
版 | 开始 | ikanalyzer | 已经 | 推出 | 出了 | 3 | 个 | 大 | 版本
文本原文 2:
张三说的确实在理
智能分词结果:
张三 | 说的 | 确实 | 在理
最细粒度分词结果:
张三 | 三 | 说的 | 的确 | 的 | 确实 | 实在 | 在理
文本原文 3
公路局正在治理解放大道路面积水问题
智能分词结果:
公路局 | 正在 | 治理 | 解放 | 大道 | 路面 | 积水 | 问题
最细粒度分词结果:
公路局 | 公路 | 路局 | 正在 | 治理 | 理解 | 解放 | 放大 | 大道 | 道路 | 路面 | 面积
| 积水 | 问题
文本原文 4
据路透社报道,印度尼西亚社会事务部一官员星期二(29 日)表示,日惹市附近当地时间 27
日晨 5 时 53 分发生的里氏 6.2 级地震已经造成至少 5427 人死亡,20000 余人受伤,近 20
万人无家可归。
智能分词结果:
据 | 路透社 | 报道 | 印度尼西亚 | 社会 | 事务部 | 一 | 官员 | 星期二 | 29 日 | 表示 |
日 | 惹 | 市 | 附近 | 当地时间 | 27 日 | 晨 | 5 时 | 53 分 | 发生 | 的 | 里氏 | 6.2 级 | 地震 | 已经 | 造成 | 至少 | 5427 人 | 死亡 | 20000 | 余人 | 受伤 | 近 | 20 | 万人 |
无家可归
最细粒度分词结果:
据 | 路透社 | 路透 | 社 | 报道 | 印度尼西亚 | 印度 | 尼 | 西亚 | 社会事务 | 社会 |
事务部 | 事务 | 部 | 一 | 官员 | 星期二 | 星期 | 二 | 29 | 日 | 表示 | 日 | 惹 | 市 |
附近 | 当地时间 | 当地 | 时间 | 27 | 日 | 晨 | 5 | 时 | 53 | 分发 | 分 | 发生 | 发 | 生
| 的 | 里氏 | 6.2 | 级 | 地震 | 已经 | 造成 | 至少 | 5427 | 人 | 死亡 | 20000 | 余人 |
受伤 | 近 | 20 | 万人 | 万 | 人 | 无家可归
2. 使用指南
2.1 下载地址
GoogleCode 开源项目
http://code.google.com/p/ik-analyzer/
GoogleCode 下载
http://code.google.com/p/ik-analyzer/downloads/list
2.2 与相关项目的版本兼容
最新文章
网站关键词搜索如何排名靠前的精彩回答
  百度关键字排名如何提高,有没有一个好的办法 达到比较好的效果!  在整个网络营销体系中,关键词排名优化对网站的发展起着关键性的作用,  关键词优化排名之后,对于读者来讲在搜索引擎中就能轻轻松松找到你的网站,  从而更
百度蜘蛛池收录:搜狗蜘蛛池权重揭秘,如何提升网站在搜狗搜索中的排名
本文揭秘了搜狗蜘蛛池的收录机制,分析了其权重影响因素。通过深入了解搜狗蜘蛛池的特点,本文提出了提升网站在搜狗搜索中排名的策略,为优化网站SEO提供有益指导。本文目录导读:搜狗蜘蛛池简介搜狗蜘蛛池权重影响因素随着互联网的快速发
跟随奇幻旅程,一起领略伊甸园舞台剧的魅力与故事!
《伊甸园》是一档备受瞩目的综艺节目,以其独特的理念和丰富的内容吸引了大批观众。节目由多位知名主持人共同搭档,他们不仅在娱乐圈拥有广泛的影响力,还各自具备独特的主持风格。主办团队包括经验丰富的主持人李明、幽默风趣的张华以及温
宝马5系空调不制冷出自然风是怎么回事
5 系空调不制冷出自然风可能有以下原因和解决办法。 原因 1. 室内外机未清洗干净影响通风包括室内过滤网、室外机翅片脏。 2. 制冷系统制冷剂泄漏。 3. 压缩机、风机及其电容等电路损坏。 4. 制冷系统堵塞。 5. 安装不当外机朝阳温度过高或
美国波士顿都有哪些好的走读高中?
波士顿,这座美国马萨诸塞州的首府与最大都市,同时也是新英格兰地区的璀璨明珠。它以其卓越的教育资源闻名遐迩,居民受教育程度高居全美前列。哈佛大学与麻省理工这两所世界级学府,就坐落于波士顿都市圈内,为这片土地增添了无尽的光彩。
超逼真美女写真生成器评测:快来体验最新AI绘画工具!
限时免费,点击体验最近超火的AI生图神器,坐拥3000美女的大男主就是你! https://ai.sohu.com/pc/generate/textToImg?_trans_=030001_yljdaimn 在某个阳光明媚的午后,许多年轻朋友们都在社交媒体上分享着自己的自拍照,展现生活中的点滴
菏泽微信公众号制作开发 菏泽微信公众号信息制作 菏泽小程序微网站开发 菏泽网站制作
系统开发网站制作|网络推广小程序制作开发|微信商城制作电话:13292208571(微信)点击一键拨打电话:13292208571很多用户可能了解的小程序都是模板类型,一年几千元,而听到定制开发的小程序需要几万甚至了十几万的时候,都感觉这些公司在
短剧对接广告联盟穿山甲系统APP源码搭建开发(现成案例)
移动应用程序(APP)已成为企业与用户互动的重要桥梁。对于内容创作者和开发者而言,将短剧内容与广告联盟系统相结合,不仅能够丰富用户体验,还能开辟新的盈利渠道。本文将详细介绍如何通过对接广告联盟“穿山甲”系统,进行短剧APP的源码
闲鱼VS转转:一份二手交易市场APP 竞品分析报告
作者:赵向维,首发:鸟哥笔记本文作者早在两年前对闲鱼和转转做过一次竞品分析,当时,闲鱼的百度搜索指数是转转的30倍,在App Store的评论是转转的10倍,总体用户量也相距数倍,时隔两年之后,作者再次进行调研,发现两家已呈并驾齐驱的
相关文章
推荐文章
发表评论
0评