主要就是通过jieba的posseg模块将一段文字分段并赋予不同字段不同意思。然后通过频率计算出热频词

数据放在文章里面了,就不用花积分下载了

**

代码

# TODO                鸟欲高飞,必先展翅
# TODO                 向前的人 :Jhon
import jieba.posseg as psg
text=open("data/冬奥会评论区的数据.txt", "r", encoding="utf-8").read()
text_psg=psg.lcut(text)
#  TODO  杨过 nr
print('人物名词性标注为:\n',' '.join(['{}{}'.format(w,t) for w,t in text_psg]))
name_counts={}  #定义字典用于存储词及其出现的次数
for word_pair in text_psg:
    if len(word_pair.word)==1:
        continue
    else:
        if word_pair.flag=="nr" or word_pair.flag=="z":    # TODO   flag方法
            name_counts[word_pair]=name_counts.get(word_pair,0) 1  #遍历所有词,每次出现对应的词都加1

# print(name_counts)  #{pair('叶老汉', 'nr'): 2, pair('卫州', 'nr'): 1, pair('叶三姐', 'nr'): 10,}
item=name_counts.items()
items=list(item)
# print(items)     #  TODO   [(pair('鲁滨逊', 'nr'), 1), (pair('武功', 'nr'), 825), (pair('言语', 'nr'), 96)]
items.sort(key=lambda x:x[1] ,reverse=True)   #根据词语出现的顺序从大到小排序
name_list=open('./data/冬奥会人名出现次数.txt',"w",encoding="utf-8")
for i in range(len(items)):
    name,pos=items[i][0]
    count=items[i][1]
    name_count=name ': ' str(count)
    name_list.write(name_count '\n')
name_list.close()

代码里面注释的已经非常清楚,不同的可以私信我,或者在评论区打出来,看到了会及时解惑的。
**

数据

v热v我,夺冠后齐广璞再次收获金墩墩!此前他在空中技巧混合团体比赛中获得亚军。
拉多拉夫,在本届冬奥会已斩获一金一银。
虎口水,齐广璞一金一银拿到金墩墩的他不断擦拭泪水,老将不易!
拉科罗l,在刚刚结束的自由式滑雪男子空中技巧决赛中,
酒啊就是你,中国队选手齐广璞在本届冬奥会上首次拿出5.0的高难度动作
会积极,并以出色的发挥获得129.00分,夺得金牌!这是继2006年都灵冬奥会
街廓,2月16日晚的崇礼,男子自由式滑雪空中技巧决赛
阿克苏九年,他的难度5.0动作拿下129分,圆梦夺金!赛后,齐广璞也热泪盈眶!
啊可能是,这也是中国代表团本届冬奥会的第七枚金牌!“我做到了,让五星红旗飘扬在最高处。
啊空间你是,但其实还不够好,本来还能有更高的分数。”
暗杀即可,中国老将齐广璞发挥出色。图/新华社
后即可,15日晚的男子资格赛,齐广璞和贾宗洋都是第1轮就凭借高分动作,
哈卡斯,排名前两位直接晋级决赛,后者更是高质量再现4.425动作,拿到125.67分。
JJ看来我,老将贾宗洋拼尽了全力。图/新华社
哦怕,备战中,齐广璞曾遭遇困难,有一段时间情绪不是很好。
喀喀喀,精神压力较大,长时间失眠,但他都克服了。
阿克苏六年,“因为有梦想,什么都不是问题。”北京冬奥会就是他前进的最大动力。
郝鹏,这些年,齐广璞拿到的奖项不胜枚举,世界杯冠军、世锦赛冠军……不过。
肯德基,他参加过温哥华、索契、平昌三届冬奥会,都未能收获奖牌,这次能获得第

数据每行逗号前是名字,逗号后的是评论内容,数据不太正统,先凑合着用,后面你就会发现有点那个味道了。

结果:

齐广璞: 79
冰墩墩: 70
苏翊鸣: 44
谷爱凌: 43
徐梦桃: 41
滑雪: 30
范可新: 15
贾宗洋: 13
高亭宇: 11
平昌: 6
滑冰: 6
世锦赛: 5
索契: 5
晋级: 4
安斯卡: 4
韩晓鹏: 4
张虹: 4
任子威: 4
小鸣: 4
温哥华: 3
元老: 3
张家口: 3
阿克萨: 3
祝贺: 3
吉祥物: 3
萨克森: 3
张杰: 3
金墩墩: 2
亚军: 2
都灵: 2
安康: 2
阿喀琉斯: 2
杨紫: 2
桂冠: 2
凌空: 2
韩聪: 2
融宝: 2
宝融宝: 2
雪容融: 2
明星: 2
苗子: 2
五星红旗: 1
最高处: 1
哈卡斯: 1
郝鹏: 1
肯德基: 1
李玉: 1
刘晨周: 1
乌克兰: 1
宝贵: 1
阿奎那: 1
梦中人: 1
周转: 1
高达: 1
斯诺克: 1
满怀希望: 1
阿森纳: 1
内存卡: 1
利利斯: 1
屠龙刀: 1
东道主: 1
马克: 1
阿基: 1
正佳: 1
天成: 1
折桂: 1
热切地: 1
齐天大圣: 1
哈萨克: 1
宝藏: 1
宝贝: 1
贺卡: 1
谢幕: 1
范迪安: 1
雪容融: 1
依旧: 1
舒斯: 1
施尼: 1
曼德尔: 1
肥墩墩: 1
圣保罗: 1
荣幸之至: 1
熊猫: 1
滚滚: 1
仰泳: 1
太棒了: 1
康弘: 1
最佳: 1
大力支持: 1
小胖: 1
祝福: 1
施图拜: 1
孙琳琳: 1
张雨婷: 1
终封王: 1
褚鹏: 1
阿曼: 1
陶士文: 1

可以发现结果和前面的还是挺准的。当然还可以继续优化,也可以自己训练模型,但是训练集需要很大。我这个模型是官方的,训练模型数据1.84GB

因为文本上传太多会被判刷量,所以删除了一部分。结果是之前的,没有改变,需要文本的可以去下载。测试数据下载

到此这篇关于自然语言处理之文本热词提取的文章就介绍到这了,更多相关自然语言文本热词提取内容请搜索Devmax以前的文章或继续浏览下面的相关文章希望大家以后多多支持Devmax!

自然语言处理之文本热词提取(含有《源码》和《数据》)的更多相关文章

  1. ios – 如何使用NSDateFormatter获取字符串“昨天”?

    我想格式化NSDate,以便昨天发生的日期会显示为“昨天”,可以使用NSDateFormatter来完成吗?

  2. 日期/时间Swift中的自然语言近似

    我正在尝试使用Swift将UTC格式化的日期从API转换为人造可读的近似格式.我正在寻找类似如下的东西:2015-07-14T13:51:05.423Z至AbouttwoweeksagoSwift最好的办法是什么?虽然最佳可能会直接格式化字符串,但我明白,这可能需要将字符串转换为NSDate对象.任何帮助将不胜感激.编辑:我的问题已被确定为anotherquestion的可能重复.汤姆下面的解决方

  3. Python实现文本特征提取的方法详解

    这篇文章主要为大家详细介绍了Python实现提取四种不同文本特征的方法,有字典文本特征提取、英文文本特征提取、中文文本特征提取和TF-IDF 文本特征提取,感兴趣的可以了解一下

  4. Python提取PDF中的图片的实现示例

    本文主要介绍了Python提取PDF中的图片的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

  5. Python快速从视频中提取视频帧的方法详解

    本文为大家介绍一种从视频中抽取视频帧的方法,由于单线程抽取视频帧速度较慢,因此这里我们增加了多线程的方法,感兴趣的小伙伴可以动手尝试一下

  6. Python实现提取音乐频谱的方法详解

    你有没有经常好奇一些音乐软件的频谱特效是怎么做的,为什么做的这么好看?有没有想试试自己提取音乐频谱并可视化展现出来?本文就来教你如何利用Python提取音乐频谱,快来学习一下吧

  7. Python 结构化字符串中提取数据详情

    这篇文章主要介绍了Python 结构化字符串中提取数据详情,文章围绕主题展开详细的内容介绍,具有一定的参考价值,需要的小伙伴可以参考一下

  8. 使用Python脚本提取基因组指定位置序列

    这篇文章主要为大家介绍了使用Python脚本提取基因组指定位置序列的示例详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪

  9. 教你使用Python提取视频中的美女图片

    这篇文章主要介绍了教你使用Python提取视频中的美女图片,使用 Python 写一个逐帧无损保存视频画面的小脚本,大概分为三个步骤,详细过程跟随小编一起看看吧

  10. 同时提取多条新闻中的文本一例

    本文为一个提取一批新闻网页中的文本的小程序,它可以将各篇新闻的内容存为以该新闻标题为文件名的文本文件。如有更好的处理方法,请和我联系:lwx3069@sina.com这里以人民网中的“今日要闻”下的新闻为例.

随机推荐

  1. 10 个Python中Pip的使用技巧分享

    众所周知,pip 可以安装、更新、卸载 Python 的第三方库,非常方便。本文小编为大家总结了Python中Pip的使用技巧,需要的可以参考一下

  2. python数学建模之三大模型与十大常用算法详情

    这篇文章主要介绍了python数学建模之三大模型与十大常用算法详情,文章围绕主题展开详细的内容介绍,具有一定的参考价值,感想取得小伙伴可以参考一下

  3. Python爬取奶茶店数据分析哪家最好喝以及性价比

    这篇文章主要介绍了用Python告诉你奶茶哪家最好喝性价比最高,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习吧

  4. 使用pyinstaller打包.exe文件的详细教程

    PyInstaller是一个跨平台的Python应用打包工具,能够把 Python 脚本及其所在的 Python 解释器打包成可执行文件,下面这篇文章主要给大家介绍了关于使用pyinstaller打包.exe文件的相关资料,需要的朋友可以参考下

  5. 基于Python实现射击小游戏的制作

    这篇文章主要介绍了如何利用Python制作一个自己专属的第一人称射击小游戏,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起动手试一试

  6. Python list append方法之给列表追加元素

    这篇文章主要介绍了Python list append方法如何给列表追加元素,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

  7. Pytest+Request+Allure+Jenkins实现接口自动化

    这篇文章介绍了Pytest+Request+Allure+Jenkins实现接口自动化的方法,文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下

  8. 利用python实现简单的情感分析实例教程

    商品评论挖掘、电影推荐、股市预测……情感分析大有用武之地,下面这篇文章主要给大家介绍了关于利用python实现简单的情感分析的相关资料,文中通过示例代码介绍的非常详细,需要的朋友可以参考下

  9. 利用Python上传日志并监控告警的方法详解

    这篇文章将详细为大家介绍如何通过阿里云日志服务搭建一套通过Python上传日志、配置日志告警的监控服务,感兴趣的小伙伴可以了解一下

  10. Pycharm中运行程序在Python console中执行,不是直接Run问题

    这篇文章主要介绍了Pycharm中运行程序在Python console中执行,不是直接Run问题,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

返回
顶部