基于python实现分析识别文章/内容中的高频词和关键词
作者：青Cheng序员石头
nltk 和 collections 库
首先，需要安装 nltk 库和 collections 库。可以使用以下命令来安装：
pip install nltk pip install collections
接下来，需要下载 nltk 库中的 stopwords 和 punkt 数据。可以使用以下代码来下载：
import nltk
nltk.download('stopwords')
nltk.download('punkt')下载完成后，可以使用以下代码来读取文章并进行分析：
import collections
import nltk
from nltk.corpus import stopwords
from nltk.tokenize import word_tokenize
# 读取文章
with open('article.txt', 'r',encoding='utf-8') as f:
article = f.read()
# 分词
tokens = word_tokenize(article)
# 去除停用词
stop_words = set(stopwords.words('english'))
filtered_tokens = [token for token in tokens if token.lower() not in stop_words]
# 统计词频
word_freq = collections.Counter(filtered_tokens)
# 输出高频词
print('Top 10 frequent words:')
for word, freq in word_freq.most_common(10):
print(f'{word}: {freq}')
# 提取关键词
keywords = nltk.FreqDist(filtered_tokens).keys()
# 输出关键词
print('Keywords:')
for keyword in keywords:
print(keyword)上述代码中，首先使用 open() 函数读取文章，然后使用 word_tokenize() 函数将文章分词。接着，使用 stopwords 数据集去除停用词，使用 collections.Counter() 函数统计词频，并输出高频词。最后，使用 nltk.FreqDist() 函数提取关键词，并输出关键词。
需要注意的是，上述代码中的 article.txt 文件需要替换为实际的文章文件路径。
结巴（jieba）库实现
# 导入必要的库
import jieba
import jieba.analyse
from collections import Counter
from wordcloud import WordCloud
import matplotlib.pyplot as plt
# 读取文章
with open('./data/2.txt', 'r', encoding='utf-8') as f:
article = f.read()
# 分词
words = jieba.cut(article)
# 统计词频
word_counts = Counter(words)
# 输出高频词
print('高频词：')
for word, count in word_counts.most_common(10):
print(word, count)
# 输出关键词
print('关键词：')
keywords = jieba.analyse.extract_tags(article, topK=10, withWeight=True, allowPOS=('n', 'nr', 'ns'))
for keyword, weight in keywords:
print(keyword, weight)
# 生成词云
wordcloud = WordCloud(font_path='msyh.ttc', background_color='white', width=800, height=600).generate(article)
plt.imshow(wordcloud, interpolation='bilinear')
plt.axis('off')
plt.show()导入jieba库：首先需要导入jieba库，才能使用其中的分词功能。
读取文章：需要读取要分析的文章，可以使用Python内置的open函数打开文件，然后使用read方法读取文件内容。
分词：使用jieba库的cut方法对文章进行分词，得到一个生成器对象，可以使用for循环遍历生成器对象，得到每个词。
统计词频：使用Python内置的collections库中的Counter类，对分词后的词进行统计，得到每个词出现的次数。
输出高频词：根据词频统计结果，输出出现频率最高的词，即为高频词。
输出关键词：使用jieba库的analyse模块中的extract_tags方法，根据TF-IDF算法计算每个词的权重，输出权重最高的词，即为关键词。
生成词云：使用wordcloud库生成词云，将文章中的词按照词频生成词云，词频越高的词在词云中出现的越大。
到此这篇关于基于python实现分析识别文章/内容中的高频词和关键词的文章就介绍到这了,更多相关python分析识别高频词和关键词内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！