文章目录

1.挖掘背景与目标2.2 数据探索与预处理2.1 数据筛选2.2 数据去重2.3 删除前缀评分2.4 jieba分词3 基于LDA 模型的主题分析4.权重5.如何在主题空间比较两两文档之间的相似度

本文是基于《Python数据分析与挖掘实战》的实战部分的第15章的数据——《电商产品评论数据情感分析》做的分析。

旨在回顾对评论文本数据的处理和建模方法。

1.挖掘背景与目标

对京东平台上的热水器评论进行文本挖掘分析，挖掘建模如下：

分析某一个品牌热水器的用户情感倾向

从评论文本中挖掘出该品牌热水器的优点和不足

提炼不同品牌热水器的卖点

2.2 数据探索与预处理

2.1 数据筛选

#-*- coding: utf-8 -*-import pandas as pdinputfile = '../data/huizong.csv' #评论汇总文件outputfile = '../data/meidi_jd.txt' #评论提取后保存路径data = pd.read_csv(inputfile, encoding = 'utf-8')data = data[[u'评论']][data[u'品牌'] == u'美的']data.to_csv(outputfile, index = False, header = False, encoding = 'utf-8')

2.2 数据去重

#-*- coding: utf-8 -*-import pandas as pdinputfile = '../data/meidi_jd.txt' #评论文件outputfile = '../data/meidi_jd_process_1.txt' #评论处理后保存路径data = pd.read_csv(inputfile, encoding = 'utf-8', header = None,sep = None)l1 = len(data)data = pd.DataFrame(data[0].unique())l2 = len(data)data.to_csv(outputfile, index = False, header = False, encoding = 'utf-8')print(u'删除了%s条评论。' %(l1 - l2))

安利一款可以做情感分析的软件叫做：ROST CM6，注意你提交的文件必须是ANSI编码，否则处理后的文件会乱码

2.3 删除前缀评分

#-*- coding: utf-8 -*-import pandas as pd#参数初始化inputfile1 = '../data/meidi_jd_process_end_负面情感结果.txt'inputfile2 = '../data/meidi_jd_process_end_正面情感结果.txt'outputfile1 = '../data/meidi_jd_neg.txt'outputfile2 = '../data/meidi_jd_pos.txt'data1 = pd.read_csv(inputfile1, encoding = 'utf-8', header = None) #读入数据data2 = pd.read_csv(inputfile2, encoding = 'utf-8', header = None)data1 = pd.DataFrame(data1[0].str.replace('.*?\d+?\\t ', '')) #用正则表达式修改数据data2 = pd.DataFrame(data2[0].str.replace('.*?\d+?\\t ', ''))data1.to_csv(outputfile1, index = False, header = False, encoding = 'utf-8') #保存结果data2.to_csv(outputfile2, index = False, header = False, encoding = 'utf-8')

删除前

删除后

2.4 jieba分词

#-*- coding: utf-8 -*-import pandas as pdimport jieba #导入结巴分词，需要自行下载安装#参数初始化inputfile1 = '../data/meidi_jd_neg.txt'inputfile2 = '../data/meidi_jd_pos.txt'outputfile1 = '../data/meidi_jd_neg_cut.txt'outputfile2 = '../data/meidi_jd_pos_cut.txt'data1 = pd.read_csv(inputfile1, encoding = 'utf-8', header = None) #读入数据data2 = pd.read_csv(inputfile2, encoding = 'utf-8', header = None)mycut = lambda s: ' '.join(jieba.cut(s)) #自定义简单分词函数data1 = data1[0].apply(mycut) #通过“广播”形式分词，加快速度。data2 = data2[0].apply(mycut)data1.to_csv(outputfile1, index = False, header = False, encoding = 'utf-8') #保存结果data2.to_csv(outputfile2, index = False, header = False, encoding = 'utf-8')

3 基于LDA 模型的主题分析

/sinat_26917383/article/details/79357700#1__27

#-*- coding: utf-8 -*-import pandas as pd# 修改默认编码import syssys.getdefaultencoding() # 查看当前编码格式# 报错时（AttributeError: 'module' object has no attribute 'setdefaultencoding'）#参数初始化negfile = '../data/meidi_jd_neg_cut.txt'posfile = '../data/meidi_jd_pos_cut.txt'stoplist = '../data/stoplist.txt'neg = pd.read_csv(negfile, encoding = 'utf-8', header = None) #读入数据pos = pd.read_csv(posfile, encoding = 'utf-8', header = None)stop = pd.read_csv(stoplist, encoding = 'utf-8', header = None, sep = 'tipdm')#sep设置分割词，由于csv默认以半角逗号为分割词，而该词恰好在停用词表中，因此会导致读取出错#所以解决办法是手动设置一个不存在的分割词，如tipdm。stop = [' ', ''] + list(stop[0]) #Pandas自动过滤了空格符，这里手动添加neg[1] = neg[0].apply(lambda s: s.split(' ')) #定义一个分割函数，然后用apply广播neg[2] = neg[1].apply(lambda x: [i for i in x if i not in stop]) #逐词判断是否停用词，思路同上pos[1] = pos[0].apply(lambda s: s.split(' '))pos[2] = pos[1].apply(lambda x: [i for i in x if i not in stop])from gensim import corpora, models#负面主题分析neg_dict = corpora.Dictionary(neg[2]) #建立词典neg_corpus = [neg_dict.doc2bow(i) for i in neg[2]] #建立语料库neg_lda = models.LdaModel(neg_corpus, num_topics = 3, id2word = neg_dict) #LDA模型训练# for i in range(3):# #print(neg_lda.show_topics())#展示主题# print(neg_lda.print_topic(i))#正面主题分析pos_dict = corpora.Dictionary(pos[2])pos_corpus = [pos_dict.doc2bow(i) for i in pos[2]]pos_lda = models.LdaModel(pos_corpus, num_topics = 3, id2word = pos_dict)# for i in range(3):# #print(pos_lda.show_topics())#展示主题# print(pos_lda.print_topic(i))for i in neg_lda.show_topics():print(i[0], i[1])for i in pos_lda.show_topics():print(i[0], i[1])

根据对美的热水器好评的3个潜在主题的特征词提取：

主题1中的高频特征词，即很好、送货快、加热、速度、很快、服务和非常等，主要反映京东送货快、服务非常好;美的热水器加热速度快;

主题2中的高频特征词，即热门关注点主要是价格、东西和值得等，主要反映美的热水器不错，价格合适值得购买等;

主题3中的高频特征词，即热门关注点主要是售后、师傅、上门和安装等，主要反映京东的售后服务以及师傅上门安装等。

从美的热水器差评的3个潜在主题中，我们可以看出：

主题1中的高频特征词主要是安装、服务、元等，即主题1主要反映的是美的热水器安装收费高、热水器售后服务不好等;

主题2中的高频特征词主要是不过、有点、还可以等情感词汇;

主题3主要反映的是美的热水器可能不满足其需求等;主题3中的高频特征词主要是没有、但是、自己等，主题3可能主要反映美的热水器自己安装等。

综合以上对主题及其中的高频特征词可以看出，美的热水器的优势有以下几个方面:价格实惠、性价比高、外观好看、热水器实用、使用起来方便、加热速度快、服务好。

相对而言，用户对美的热水器的抱怨点主要体现以下几个方面:

美的热水器安装的费用贵及售后服务等。

因此，用户的购买原因可以总结为以下几个方面**:美的大品牌值得信赖，美的热水器价格实惠，性价比高**。

根据对京东平台上美的热水器的用户评价情况进行LDA主题模型分析，我们对美的品牌提出以下建议。

1)在保持热水器使用方便、价格实惠等优点的基础上，对热水器进行改进，从整体上提升热水器的质量。

2)提升安装人员及客服人员的整体素质，提高服务质量。安装费用收取明文细则，并进行公开透明，减少安装过程的乱收费问题。适度降低安装费用和材料费用，以此在大品牌的竞争中凸显优势。

4.权重

for i in range(3):print(pos_lda.print_topic(i, topn=5)) # 权重TOP5for i in neg_lda.show_topics(num_topics=2, num_words=10, log=False, formatted=True): #权重TOP2或者100主题中，权重为TOP2的主题词汇print(i[0], i[1])

5.如何在主题空间比较两两文档之间的相似度

import numpy as nptopics =[pos_lda[c] for c in pos_corpus]dense = np.zeros((len(topics),100),float)for ti,t in enumerate(topics):for tj,v in t:dense[ti,tj] = v# 得到的是dense[文档id,主题id]=某文档在某主题的权重print(dense)