(Python学习)爬取虎牙各个直播间的主播名字和人气

获得不同类型游戏直播间的主播名字和人气,只需要修改url的最后面地址,下面加粗黑色字体。

https://www.huya.com/g/**wzry**

python 复制代码
"""
爬取虎牙直播不同游戏类型的主播及人气(仅学习使用)
"""
import re
from urllib import request

class Spider:
    #对应虎牙游戏直播间ip地址
    url = 'https://www.huya.com/g/wzry'

    #正则表达式
    root_pattern = '<span class="avatar fl">([\s\S]*?)</span><span class="num">([\s\S]*?)</span>'
    name_pattern = '<i class="nick" title="([\s\S]*?)">([\s\S]*?)</i>'
    number_pattern = '<i class="js-num">([\s\S]*?)</i>'

    #爬取整个HTML
    def __fetch_content(self):
        r = request.urlopen(Spider.url)

        htmls = r.read()
        htmls = str(htmls, encoding='utf-8')

        return htmls

    #提取html中的信息
    def __analysis(self, htmls):
        htmls = re.findall(Spider.root_pattern, htmls)

        anchors = []
        for x in htmls:
            name = re.findall(Spider.name_pattern, str(x))
            number = re.findall(Spider.number_pattern, str(x))
            anchors.append({'name':name[0], 'number':number})
        return anchors

    #对提取的html信息进行过滤
    def __refine(self, htmls):
        l = lambda x : {'name':x['name'][0].strip(), 'number':x['number'][0].strip()}
        r = map(l, htmls)
        return list(r)

    #排序
    def __sort(self, htmls):
        htmls = sorted(htmls, key=self.__sort_seed, reverse=True)
        return htmls

    #排序的key设定
    def __sort_seed(self, htmls):
        r = re.findall('\d*',htmls['number'])
        number = float(r[0])*10000 + float(r[2])*1000
        return number

    #展示信息
    def __show(self, htmls):
        for rank in range(0, len(htmls)):
            print("rank:"+str(rank)+" name:"+htmls[rank]['name']+"------"+htmls[rank]['number'])

    #main函数
    def go(self):
        htmls = self.__fetch_content()
        htmls = self.__analysis(htmls)
        htmls = self.__refine(htmls)
        htmls = self.__sort(htmls)
        self.__show(htmls)

spider = Spider()
spider.go()
相关推荐
hssfscv2 分钟前
软件设计师 试题三 面向对象——UML事物、关系、图
笔记·学习·uml
EnglishJun2 分钟前
ARM嵌入式学习(十三)--- IMX6ULL串口
arm开发·学习
山西茄子2 分钟前
GstAggregator的aggregate
开发语言·前端·javascript·gstreamer
愤豆3 分钟前
10-Java语言核心-JVM原理--字节码与执行引擎详解
java·jvm·python
南境十里·墨染春水4 分钟前
C++传记 详解单例模式(面向对象)
开发语言·c++·单例模式
未来转换7 分钟前
Python-web开发之Flask框架入门
前端·python·flask
wubba lubba dub dub7508 分钟前
第四十周学习周报
学习
cui_ruicheng10 分钟前
C++智能指针:从 RAII 到 shared_ptr 源码实现
开发语言·c++
xuhaoyu_cpp_java11 分钟前
XML学习
xml·java·笔记·学习
放下华子我只抽RuiKe512 分钟前
深度学习-04-NLP项目实战
人工智能·深度学习·学习·自然语言处理·openclaw·development