import requests
from bs4 import BeautifulSoup
def get_actors():
actor_list = []
for i in range(0,10):
link = "http://movie.douban.com/top250?start="+str(i*25)
header = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.71 Safari/537.36 SE 2.X MetaSr 1.0","Host":"movie.douban.com" }
response = requests.get(link,headers = header)
#print(response.status_code)
soup = BeautifulSoup(response.text,"html.parser")
div_list = soup.find_all('div',class_='bd')
for each in div_list:
actor = each.p.text.strip()
actor_list.append(actor)
return actor_list
actors = get_actors()
print(actors)
第一个爬虫:获取演员表
FrankHuang8882024-04-27 15:07
相关推荐
wuyk5551 天前
Spider-第11讲-工程化改造与可维护性wuyk5551 天前
Spider-第12讲-asyncio异步并发爬取小宋10211 天前
AI 爬虫把大学图书馆站点拖垮:按行为指纹给爬虫分类、按类发配额、用边缘缓存分层,以带宽成本结构和真实用户 P95 延迟定档wuyk5552 天前
Spider-第10讲-SQLite持久化与去重wuyk5552 天前
Spider-第09讲-三格式落盘CSV-Excel-JSONwuyk5553 天前
Spider-第07讲-JSON接口与正则提取feasibility.3 天前
一物降一物?AI逆向没有终局:REA拆App,BLA设套,LASIK清场wuyk5555 天前
Spider-第03讲-HTTP速通与读懂响应xyzzklk11 天前
在Open-WebUI中提升向量化速度严肃小白兔11 天前
Cloudflare 开始区分 AI 爬虫与个人 Agent:网站访问控制应该怎样设计?