python小案例

以下是采集店铺链接并去重的代码示例:

复制代码
import requests
from bs4 import BeautifulSoup

def get_shop_links(item_url):
    # 访问宝贝详情页面
    response = requests.get(item_url)
    soup = BeautifulSoup(response.text, 'html.parser')
    
    # 获取必逛好店的店铺链接
    shop_links = []
    must_visit_shop_list = soup.find('div', class_='must-visit-shops').find_all('a')
    for shop in must_visit_shop_list:
        shop_link = shop['href']
        shop_links.append(shop_link)
    
    return shop_links

def remove_duplicate_links(links):
    unique_links = list(set(links))
    return unique_links

# 提供宝贝地址
item_url = 'http://item.taobao.com/item.htm?id=638673761014'
# 获取店铺链接
shop_links = get_shop_links(item_url)
# 去重店铺链接
unique_shop_links = remove_duplicate_links(shop_links)

print(unique_shop_links)

以上代码会根据提供的宝贝地址获取必逛好店的店铺链接,并对链接进行去重操作。你可以根据需要将该代码集成到你的采集过程中。

本文由mdnice多平台发布

相关推荐
爱打代码的小林1 小时前
基于 MediaPipe 实现实时面部关键点检测
python·opencv·计算机视觉
极客小云2 小时前
【ComfyUI API 自动化利器:comfyui_xy Python 库使用详解】
网络·python·自动化·comfyui
闲人编程2 小时前
Elasticsearch搜索引擎集成指南
python·elasticsearch·搜索引擎·jenkins·索引·副本·分片
痴儿哈哈2 小时前
自动化机器学习(AutoML)库TPOT使用指南
jvm·数据库·python
花酒锄作田2 小时前
SQLAlchemy中使用UPSERT
python·sqlalchemy
SoleMotive.2 小时前
一个准程序员的健身日志:用算法调试我的增肌计划
python·程序员·健身·职业转型
亓才孓3 小时前
[Properties]写配置文件前,必须初始化Properties(引用变量没执行有效对象,调用方法会报空指针错误)
开发语言·python
Bruk.Liu3 小时前
(LangChain 实战14):基于 ChatMessageHistory 自定义实现对话记忆功能
人工智能·python·langchain·agent
大江东去浪淘尽千古风流人物3 小时前
【VLN】VLN(Vision-and-Language Navigation视觉语言导航)算法本质,范式难点及解决方向(1)
人工智能·python·算法
Swift社区3 小时前
Gunicorn 与 Uvicorn 部署 Python 后端详解
开发语言·python·gunicorn