python小案例

以下是采集店铺链接并去重的代码示例:

复制代码
import requests
from bs4 import BeautifulSoup

def get_shop_links(item_url):
    # 访问宝贝详情页面
    response = requests.get(item_url)
    soup = BeautifulSoup(response.text, 'html.parser')
    
    # 获取必逛好店的店铺链接
    shop_links = []
    must_visit_shop_list = soup.find('div', class_='must-visit-shops').find_all('a')
    for shop in must_visit_shop_list:
        shop_link = shop['href']
        shop_links.append(shop_link)
    
    return shop_links

def remove_duplicate_links(links):
    unique_links = list(set(links))
    return unique_links

# 提供宝贝地址
item_url = 'http://item.taobao.com/item.htm?id=638673761014'
# 获取店铺链接
shop_links = get_shop_links(item_url)
# 去重店铺链接
unique_shop_links = remove_duplicate_links(shop_links)

print(unique_shop_links)

以上代码会根据提供的宝贝地址获取必逛好店的店铺链接,并对链接进行去重操作。你可以根据需要将该代码集成到你的采集过程中。

本文由mdnice多平台发布

相关推荐
L@ncor3 分钟前
第二章可能出现的问题
人工智能·python
y = xⁿ11 分钟前
大模型基础概念
python
ctlover26 分钟前
排序与查找算法详解
开发语言·python
用户83562907805129 分钟前
如何使用 Python 给 Word 文档添加水印
后端·python
泡干脆面就番茄1 小时前
深度学习:PyTorch框架初识——MNIST手写数字识别
python·深度学习
shirsl1 小时前
算法 Day 5 树 / 二叉树 + DFS
数据结构·python·算法
门思科技1 小时前
开源网关有哪些:主流类型梳理
网络·python·物联网
szephyr1 小时前
Python 爬虫合规与反爬实战:从 requests 到 Playwright
爬虫·python·requests·playwright·反爬
E-iceblue1 小时前
Excel 列转行/行列转换全指南:从 4 种常见解法到 Python 批量自动化
python·excel·python库·spire.xls
言乐61 小时前
Python + NumPy 从零实现的 BP 神经网络(反向传播)脚本模型,包含前向传播、反向传播、训练和预测,并用 XOR 数据做示例
python·django·virtualenv·pygame·tornado