TfidfVectorizer

TF-IDF / Term Frequency - Inverse Document Frequency

作用 :是自然语言处理NLP中常用的文本特征提取工具,用于将文本数据转换为数据向量。
核心思想:是通过统计词频和逆文档频率来量化词语在文本中的重要性。

  • T F − I D F ( t , d ) = T F ( t , d ) ∗ I D F ( t ) TF-IDF_{(t,d)} = TF_{(t,d)} * IDF_{(t)} TF−IDF(t,d)=TF(t,d)∗IDF(t)

  • 意义:

    -- 高频词(TF高)但罕见(IDF高)的词语会获得高权重(e.g.专业术语);

    -- 高频但常见的词语(如"的"、"是")会被抑制。

  • 子公式1/2

    -- T F ( t , d ) = 词 t 在文档 d 中出现次数 文档 d 的总词语 TF_{(t,d)} = \dfrac{词t在文档d中出现次数}{文档d的总词语} TF(t,d)=文档d的总词语词t在文档d中出现次数

  • 子公式2/2

    -- I D F ( t ) = 总文档数 包含词 t 的文档数 + 1 + 1 IDF_{(t)} = \dfrac{总文档数}{包含词t的文档数+1}+1 IDF(t)=包含词t的文档数+1总文档数+1

相关推荐
这里有鱼汤2 分钟前
废弃手机秒变摄像头,我用Python偷看男朋友都在干啥👀
后端·python
weixin_307779135 分钟前
PySpark实现dataframe导出为Excel 2007格式的文件并设置合适的列宽度
开发语言·python·spark·excel
weixin_307779136 分钟前
Python Pandas实现dataframe导出为Excel 2007格式的文件并设置合适的列宽度
开发语言·python·excel·pandas
Thomas_Cai9 分钟前
vscode(cursor)配置python环境,含远程调试
ide·vscode·python·cursor
浪九天19 分钟前
面向高质量视频生成的扩散模型方法-算法、架构与实现【附核心代码】
python·深度学习·算法·机器学习·自然语言处理·数据挖掘·音视频
小白狮ww20 分钟前
更强的蛋白质突变效应预测!一键推理 DePLM 去噪蛋白质语言模型
人工智能·深度学习·语言模型·自然语言处理·deplm·蛋白质·蛋白质优化
我的运维人生1 小时前
从零开始:使用 Python 实现机器学习的基础与实践
开发语言·python·机器学习
python收藏家1 小时前
Python | 机器学习中最常用的超参数及使用示例
python·机器学习
测试的菜鸟1 小时前
[pytest] 配置
python·pytest
开开心心就好1 小时前
能一站式搞定远程操作需求的实用工具
java·服务器·python·spring·pdf·电脑·软件