无监督学习 - t-分布邻域嵌入(t-Distributed Stochastic Neighbor Embedding,t-SNE)

什么是机器学习

t-分布邻域嵌入(t-Distributed Stochastic Neighbor Embedding,t-SNE)是一种非线性降维技术,用于将高维数据映射到低维空间,以便更好地可视化数据的结构。t-SNE主要用于聚类分析和可视化高维数据的相似性结构,特别是在探索复杂数据集时非常有用。

t-SNE的基本原理

  1. 相似度测量: 对于高维数据中的每一对数据点,计算它们之间的相似度。通常使用高斯核函数来度量相似度。
  2. 学习相似度分布 : 使用 t-分布来学习数据点之间的相似度分布。t-分布具有厚尾特性,能够更好地保留相对较远数据点的相对距离。
  3. 在低维空间中映射: 在低维空间中随机初始化每个数据点的投影,并通过梯度下降来优化这些点的位置,使得它们的相似度分布在高维和低维空间中尽量相似。

t-SNE的特点

  1. 保留局部结构t-SNE更倾向于保留数据的局部结构,即相似的数据点在低维空间中仍然保持相近。
  2. 对异常值敏感t-SNE对异常值(相对于高维空间)较为敏感,可能导致异常值在降维后的结果中占据较大空间。

Python中使用scikit-learn进行t-SNE的简单示例:

python 复制代码
from sklearn.manifold import TSNE
import numpy as np
import matplotlib.pyplot as plt

# 生成随机高维数据集
np.random.seed(42)
data = np.random.rand(100, 10)

# 使用t-SNE进行降维
tsne = TSNE(n_components=2, perplexity=30, random_state=42)
embedded_data = tsne.fit_transform(data)

# 绘制t-SNE降维后的结果
plt.scatter(embedded_data[:, 0], embedded_data[:, 1])
plt.title('t-SNE Visualization')
plt.xlabel('特征1')
plt.ylabel('特征2')
plt.show()

这个例子中,t-SNE被用于将高维数据映射到二维空间,以便进行可视化。在实际应用中,可以根据数据集的特点调整t-SNE的参数,如perplexity等。需要注意的是,t-SNE的计算开销较大,特别是在处理大规模数据时,可能需要一些时间。

相关推荐
Shawn_Shawn2 小时前
大模型的奥秘:Token与Transformer简单理解
人工智能·llm
weixin_377634843 小时前
【K-S 检验】Kolmogorov–Smirnov计算过程与示例
人工智能·深度学习·机器学习
石像鬼₧魂石3 小时前
如何配置Fail2Ban的Jail?
linux·学习·ubuntu
菜鸟起航ing4 小时前
Spring AI 全方位指南:从基础入门到高级实战
java·人工智能·spring
Guheyunyi4 小时前
智慧消防管理系统如何重塑安全未来
大数据·运维·服务器·人工智能·安全
ZZY_dl4 小时前
训练数据集(三):真实场景下采集的课堂行为目标检测数据集,可直接用于YOLO各版本训练
人工智能·yolo·目标检测
yiersansiwu123d4 小时前
AI伦理治理:在创新与规范之间寻找动态平衡
人工智能
华清远见成都中心5 小时前
成都理工大学&华清远见成都中心实训,助力电商人才培养
大数据·人工智能·嵌入式
鲨莎分不晴5 小时前
强化学习第五课 —— A2C & A3C:并行化是如何杀死经验回放
网络·算法·机器学习
爱好读书5 小时前
AI生成er图/SQL生成er图在线工具
人工智能