降维方法 PCA、t-sne、Umap 的 python 实现

本文最后更新于：2023年12月5日下午

本文介绍三种常用降维方法 PCA、t-sne、Umap 的 Python 实现。

数据集

提取游戏音频 5.7W 段，提取声音指纹特征，放在 fea.json 文件中用于测试。

PCA

主成分分析方法(Principal Component Analysis，PCA)是一种使用最广泛的数据降维算法。PCA的主要思想是将n维特征映射到k维上，这k维是全新的正交特征也被称为主成分，是在原有n维特征的基础上重新构造出来的k维特征。

示例代码

import mtutils as mt
from sklearn.manifold import TSNE
from sklearn.preprocessing import StandardScaler
from sklearn.decomposition import PCA
import matplotlib.pyplot as plt
import numpy as np

fea_info = mt.json_load('fea.json')
fea_data = np.array(list(fea_info.values()))

scaler = StandardScaler()
data = scaler.fit_transform(fea_data)

X_pca = PCA(n_components=2).fit_transform(data)  

plt.scatter(X_pca[:, 0], X_pca[:, 1])
plt.show()


tsne = TSNE(n_components=2, perplexity=20, random_state=42)
new_data = tsne.fit_transform(np.array(fea_list))

plt.scatter(new_data[:, 0], new_data[:, 1])
plt.show()

测试效果

t-SNE

t-分布领域嵌入算法(t-Distributed Stochastic Neighbor Embedding，t-SNE)是一种降维技术，用于在二维或三维的低维空间中表示高维数据集，从而使其可视化。与其他降维算法(如PCA)相比，t-SNE创建了一个缩小的特征空间，相似的样本由附近的点建模，不相似的样本由高概率的远点建模。

示例代码

import mtutils as mt
from sklearn.manifold import TSNE
from sklearn.preprocessing import StandardScaler
import matplotlib.pyplot as plt
import numpy as np

scaler = StandardScaler()

fea_info = mt.json_load('fea.json')
fea_list = list(fea_info.values())

data = scaler.fit_transform(fea_list)
tsne = TSNE(n_components=2, perplexity=20, random_state=42)
new_data = tsne.fit_transform(np.array(fea_list))

plt.scatter(new_data[:, 0], new_data[:, 1])
plt.show()

pass

测试效果

Umap

UMAP（Uniform Manifold Approximation and Projection for Dimension Reduction，一致的流形逼近和投影以进行降维）。一致的流形近似和投影（UMAP）是一种降维技术，类似于t-SNE，可用于可视化，但也可用于一般的非线性降维。

示例代码

import mtutils as mt
from sklearn.manifold import TSNE
from sklearn.preprocessing import StandardScaler
import matplotlib.pyplot as plt
import numpy as np
import umap


scaler = StandardScaler()

fea_info = mt.json_load('fea.json')
fea_list = list(fea_info.values())

data = scaler.fit_transform(fea_list)

reducer = umap.UMAP(n_components=2)
embedding = reducer.fit_transform(data)

plt.scatter(embedding[:, 0], embedding[:, 1])
plt.show()

pass