改进监督与无监督学习的独立性准则变体研究

摘要

无监督与监督学习方法通常依赖核函数捕捉数据结构的非线性特征，但需确保所提非线性能最大化数据多样性与变异性。本研究系统回顾了独立性准则，并设计出三种新准则用于构建无监督学习器。基于这些准则，开发了监督与无监督降维方法，在线性及神经网络非线性环境下评估了其对比度、准确性与可解释性。结果表明，该方法性能优于基线模型（如tSNE、PCA、正则化LDA、带（无）监督学习的VAE及层共享模型），为可解释机器学习研究提供了新思路。

核心内容

1. 独立性准则设计
   • 提出三种变体准则：传统型、模糊型及零空间型，用于量化特征间独立性。
   • 准则目标：优化数据非线性表征能力，同时提升降维后的可解释性。
2. 方法实现
   • 无监督场景：结合新准则构建降维模型，显著提升特征分离度。
   • 监督场景：将准则融入分类器设计，增强模型对复杂数据的判别能力。
3. 实验结果
   • 基线对比：在多个数据集上超越tSNE、PCA等传统方法，尤其在稀疏数据中表现突出。
   • 可解释性：通过独立性准则生成的降维结果更易于可视化与分析。
4. 应用价值
   • 为高维数据（如生物信息学、图像处理）提供高效降维工具。
   • 推动可解释机器学习的发展，尤其适用于需人工干预的领域。

结论

新型独立性准则及其衍生的降维方法在性能与可解释性上均取得突破，未来可进一步探索其在深度神经网络中的集成潜力。