技术背景
在机器学习领域，无监督聚类是一种重要的数据分析技术，它能够将数据集中相似的数据点划分为不同的簇。然而，在实际应用中，我们往往并不知道数据集中具体存在多少个簇。例如，给定一组三维向量，需要根据欧几里得距离将它们聚类，使得同一簇内任意两个向量之间的欧几里得距离小于某个阈值
2025年05月14日
在机器学习领域，无监督聚类是一种重要的数据分析技术，它能够将数据集中相似的数据点划分为不同的簇。然而，在实际应用中，我们往往并不知道数据集中具体存在多少个簇。例如，给定一组三维向量，需要根据欧几里得距离将它们聚类，使得同一簇内任意两个向量之间的欧几里得距离小于某个阈值
2025年05月14日
聚类分析是机器学习中的一种无监督学习方法，旨在将数据划分为具有相似特征的组（簇）。以下是常见聚类算法的总结及其关键要点：
1. K-means算法
2025年05月14日
前两天讲解了K-mean聚类和层次聚类的原理和实现方法，今天讲解经典聚类算法的最后一个那就是密度聚类。在此之前再给同学们补充一下昨天的层次聚类机器学习包调用的代码：
from sklearn.cluster import AgglomerativeClustering#导入层次聚类库
cluster = AgglomerativeClustering(n_clusters=4, affinity='euclidean', linkage='ward') #聚类数为4
cluster.fit_predict(data_scaled)#训练数据2025年05月14日
1、预备知识
密度聚类方法的核心是，只要样本点的密度大于某个阈值，则将该样本添加到最近的簇中。该算法的优势是可发现任意形状的聚类，且对噪声数据不敏感；但是计算密度单元的计算复杂度大，需要建立空间索引来降低计算量。
2、DBSCAN算法核心
DBCSAN（Density-Based Spatial Clustering of Applications with Noise）是一个比较有代表性的基于密度的聚类算法。它将簇定义为密度相连的点的最大集合，能够把具有足够高密度的区域划分为簇，并可在有“噪声”的数据中发现任意形状的聚类。
2025年05月14日
聚类算法是一种无监督学习方法，它可以根据数据对象之间的相似度或距离，将它们划分为不同的簇或类别，使得同一簇内的对象尽可能相似，不同簇间的对象尽可能不同。
机器学习中的聚类算法有很多种，根据不同的划分原则和优化目标，可以分为以下几类：
异常点检测，有时也叫离群点检测，英文一般叫做Novelty Detection或者Outlier Detection,是比较常见的一类非
监督学习算法，这里就对异常点检测算法做一个总结。
1. 异常点检测算法使用场景 什么时候我们需要异常点检测算法呢？常见的有三种情况。一是在做特征工程的时候需要对异常的数据做过滤，防止
对归一化等处理的结果产生影响。二是对没有标记输出的特征数据做筛选，找出异常的数据。三是对有标记输出的特征数据做
2025年05月14日
K-means,K-means++,均值漂移Mean Shift等算法可以解决大部分无监督的分类问题，由于他们都是基于距离的聚类算法，因此聚类结果是球状簇。在现实中，当聚类结果是非球状簇的时候，这几种算法将失效，此时引入新的算法–DBSCAN(基于密度的聚类)。
2025年05月13日
受到论文《Seven Failure Points When Engineering a Retrieval Augmented Generation System》的启发，并结合实际开发 RAG（检索增强生成）系统的经验，本文将介绍论文中提到的七个失败点，以及开发 RAG 流程中经常遇到的另外五个常见问题。更重要的是，我们会分享如何解决这些问题的方法，帮助大家在日常 RAG 开发中更轻松地应对这些挑战。
这里我用“难点（pain points）”而不是“失败点（failure points）”，是因为这些问题其实都有办法解决。只要提前处理好，就能避免它们真的变成开发中的“绊脚石”。