K-Means 聚类
词汇表
- 有向
-
有向特性。该算法在有向图上定义良好。
- 有向
-
有向特性。该算法忽略图的方向。
- 有向
-
有向特性。该算法不在有向图上运行。
- 无向
-
无向特性。该算法在无向图上定义良好。
- 无向
-
无向特性。该算法忽略图的无向性。
- 异构节点
-
异构节点完全支持。该算法能够区分不同类型的节点。
- 异构节点
-
异构节点允许。该算法对所有选定的节点一视同仁,无论其标签如何。
- 异构关系
-
异构关系完全支持。该算法能够区分不同类型的关系。
- 异构关系
-
异构关系允许。该算法对所有选定的关系一视同仁,无论其类型如何。
- 加权关系
-
加权特性。该算法支持将关系属性用作权重,通过 relationshipWeightProperty 配置参数指定。
- 加权关系
-
加权特性。该算法将每个关系视为同等重要,并丢弃任何关系权重的值。
简介
K-Means 聚类是一种无监督学习算法,用于解决聚类问题。它遵循一个简单的过程,将给定数据集分类到由参数 k
定义的多个簇中。Neo4j GDS 库基于节点属性执行聚类,通过 nodeProperty
参数将浮点数组节点属性作为输入。图中的节点随后被定位为 d
维空间中的点(其中 d
是数组属性的长度)。
然后,算法首先选择 k
个初始聚类质心,这些质心是 d
维数组(详见以下章节)。这些质心充当簇的代表。
然后,图中所有节点计算它们与每个聚类质心的欧几里得距离,并被分配到距离它们最近的簇。在这些分配之后,每个簇将所有分配给它的节点(作为点)的平均值作为其新的代表质心(作为 d
维数组)。
这个过程会随着新的质心重复进行,直到结果稳定,即每次迭代只有少数节点改变簇或达到最大迭代次数。
请注意,K-Means 实现会忽略关系,因为它只关注节点属性。
有关此算法的更多信息,请参阅
初始质心采样
算法首先通过从可用节点集中随机采样来选择 k
个质心。有两种不同的采样策略。
- 均匀
-
在均匀采样中,每个节点被选为
k
个初始质心之一的概率相同。这是 K-Means 的默认采样器,由uniform
参数表示。 - K-Means++
-
这种采样策略适用于 K-Means 中著名的 K-means++ 初始化算法[1]。采样首先均匀随机选择第一个质心。然后,根据加权随机采样逐个选择剩余的
k-1
个质心。也就是说,节点被选为下一个质心的概率与其与已选择质心的最小距离成比例。因此,距离较大的节点被选为质心的机会更高。这种采样策略试图更均匀地分布初始簇,以获得更好的最终聚类结果。可以通过在配置中选择kmeans++
作为初始采样器来启用此选项。
也可以通过 seedCentroids
参数明确地将初始质心列表提供给算法。在这种情况下,即使在配置中更改了 initialSampler
参数的值,该值也会被忽略。
语法
CALL gds.kmeans.stream(
graphName: String,
configuration: Map
)
YIELD
nodeId: Integer,
communityId: Integer,
distanceFromCentroid: Float,
silhouette: Float
名称 | 类型 | 默认值 | 可选 | 描述 |
---|---|---|---|---|
graphName |
字符串 |
|
否 |
存储在目录中的图的名称。 |
配置 |
Map |
|
是 |
算法特定配置和/或图过滤配置。 |
名称 | 类型 | 默认值 | 可选 | 描述 |
---|---|---|---|---|
字符串列表 |
|
是 |
使用给定的节点标签过滤命名图。将包含具有任何给定标签的节点。 |
|
字符串列表 |
|
是 |
使用给定的关系类型过滤命名图。将包含具有任何给定类型的关系。 |
|
整数 |
|
是 |
用于运行算法的并发线程数。 |
|
字符串 |
|
是 |
可用于更轻松地跟踪算法进度的 ID。 |
|
布尔值 |
|
是 |
如果禁用,则不会记录进度百分比。 |
|
nodeProperty |
字符串 |
|
否 |
对应于浮点数组的节点属性,K-Means 使用它将节点聚类到社区中。 |
k |
整数 |
|
是 |
期望的簇数量。 |
maxIterations |
整数 |
|
是 |
K-Means 运行的最大迭代次数。 |
deltaThreshold |
浮点数 |
|
是 |
用于确定何时提前停止的百分比值。如果更改其簇的节点少于 'deltaThreshold * |nodes|',算法将停止。值必须在 0(不含)和 1(含)之间。 |
numberOfRestarts |
整数 |
|
是 |
使用不同初始中心执行 K-Means 的次数。返回的社区是那些使平均节点中心距离最小的社区。 |
randomSeed |
整数 |
|
是 |
控制初始质心分配的种子值。 |
字符串 |
|
是 |
用于采样前 |
|
seedCentroids |
浮点数列表的列表 |
|
是 |
明确提供初始质心的参数。不能与非默认的 |
computeSilhouette |
布尔值 |
|
是 |
如果设置为 true,则在确定聚类后计算轮廓系数。轮廓系数是衡量节点聚类效果的指标。 |
名称 | 类型 | 描述 |
---|---|---|
nodeId |
整数 |
节点ID。 |
communityId |
整数 |
社区ID。 |
distanceFromCentroid |
浮点数 |
节点距其社区质心的距离。 |
silhouette |
浮点数 |
节点的轮廓系数。 |
CALL gds.kmeans.stats(
graphName: String,
configuration: Map
)
YIELD
preProcessingMillis: Integer,
computeMillis: Integer,
postProcessingMillis: Integer,
communityDistribution: Map,
centroids: List of List of Float,
averageDistanceToCentroid: Float,
averageSilhouette: Float,
configuration: Map
名称 | 类型 | 默认值 | 可选 | 描述 |
---|---|---|---|---|
graphName |
字符串 |
|
否 |
存储在目录中的图的名称。 |
配置 |
Map |
|
是 |
算法特定配置和/或图过滤配置。 |
名称 | 类型 | 默认值 | 可选 | 描述 |
---|---|---|---|---|
字符串列表 |
|
是 |
使用给定的节点标签过滤命名图。将包含具有任何给定标签的节点。 |
|
字符串列表 |
|
是 |
使用给定的关系类型过滤命名图。将包含具有任何给定类型的关系。 |
|
整数 |
|
是 |
用于运行算法的并发线程数。 |
|
字符串 |
|
是 |
可用于更轻松地跟踪算法进度的 ID。 |
|
布尔值 |
|
是 |
如果禁用,则不会记录进度百分比。 |
|
nodeProperty |
字符串 |
|
否 |
对应于浮点数组的节点属性,K-Means 使用它将节点聚类到社区中。 |
k |
整数 |
|
是 |
期望的簇数量。 |
maxIterations |
整数 |
|
是 |
K-Means 运行的最大迭代次数。 |
deltaThreshold |
浮点数 |
|
是 |
用于确定何时提前停止的百分比值。如果更改其簇的节点少于 'deltaThreshold * |nodes|',算法将停止。值必须在 0(不含)和 1(含)之间。 |
numberOfRestarts |
整数 |
|
是 |
使用不同初始中心执行 K-Means 的次数。返回的社区是那些使平均节点中心距离最小的社区。 |
randomSeed |
整数 |
|
是 |
控制初始质心分配的种子值。 |
字符串 |
|
是 |
用于采样前 |
|
seedCentroids |
浮点数列表的列表 |
|
是 |
明确提供初始质心的参数。不能与非默认的 |
computeSilhouette |
布尔值 |
|
是 |
如果设置为 true,则在确定聚类后计算轮廓系数。轮廓系数是衡量节点聚类效果的指标。 |
名称 | 类型 | 描述 |
---|---|---|
preProcessingMillis |
整数 |
数据预处理的毫秒数。 |
computeMillis |
整数 |
运行算法的毫秒数。 |
postProcessingMillis |
整数 |
计算百分位数和社区计数的毫秒数。 |
communityDistribution |
Map |
包含社区大小的最小值、最大值、平均值以及 p1、p5、p10、p25、p50、p75、p90、p95、p99 和 p999 百分位数的值的 Map,适用于最后一层。 |
centroids |
浮点数列表的列表 |
质心坐标列表。每个项都是一个列表,包含一个质心的坐标。 |
averageDistanceToCentroid |
浮点数 |
节点与质心之间的平均距离。 |
averageSilhouette |
浮点数 |
所有节点的平均轮廓系数。 |
配置 |
Map |
用于运行算法的配置。 |
CALL gds.kmeans.mutate(
graphName: String,
configuration: Map
)
YIELD
preProcessingMillis: Integer,
computeMillis: Integer,
mutateMillis: Integer,
postProcessingMillis: Integer,
nodePropertiesWritten: Integer,
communityDistribution: Map,
centroids: List of List of Float,
averageDistanceToCentroid: Float,
averageSilhouette: Float,
configuration: Map
名称 | 类型 | 默认值 | 可选 | 描述 |
---|---|---|---|---|
graphName |
字符串 |
|
否 |
存储在目录中的图的名称。 |
配置 |
Map |
|
是 |
算法特定配置和/或图过滤配置。 |
名称 | 类型 | 默认值 | 可选 | 描述 |
---|---|---|---|---|
mutateProperty |
字符串 |
|
否 |
将簇写入的 GDS 图中的节点属性。 |
字符串列表 |
|
是 |
使用给定的节点标签过滤命名图。 |
|
字符串列表 |
|
是 |
使用给定的关系类型过滤命名图。 |
|
整数 |
|
是 |
用于运行算法的并发线程数。 |
|
字符串 |
|
是 |
可用于更轻松地跟踪算法进度的 ID。 |
|
nodeProperty |
字符串 |
|
否 |
对应于浮点数组的节点属性,K-Means 使用它将节点聚类到社区中。 |
k |
整数 |
|
是 |
期望的簇数量。 |
maxIterations |
整数 |
|
是 |
K-Means 运行的最大迭代次数。 |
deltaThreshold |
浮点数 |
|
是 |
用于确定何时提前停止的百分比值。如果更改其簇的节点少于 'deltaThreshold * |nodes|',算法将停止。值必须在 0(不含)和 1(含)之间。 |
numberOfRestarts |
整数 |
|
是 |
使用不同初始中心执行 K-Means 的次数。返回的社区是那些使平均节点中心距离最小的社区。 |
randomSeed |
整数 |
|
是 |
控制初始质心分配的种子值。 |
字符串 |
|
是 |
用于采样前 |
|
seedCentroids |
浮点数列表的列表 |
|
是 |
明确提供初始质心的参数。不能与非默认的 |
computeSilhouette |
布尔值 |
|
是 |
如果设置为 true,则在确定聚类后计算轮廓系数。轮廓系数是衡量节点聚类效果的指标。 |
名称 | 类型 | 描述 |
---|---|---|
preProcessingMillis |
整数 |
数据预处理的毫秒数。 |
computeMillis |
整数 |
运行算法的毫秒数。 |
mutateMillis |
整数 |
将属性添加到投影图的毫秒数。 |
postProcessingMillis |
整数 |
计算百分位数和社区计数的毫秒数。 |
nodePropertiesWritten |
整数 |
添加到投影图的属性数量。 |
communityDistribution |
Map |
包含社区大小的最小值、最大值、平均值以及 p1、p5、p10、p25、p50、p75、p90、p95、p99 和 p999 百分位数的值的 Map,适用于最后一层。 |
centroids |
浮点数列表的列表 |
质心坐标列表。每个项都是一个列表,包含一个质心的坐标。 |
averageDistanceToCentroid |
浮点数 |
节点与质心之间的平均距离。 |
averageSilhouette |
浮点数 |
所有节点的平均轮廓系数。 |
配置 |
Map |
用于运行算法的配置。 |
CALL gds.kmeans.write(
graphName: String,
configuration: Map
)
YIELD
preProcessingMillis: Integer,
computeMillis: Integer,
writeMillis: Integer,
postProcessingMillis: Integer,
nodePropertiesWritten: Integer,
communityDistribution: Map,
centroids: List of List of Float,
averageDistanceToCentroid: Float,
averageSilhouette: Float,
configuration: Map
名称 | 类型 | 默认值 | 可选 | 描述 |
---|---|---|---|---|
graphName |
字符串 |
|
否 |
存储在目录中的图的名称。 |
配置 |
Map |
|
是 |
算法特定配置和/或图过滤配置。 |
名称 | 类型 | 默认值 | 可选 | 描述 |
---|---|---|---|---|
字符串列表 |
|
是 |
使用给定的节点标签过滤命名图。将包含具有任何给定标签的节点。 |
|
字符串列表 |
|
是 |
使用给定的关系类型过滤命名图。将包含具有任何给定类型的关系。 |
|
整数 |
|
是 |
用于运行算法的并发线程数。 |
|
字符串 |
|
是 |
可用于更轻松地跟踪算法进度的 ID。 |
|
布尔值 |
|
是 |
如果禁用,则不会记录进度百分比。 |
|
整数 |
|
是 |
用于将结果写入 Neo4j 的并发线程数。 |
|
字符串 |
|
否 |
将簇写入的 Neo4j 数据库中的节点属性。 |
|
nodeProperty |
字符串 |
|
否 |
对应于浮点数组的节点属性,K-Means 使用它将节点聚类到社区中。 |
k |
整数 |
|
是 |
期望的簇数量。 |
maxIterations |
整数 |
|
是 |
K-Means 运行的最大迭代次数。 |
deltaThreshold |
浮点数 |
|
是 |
用于确定何时提前停止的百分比值。如果更改其簇的节点少于 'deltaThreshold * |nodes|',算法将停止。值必须在 0(不含)和 1(含)之间。 |
numberOfRestarts |
整数 |
|
是 |
使用不同初始中心执行 K-Means 的次数。返回的社区是那些使平均节点中心距离最小的社区。 |
randomSeed |
整数 |
|
是 |
控制初始质心分配的种子值。 |
字符串 |
|
是 |
用于采样前 |
|
seedCentroids |
浮点数列表的列表 |
|
是 |
明确提供初始质心的参数。不能与非默认的 |
computeSilhouette |
布尔值 |
|
是 |
如果设置为 true,则在确定聚类后计算轮廓系数。轮廓系数是衡量节点聚类效果的指标。 |
名称 | 类型 | 描述 |
---|---|---|
preProcessingMillis |
整数 |
数据预处理的毫秒数。 |
computeMillis |
整数 |
运行算法的毫秒数。 |
writeMillis |
整数 |
将属性添加到 Neo4j 数据库的毫秒数。 |
postProcessingMillis |
整数 |
计算百分位数和社区计数的毫秒数。 |
nodePropertiesWritten |
整数 |
添加到投影图的属性数量。 |
communityDistribution |
Map |
包含社区大小的最小值、最大值、平均值以及 p1、p5、p10、p25、p50、p75、p90、p95、p99 和 p999 百分位数的值的 Map,适用于最后一层。 |
centroids |
浮点数列表的列表 |
质心坐标列表。每个项都是一个列表,包含一个质心的坐标。 |
averageDistanceToCentroid |
浮点数 |
节点与质心之间的平均距离。 |
averageSilhouette |
浮点数 |
所有节点的平均轮廓系数。 |
配置 |
Map |
用于运行算法的配置。 |
示例
以下所有示例都应在空数据库中运行。 这些示例通常使用 Cypher 投影。原生投影将在未来版本中弃用。 |
在本节中,我们将展示在具体图上运行 K-Means 算法的示例。目的是说明结果如何以及提供在实际环境中如何使用该算法的指南。我们将在一个小型城市图上进行此操作,该图由少量节点以特定模式连接。示例图如下所示:
CREATE
(:City {name: 'Surbiton', coordinates: [51.39148, -0.29825]}),
(:City {name: 'Liverpool', coordinates: [53.41058, -2.97794]}),
(:City {name: 'Kingston upon Thames', coordinates: [51.41259, -0.2974]}),
(:City {name: 'Sliven', coordinates: [42.68583, 26.32917]}),
(:City {name: 'Solna', coordinates: [59.36004, 18.00086]}),
(:City {name: 'Örkelljunga', coordinates: [56.28338, 13.27773]}),
(:City {name: 'Malmö', coordinates: [55.60587, 13.00073]}),
(:City {name: 'Xánthi', coordinates: [41.13488, 24.888]});
此图由位于三个全球位置(英国、瑞典和欧洲巴尔干地区)的各种 City 节点组成。
我们现在可以投影图并将其存储在图目录中。我们加载带有 coordinates
节点属性的 City
节点标签。
MATCH (c:City)
RETURN gds.graph.project(
'cities',
c,
null,
{
sourceNodeProperties: c { .coordinates },
targetNodeProperties: {}
}
)
在以下示例中,我们将演示如何在此图上使用 K-Means 算法来查找地理位置彼此接近的城市社区。
内存估算
首先,我们将使用 estimate
过程估算运行算法的成本。这可以在任何执行模式下完成。在本示例中,我们将使用 write
模式。估算算法有助于了解在图上运行算法对内存的影响。当您稍后实际在某种执行模式下运行算法时,系统将执行一次估算。如果估算显示执行极有可能超出其内存限制,则会禁止执行。要了解更多信息,请参阅 自动估算和执行阻止。
有关 estimate
的更多详细信息,请参阅 内存估算。
CALL gds.kmeans.write.estimate('cities', {
writeProperty: 'kmeans',
nodeProperty: 'coordinates'
})
YIELD nodeCount, bytesMin, bytesMax, requiredMemory
nodeCount | bytesMin | bytesMax | requiredMemory |
---|---|---|---|
8 |
33248 |
54240 |
"[32 KiB ... 52 KiB]" |
流式
在 stream
执行模式下,算法返回每个节点的簇。这使我们能够直接检查结果或在 Cypher 中对其进行后处理,而不会产生任何副作用。
有关 stream
模式的更多详细信息,请参阅 流式。
CALL gds.kmeans.stream('cities', {
nodeProperty: 'coordinates',
k: 3,
randomSeed: 42
})
YIELD nodeId, communityId
RETURN gds.util.asNode(nodeId).name AS name, communityId
ORDER BY communityId, name ASC
名称 | communityId |
---|---|
"泰晤士河畔金斯顿" |
0 |
"利物浦" |
0 |
"萨比顿" |
0 |
"斯利文" |
1 |
"克桑西" |
1 |
"马尔默" |
2 |
"索尔纳" |
2 |
"厄克利永阿" |
2 |
在上面的示例中,我们可以看到这些城市在地理上聚集在一起。
统计
在 stats
执行模式下,算法返回一行,其中包含算法结果的摘要。这种执行模式没有任何副作用。通过检查 computeMillis
返回项来评估算法性能非常有用。在下面的示例中,我们将省略返回时间。该过程的完整签名可在 语法部分找到。
有关 stats
模式的更多详细信息,请参阅 统计。
CALL gds.kmeans.stats('cities', {
nodeProperty: 'coordinates',
k: 3,
randomSeed: 42
})
YIELD communityDistribution
communityDistribution |
---|
{max=3, mean=2.6666666666666665, min=2, p1=2, p10=2, p25=2, p5=2, p50=3, p75=3, p90=3, p95=3, p99=3, p999=3} |
变异
mutate
执行模式扩展了 stats
模式,并带有一个重要的副作用:用一个包含该节点簇的新节点属性来更新命名图。新属性的名称通过强制配置参数 mutateProperty
指定。结果是一个与 stats
类似的单行摘要,但包含一些额外的指标。当多个算法结合使用时,mutate
模式特别有用。
有关 mutate
模式的更多详细信息,请参阅 变异。
cities
图中CALL gds.kmeans.mutate('cities', {
nodeProperty: 'coordinates',
k: 3,
randomSeed: 42,
mutateProperty: 'kmeans'
})
YIELD communityDistribution
communityDistribution |
---|
{max=3, mean=2.6666666666666665, min=2, p1=2, p10=2, p25=2, p5=2, p50=3, p75=3, p90=3, p95=3, p99=3, p999=3} |
在 mutate
模式下,过程只返回一行。结果写入 GDS 内存图而不是 Neo4j 数据库。
写入
write
执行模式扩展了 stats
模式,并带有一个重要的副作用:将每个节点的簇作为属性写入 Neo4j 数据库。新属性的名称通过强制配置参数 writeProperty
指定。结果是一个与 stats
类似的单行摘要,但包含一些额外的指标。write
模式允许直接将结果持久化到数据库。
有关 write
模式的更多详细信息,请参阅 写入。
CALL gds.kmeans.write('cities', {
nodeProperty: 'coordinates',
k: 3,
randomSeed: 42,
writeProperty: 'kmeans'
})
YIELD nodePropertiesWritten
nodePropertiesWritten |
---|
8 |
在 write
模式下,过程只返回一行。结果写入 Neo4j 数据库而不是 GDS 内存图。
设置初始质心
我们现在看到设置质心对 K-Means 的影响。我们以纽约、阿姆斯特丹和罗马的坐标作为初始种子运行 K-Means。
CALL gds.kmeans.stream('cities', {
nodeProperty: 'coordinates',
k: 3,
seedCentroids: [[40.712776,-74.005974], [52.370216,4.895168],[41.902782,12.496365]]
})
YIELD nodeId, communityId
RETURN gds.util.asNode(nodeId).name AS name, communityId
ORDER BY communityId, name ASC
名称 | communityId |
---|---|
"泰晤士河畔金斯顿" |
1 |
"利物浦" |
1 |
"马尔默" |
1 |
"索尔纳" |
1 |
"萨比顿" |
1 |
"厄克利永阿" |
1 |
"斯利文" |
2 |
"克桑西" |
2 |
请注意,在这种情况下,这些城市在地理上被聚类成两个簇:一个包含北欧城市,另一个包含南欧城市。另一方面,以纽约作为初始质心的簇在第一阶段并未与任何城市距离最近。