K-Means 聚类

词汇表

有向

有向特性。该算法在有向图上定义良好。

有向

有向特性。该算法忽略图的方向。

有向

有向特性。该算法不在有向图上运行。

无向

无向特性。该算法在无向图上定义良好。

无向

无向特性。该算法忽略图的无向性。

异构节点

异构节点完全支持。该算法能够区分不同类型的节点。

异构节点

异构节点允许。该算法对所有选定的节点一视同仁,无论其标签如何。

异构关系

异构关系完全支持。该算法能够区分不同类型的关系。

异构关系

异构关系允许。该算法对所有选定的关系一视同仁,无论其类型如何。

加权关系

加权特性。该算法支持将关系属性用作权重,通过 relationshipWeightProperty 配置参数指定。

加权关系

加权特性。该算法将每个关系视为同等重要,并丢弃任何关系权重的值。

简介

K-Means 聚类是一种无监督学习算法,用于解决聚类问题。它遵循一个简单的过程,将给定数据集分类到由参数 k 定义的多个簇中。Neo4j GDS 库基于节点属性执行聚类,通过 nodeProperty 参数将浮点数组节点属性作为输入。图中的节点随后被定位为 d 维空间中的点(其中 d 是数组属性的长度)。

然后,算法首先选择 k 个初始聚类质心,这些质心是 d 维数组(详见以下章节)。这些质心充当簇的代表。

然后,图中所有节点计算它们与每个聚类质心的欧几里得距离,并被分配到距离它们最近的簇。在这些分配之后,每个簇将所有分配给它的节点(作为点)的平均值作为其新的代表质心(作为 d 维数组)。

这个过程会随着新的质心重复进行,直到结果稳定,即每次迭代只有少数节点改变簇或达到最大迭代次数。

请注意,K-Means 实现会忽略关系,因为它只关注节点属性。

有关此算法的更多信息,请参阅

初始质心采样

算法首先通过从可用节点集中随机采样来选择 k 个质心。有两种不同的采样策略。

均匀

在均匀采样中,每个节点被选为 k 个初始质心之一的概率相同。这是 K-Means 的默认采样器,由 uniform 参数表示。

K-Means++

这种采样策略适用于 K-Means 中著名的 K-means++ 初始化算法[1]。采样首先均匀随机选择第一个质心。然后,根据加权随机采样逐个选择剩余的 k-1 个质心。也就是说,节点被选为下一个质心的概率与其与已选择质心的最小距离成比例。因此,距离较大的节点被选为质心的机会更高。这种采样策略试图更均匀地分布初始簇,以获得更好的最终聚类结果。可以通过在配置中选择 kmeans++ 作为初始采样器来启用此选项。

也可以通过 seedCentroids 参数明确地将初始质心列表提供给算法。在这种情况下,即使在配置中更改了 initialSampler 参数的值,该值也会被忽略。

注意事项

为了使 K-Means 正常工作,所有节点的属性数组必须具有相同数量的元素。此外,它们应只包含数字,并且不包含任何 NaN 值。

语法

不同模式下的 K-Means 语法
在命名图上以流式模式运行 K-Means。
CALL gds.kmeans.stream(
  graphName: String,
  configuration: Map
)
YIELD
  nodeId: Integer,
  communityId: Integer,
  distanceFromCentroid: Float,
  silhouette: Float
表 1. 参数
名称 类型 默认值 可选 描述

graphName

字符串

不适用

存储在目录中的图的名称。

配置

Map

{}

算法特定配置和/或图过滤配置。

表 2. 配置
名称 类型 默认值 可选 描述

nodeLabels

字符串列表

['*']

使用给定的节点标签过滤命名图。将包含具有任何给定标签的节点。

relationshipTypes

字符串列表

['*']

使用给定的关系类型过滤命名图。将包含具有任何给定类型的关系。

concurrency

整数

4 [1]

用于运行算法的并发线程数。

jobId

字符串

内部生成

可用于更轻松地跟踪算法进度的 ID。

logProgress

布尔值

true

如果禁用,则不会记录进度百分比。

nodeProperty

字符串

不适用

对应于浮点数组的节点属性,K-Means 使用它将节点聚类到社区中。

k

整数

10

期望的簇数量。

maxIterations

整数

10

K-Means 运行的最大迭代次数。

deltaThreshold

浮点数

0.05

用于确定何时提前停止的百分比值。如果更改其簇的节点少于 'deltaThreshold * |nodes|',算法将停止。值必须在 0(不含)和 1(含)之间。

numberOfRestarts

整数

1

使用不同初始中心执行 K-Means 的次数。返回的社区是那些使平均节点中心距离最小的社区。

randomSeed

整数

不适用

控制初始质心分配的种子值。

initialSampler

字符串

"uniform"

用于采样前 k 个质心的方法。"uniform" 和 "kmeans++"(均不区分大小写)是有效输入。

seedCentroids

浮点数列表的列表

[]

明确提供初始质心的参数。不能与非默认的 numberOfRestarts 参数值一起启用。

computeSilhouette

布尔值

false

如果设置为 true,则在确定聚类后计算轮廓系数。轮廓系数是衡量节点聚类效果的指标。

1. 在 GDS 会话中,默认值为可用处理器数量

表 3. 结果
名称 类型 描述

nodeId

整数

节点ID。

communityId

整数

社区ID。

distanceFromCentroid

浮点数

节点距其社区质心的距离。

silhouette

浮点数

节点的轮廓系数。

在命名图上以统计模式运行 K-Means。
CALL gds.kmeans.stats(
  graphName: String,
  configuration: Map
)
YIELD
  preProcessingMillis: Integer,
  computeMillis: Integer,
  postProcessingMillis: Integer,
  communityDistribution: Map,
  centroids: List of List of Float,
  averageDistanceToCentroid: Float,
  averageSilhouette: Float,
  configuration: Map
表 4. 参数
名称 类型 默认值 可选 描述

graphName

字符串

不适用

存储在目录中的图的名称。

配置

Map

{}

算法特定配置和/或图过滤配置。

表 5. 配置
名称 类型 默认值 可选 描述

nodeLabels

字符串列表

['*']

使用给定的节点标签过滤命名图。将包含具有任何给定标签的节点。

relationshipTypes

字符串列表

['*']

使用给定的关系类型过滤命名图。将包含具有任何给定类型的关系。

concurrency

整数

4 [2]

用于运行算法的并发线程数。

jobId

字符串

内部生成

可用于更轻松地跟踪算法进度的 ID。

logProgress

布尔值

true

如果禁用,则不会记录进度百分比。

nodeProperty

字符串

不适用

对应于浮点数组的节点属性,K-Means 使用它将节点聚类到社区中。

k

整数

10

期望的簇数量。

maxIterations

整数

10

K-Means 运行的最大迭代次数。

deltaThreshold

浮点数

0.05

用于确定何时提前停止的百分比值。如果更改其簇的节点少于 'deltaThreshold * |nodes|',算法将停止。值必须在 0(不含)和 1(含)之间。

numberOfRestarts

整数

1

使用不同初始中心执行 K-Means 的次数。返回的社区是那些使平均节点中心距离最小的社区。

randomSeed

整数

不适用

控制初始质心分配的种子值。

initialSampler

字符串

"uniform"

用于采样前 k 个质心的方法。"uniform" 和 "kmeans++"(均不区分大小写)是有效输入。

seedCentroids

浮点数列表的列表

[]

明确提供初始质心的参数。不能与非默认的 numberOfRestarts 参数值一起启用。

computeSilhouette

布尔值

false

如果设置为 true,则在确定聚类后计算轮廓系数。轮廓系数是衡量节点聚类效果的指标。

2. 在 GDS 会话中,默认值为可用处理器数量

表 6. 结果
名称 类型 描述

preProcessingMillis

整数

数据预处理的毫秒数。

computeMillis

整数

运行算法的毫秒数。

postProcessingMillis

整数

计算百分位数和社区计数的毫秒数。

communityDistribution

Map

包含社区大小的最小值、最大值、平均值以及 p1、p5、p10、p25、p50、p75、p90、p95、p99 和 p999 百分位数的值的 Map,适用于最后一层。

centroids

浮点数列表的列表

质心坐标列表。每个项都是一个列表,包含一个质心的坐标。

averageDistanceToCentroid

浮点数

节点与质心之间的平均距离。

averageSilhouette

浮点数

所有节点的平均轮廓系数。

配置

Map

用于运行算法的配置。

在命名图上以变异模式运行 K-Means。
CALL gds.kmeans.mutate(
  graphName: String,
  configuration: Map
)
YIELD
  preProcessingMillis: Integer,
  computeMillis: Integer,
  mutateMillis: Integer,
  postProcessingMillis: Integer,
  nodePropertiesWritten: Integer,
  communityDistribution: Map,
  centroids: List of List of Float,
  averageDistanceToCentroid: Float,
  averageSilhouette: Float,
  configuration: Map
表 7. 参数
名称 类型 默认值 可选 描述

graphName

字符串

不适用

存储在目录中的图的名称。

配置

Map

{}

算法特定配置和/或图过滤配置。

表 8. 配置
名称 类型 默认值 可选 描述

mutateProperty

字符串

不适用

将簇写入的 GDS 图中的节点属性。

nodeLabels

字符串列表

['*']

使用给定的节点标签过滤命名图。

relationshipTypes

字符串列表

['*']

使用给定的关系类型过滤命名图。

concurrency

整数

4

用于运行算法的并发线程数。

jobId

字符串

内部生成

可用于更轻松地跟踪算法进度的 ID。

nodeProperty

字符串

不适用

对应于浮点数组的节点属性,K-Means 使用它将节点聚类到社区中。

k

整数

10

期望的簇数量。

maxIterations

整数

10

K-Means 运行的最大迭代次数。

deltaThreshold

浮点数

0.05

用于确定何时提前停止的百分比值。如果更改其簇的节点少于 'deltaThreshold * |nodes|',算法将停止。值必须在 0(不含)和 1(含)之间。

numberOfRestarts

整数

1

使用不同初始中心执行 K-Means 的次数。返回的社区是那些使平均节点中心距离最小的社区。

randomSeed

整数

不适用

控制初始质心分配的种子值。

initialSampler

字符串

"uniform"

用于采样前 k 个质心的方法。"uniform" 和 "kmeans++"(均不区分大小写)是有效输入。

seedCentroids

浮点数列表的列表

[]

明确提供初始质心的参数。不能与非默认的 numberOfRestarts 参数值一起启用。

computeSilhouette

布尔值

false

如果设置为 true,则在确定聚类后计算轮廓系数。轮廓系数是衡量节点聚类效果的指标。

表 9. 结果
名称 类型 描述

preProcessingMillis

整数

数据预处理的毫秒数。

computeMillis

整数

运行算法的毫秒数。

mutateMillis

整数

将属性添加到投影图的毫秒数。

postProcessingMillis

整数

计算百分位数和社区计数的毫秒数。

nodePropertiesWritten

整数

添加到投影图的属性数量。

communityDistribution

Map

包含社区大小的最小值、最大值、平均值以及 p1、p5、p10、p25、p50、p75、p90、p95、p99 和 p999 百分位数的值的 Map,适用于最后一层。

centroids

浮点数列表的列表

质心坐标列表。每个项都是一个列表,包含一个质心的坐标。

averageDistanceToCentroid

浮点数

节点与质心之间的平均距离。

averageSilhouette

浮点数

所有节点的平均轮廓系数。

配置

Map

用于运行算法的配置。

在命名图上以写入模式运行 K-Means。
CALL gds.kmeans.write(
  graphName: String,
  configuration: Map
)
YIELD
  preProcessingMillis: Integer,
  computeMillis: Integer,
  writeMillis: Integer,
  postProcessingMillis: Integer,
  nodePropertiesWritten: Integer,
  communityDistribution: Map,
  centroids: List of List of Float,
  averageDistanceToCentroid: Float,
  averageSilhouette: Float,
  configuration: Map
表 10. 参数
名称 类型 默认值 可选 描述

graphName

字符串

不适用

存储在目录中的图的名称。

配置

Map

{}

算法特定配置和/或图过滤配置。

表 11. 配置
名称 类型 默认值 可选 描述

nodeLabels

字符串列表

['*']

使用给定的节点标签过滤命名图。将包含具有任何给定标签的节点。

relationshipTypes

字符串列表

['*']

使用给定的关系类型过滤命名图。将包含具有任何给定类型的关系。

concurrency

整数

4 [3]

用于运行算法的并发线程数。

jobId

字符串

内部生成

可用于更轻松地跟踪算法进度的 ID。

logProgress

布尔值

true

如果禁用,则不会记录进度百分比。

writeConcurrency

整数

'concurrency' 的值

用于将结果写入 Neo4j 的并发线程数。

writeProperty

字符串

不适用

将簇写入的 Neo4j 数据库中的节点属性。

nodeProperty

字符串

不适用

对应于浮点数组的节点属性,K-Means 使用它将节点聚类到社区中。

k

整数

10

期望的簇数量。

maxIterations

整数

10

K-Means 运行的最大迭代次数。

deltaThreshold

浮点数

0.05

用于确定何时提前停止的百分比值。如果更改其簇的节点少于 'deltaThreshold * |nodes|',算法将停止。值必须在 0(不含)和 1(含)之间。

numberOfRestarts

整数

1

使用不同初始中心执行 K-Means 的次数。返回的社区是那些使平均节点中心距离最小的社区。

randomSeed

整数

不适用

控制初始质心分配的种子值。

initialSampler

字符串

"uniform"

用于采样前 k 个质心的方法。"uniform" 和 "kmeans++"(均不区分大小写)是有效输入。

seedCentroids

浮点数列表的列表

[]

明确提供初始质心的参数。不能与非默认的 numberOfRestarts 参数值一起启用。

computeSilhouette

布尔值

false

如果设置为 true,则在确定聚类后计算轮廓系数。轮廓系数是衡量节点聚类效果的指标。

3. 在 GDS 会话中,默认值为可用处理器数量

表 12. 结果
名称 类型 描述

preProcessingMillis

整数

数据预处理的毫秒数。

computeMillis

整数

运行算法的毫秒数。

writeMillis

整数

将属性添加到 Neo4j 数据库的毫秒数。

postProcessingMillis

整数

计算百分位数和社区计数的毫秒数。

nodePropertiesWritten

整数

添加到投影图的属性数量。

communityDistribution

Map

包含社区大小的最小值、最大值、平均值以及 p1、p5、p10、p25、p50、p75、p90、p95、p99 和 p999 百分位数的值的 Map,适用于最后一层。

centroids

浮点数列表的列表

质心坐标列表。每个项都是一个列表,包含一个质心的坐标。

averageDistanceToCentroid

浮点数

节点与质心之间的平均距离。

averageSilhouette

浮点数

所有节点的平均轮廓系数。

配置

Map

用于运行算法的配置。

示例

以下所有示例都应在空数据库中运行。

这些示例通常使用 Cypher 投影。原生投影将在未来版本中弃用。

在本节中,我们将展示在具体图上运行 K-Means 算法的示例。目的是说明结果如何以及提供在实际环境中如何使用该算法的指南。我们将在一个小型城市图上进行此操作,该图由少量节点以特定模式连接。示例图如下所示:

Visualization of the example graph
以下 Cypher 语句将在 Neo4j 数据库中创建示例图
CREATE
  (:City {name: 'Surbiton', coordinates: [51.39148, -0.29825]}),
  (:City {name: 'Liverpool', coordinates: [53.41058, -2.97794]}),
  (:City {name: 'Kingston upon Thames', coordinates: [51.41259, -0.2974]}),
  (:City {name: 'Sliven', coordinates: [42.68583, 26.32917]}),
  (:City {name: 'Solna', coordinates: [59.36004, 18.00086]}),
  (:City {name: 'Örkelljunga', coordinates: [56.28338, 13.27773]}),
  (:City {name: 'Malmö', coordinates: [55.60587, 13.00073]}),
  (:City {name: 'Xánthi', coordinates: [41.13488, 24.888]});

此图由位于三个全球位置(英国、瑞典和欧洲巴尔干地区)的各种 City 节点组成。

我们现在可以投影图并将其存储在图目录中。我们加载带有 coordinates 节点属性的 City 节点标签。

以下语句将投影图并将其存储在图目录中。
MATCH (c:City)
RETURN gds.graph.project(
  'cities',
  c,
  null,
  {
    sourceNodeProperties: c { .coordinates },
    targetNodeProperties: {}
  }
)

在以下示例中,我们将演示如何在此图上使用 K-Means 算法来查找地理位置彼此接近的城市社区。

内存估算

首先,我们将使用 estimate 过程估算运行算法的成本。这可以在任何执行模式下完成。在本示例中,我们将使用 write 模式。估算算法有助于了解在图上运行算法对内存的影响。当您稍后实际在某种执行模式下运行算法时,系统将执行一次估算。如果估算显示执行极有可能超出其内存限制,则会禁止执行。要了解更多信息,请参阅 自动估算和执行阻止

有关 estimate 的更多详细信息,请参阅 内存估算

以下将估算运行算法所需的内存要求
CALL gds.kmeans.write.estimate('cities', {
  writeProperty: 'kmeans',
  nodeProperty: 'coordinates'
})
YIELD nodeCount, bytesMin, bytesMax, requiredMemory
表 13. 结果
nodeCount bytesMin bytesMax requiredMemory

8

33248

54240

"[32 KiB ... 52 KiB]"

流式

stream 执行模式下,算法返回每个节点的簇。这使我们能够直接检查结果或在 Cypher 中对其进行后处理,而不会产生任何副作用。

有关 stream 模式的更多详细信息,请参阅 流式

以下将运行算法并流式传输结果
CALL gds.kmeans.stream('cities', {
  nodeProperty: 'coordinates',
  k: 3,
  randomSeed: 42
})
YIELD nodeId, communityId
RETURN gds.util.asNode(nodeId).name AS name, communityId
ORDER BY communityId, name ASC
表 14. 结果
名称 communityId

"泰晤士河畔金斯顿"

0

"利物浦"

0

"萨比顿"

0

"斯利文"

1

"克桑西"

1

"马尔默"

2

"索尔纳"

2

"厄克利永阿"

2

在上面的示例中,我们可以看到这些城市在地理上聚集在一起。

统计

stats 执行模式下,算法返回一行,其中包含算法结果的摘要。这种执行模式没有任何副作用。通过检查 computeMillis 返回项来评估算法性能非常有用。在下面的示例中,我们将省略返回时间。该过程的完整签名可在 语法部分找到。

有关 stats 模式的更多详细信息,请参阅 统计

以下将运行算法并以统计和测量值的形式返回结果
CALL gds.kmeans.stats('cities', {
  nodeProperty: 'coordinates',
  k: 3,
  randomSeed: 42
})
YIELD communityDistribution
表 15. 结果
communityDistribution

{max=3, mean=2.6666666666666665, min=2, p1=2, p10=2, p25=2, p5=2, p50=3, p75=3, p90=3, p95=3, p99=3, p999=3}

变异

mutate 执行模式扩展了 stats 模式,并带有一个重要的副作用:用一个包含该节点簇的新节点属性来更新命名图。新属性的名称通过强制配置参数 mutateProperty 指定。结果是一个与 stats 类似的单行摘要,但包含一些额外的指标。当多个算法结合使用时,mutate 模式特别有用。

有关 mutate 模式的更多详细信息,请参阅 变异

以下将运行算法并将结果存储在 cities 图中
CALL gds.kmeans.mutate('cities', {
  nodeProperty: 'coordinates',
  k: 3,
  randomSeed: 42,
  mutateProperty: 'kmeans'
})
YIELD communityDistribution
表 16. 结果
communityDistribution

{max=3, mean=2.6666666666666665, min=2, p1=2, p10=2, p25=2, p5=2, p50=3, p75=3, p90=3, p95=3, p99=3, p999=3}

mutate 模式下,过程只返回一行。结果写入 GDS 内存图而不是 Neo4j 数据库。

写入

write 执行模式扩展了 stats 模式,并带有一个重要的副作用:将每个节点的簇作为属性写入 Neo4j 数据库。新属性的名称通过强制配置参数 writeProperty 指定。结果是一个与 stats 类似的单行摘要,但包含一些额外的指标。write 模式允许直接将结果持久化到数据库。

有关 write 模式的更多详细信息,请参阅 写入

以下将运行算法并将结果写回 Neo4j
CALL gds.kmeans.write('cities', {
  nodeProperty: 'coordinates',
  k: 3,
  randomSeed: 42,
  writeProperty: 'kmeans'
})
YIELD nodePropertiesWritten
表 17. 结果
nodePropertiesWritten

8

write 模式下,过程只返回一行。结果写入 Neo4j 数据库而不是 GDS 内存图。

设置初始质心

我们现在看到设置质心对 K-Means 的影响。我们以纽约、阿姆斯特丹和罗马的坐标作为初始种子运行 K-Means。

以下将运行算法并流式传输结果
CALL gds.kmeans.stream('cities', {
  nodeProperty: 'coordinates',
  k: 3,
  seedCentroids: [[40.712776,-74.005974], [52.370216,4.895168],[41.902782,12.496365]]
})
YIELD nodeId, communityId
RETURN gds.util.asNode(nodeId).name AS name, communityId
ORDER BY communityId, name ASC
表 18. 结果
名称 communityId

"泰晤士河畔金斯顿"

1

"利物浦"

1

"马尔默"

1

"索尔纳"

1

"萨比顿"

1

"厄克利永阿"

1

"斯利文"

2

"克桑西"

2

请注意,在这种情况下,这些城市在地理上被聚类成两个簇:一个包含北欧城市,另一个包含南欧城市。另一方面,以纽约作为初始质心的簇在第一阶段并未与任何城市距离最近。


1. Arthur, David 和 Sergei Vassilvitskii。《k-means++:谨慎播种的优势》。ACM-SIAM离散算法研讨会 (2007)。
© . All rights reserved.