Будут ли те же кластеры при повторном запуске k-means

Нет, кластеры могут быть разными при повторном запуске K-Means

Это фундаментальная проблема алгоритма K-Means, связанная с недетерминированной инициализацией центроидов.

Почему результаты отличаются

Источник случайности — инициализация центроидов

По умолчанию K-Means инициализирует центроиды случайным выбором k точек из датасета. Этот случайный выбор приводит к тому, что:

• Разные стартовые позиции центроидов → разные траектории оптимизации
• Алгоритм может застрять в локальных минимумах
• Разные локальные минимумы → разные финальные кластеры

Это особенно проблематично, когда данные имеют несколько одинаково хороших разбиений или кластеры перекрываются.

Пример с кодом

import numpy as np
from sklearn.cluster import KMeans

np.random.seed(42)
X = np.random.randn(300, 2)

km1 = KMeans(n_clusters=3, random_state=None)
labels1 = km1.fit_predict(X)

km2 = KMeans(n_clusters=3, random_state=None)
labels2 = km2.fit_predict(X)

print(np.array_equal(labels1, labels2))  # False

Решение 1: Фиксация random_state

km = KMeans(n_clusters=3, random_state=42)
km.fit(X)

Это воспроизводит результаты, но не решает проблему локальных минимумов.

Решение 2: K-Means++ инициализация

km = KMeans(n_clusters=3, init='k-means++', random_state=42)
km.fit(X)

K-Means++ выбирает центроиды умнее:

• Первый центр — случайная точка
• Следующие — точки, максимально удалённые от уже выбранных
• Это снижает вероятность застревания в плохих локальных минимумах

Решение 3: Множественные запуски

km = KMeans(n_clusters=3, n_init=10, random_state=42)
km.fit(X)

n_init=10 означает 10 запусков с разными инициализациями, выбирается результат с минимальной инерцией.

Практические рекомендации

1. Всегда используйте random_state для воспроизводимости
2. Используйте init='k-means++' — по умолчанию в sklearn это включено
3. Увеличьте n_init для более надёжных результатов
4. Визуализируйте результаты несколько раз подряд
5. Рассмотрите иерархическую кластеризацию или DBSCAN, если K-Means нестабилен

Метрики стабильности

from sklearn.metrics import silhouette_score

for i in range(5):
    km = KMeans(n_clusters=3)
    labels = km.fit_predict(X)
    score = silhouette_score(X, labels)
    print(f"Запуск {i}: {score:.3f}")

Итого: K-Means недетерминирован по умолчанию. Используйте random_state, k-means++ и несколько инициализаций для стабильных результатов.