Что такое ETCD?

ETCD: Распределенное хранилище ключ-значение для конфигурации

ETCD — это распределенное, надежное хранилище ключ-значение, написанное на Go, которое основано на алгоритме консенсуса Raft. Оно широко используется в кластерной инфраструктуре, особенно в Kubernetes.

Основная концепция

ETCD решает критичную проблему в распределенных системах:

Как сохранить конфигурацию и состояние в кластере так, чтобы все ноды имели согласованное представление?

Вместо традиционной БД (которая может не масштабироваться), ETCD предлагает:

• Согласованность (Consistency) между нодами
• Высокую доступность (если одна нода упала, остальные работают)
• Простой API (GET/SET, как key-value)
• Watch механизм (уведомления об изменениях)

Архитектура ETCD

ETCD кластер состоит из трех компонентов:

┌─────────────┐     ┌─────────────┐     ┌─────────────┐
│ ETCD Node 1 │────│ ETCD Node 2 │────│ ETCD Node 3 │
│  (Leader)   │     │ (Follower)  │     │ (Follower)  │
└─────────────┘     └─────────────┘     └─────────────┘
        │                   │                    │
        └───────────────────┴────────────────────┘
                   Raft Consensus

Leader — единственная нода, которая может принимать write операции. Followers синхронизируются с лидером через Raft.

Raft алгоритм

// Упрощенно: Raft гарантирует, что если запись зафиксирована,
// она не будет потеряна, даже если N-1 нод упадут

// Пример: кластер из 3 нод, 1 упала
// - 2 живы -> можем писать (кворум = 2 из 3)
// - если упадет еще одна -> только читаем (кворум не достигнут)
// - если упадут 2 -> система not available

Как использовать ETCD в Java

1. Базовые операции (GET/SET)

import io.etcd.java.api.ByteSequence;
import io.etcd.java.api.Client;
import io.etcd.java.api.KV;

public class ETCDExample {
    public static void main(String[] args) {
        // Подключаемся к ETCD (обычно localhost:2379)
        Client client = Client.builder()
            .endpoints("http://localhost:2379")
            .build();
        
        KV kvClient = client.getKVClient();
        
        // SET (вставка ключа)
        kvClient.put(
            ByteSequence.from("database/host".getBytes()),
            ByteSequence.from("postgres.example.com".getBytes())
        ).get();
        
        // GET (получение значения)
        GetResponse getResponse = kvClient.get(
            ByteSequence.from("database/host".getBytes())
        ).get();
        
        String value = getResponse.getKvs().get(0)
            .getValue().toStringUtf8();
        System.out.println("database/host = " + value);
        
        // DELETE (удаление ключа)
        kvClient.delete(
            ByteSequence.from("database/host".getBytes())
        ).get();
        
        kvClient.close();
        client.close();
    }
}

2. Watch механизм (получение уведомлений об изменениях)

public class ETCDWatchExample {
    public static void main(String[] args) {
        Client client = Client.builder()
            .endpoints("http://localhost:2379")
            .build();
        
        Watch watchClient = client.getWatchClient();
        
        // Watch на все ключи с префиксом "config/"
        watchClient.watch(
            ByteSequence.from("config/".getBytes()),
            WatchOption.newBuilder().isPrefix(true).build(),
            response -> {
                // При каждом изменении ключа с префиксом "config/"
                for (WatchEvent event : response.getEvents()) {
                    KeyValue kv = event.getKeyValue();
                    String key = kv.getKey().toStringUtf8();
                    String value = kv.getValue().toStringUtf8();
                    
                    System.out.println(event.getEventType() + ": " + key + " = " + value);
                    // PUT: config/database_host = postgres.example.com
                    // DELETE: config/cache_enabled = 
                }
            }
        );
        
        // Блокируем поток, чтобы watch продолжал работать
        Thread.sleep(Long.MAX_VALUE);
    }
}

3.租约 (Lease) — TTL для ключей

public class ETCDLeaseExample {
    public static void main(String[] args) throws Exception {
        Client client = Client.builder()
            .endpoints("http://localhost:2379")
            .build();
        
        KV kvClient = client.getKVClient();
        Lease leaseClient = client.getLeaseClient();
        
        // Создаем lease с TTL 60 секунд
        LeaseGrantResponse grantResponse = leaseClient.grant(60).get();
        long leaseId = grantResponse.getID();
        
        // Ставим ключ с этим lease (как expiring key)
        kvClient.put(
            ByteSequence.from("temp/session_abc123".getBytes()),
            ByteSequence.from("active".getBytes()),
            PutOption.newBuilder().withLeaseId(leaseId).build()
        ).get();
        
        // Через 60 секунд этот ключ автоматически удалится!
        System.out.println("Lease ID: " + leaseId);
        
        // Можно обновить lease (keep-alive)
        // leaseClient.keepAlive(leaseId) — отправляет heartbeat каждую N секунд
        
        kvClient.close();
        leaseClient.close();
        client.close();
    }
}

Реальные примеры использования в Kubernetes

1. Service Discovery

// Когда сервис запускается, он регистрирует себя в ETCD:
public class ServiceRegistry {
    public void registerService() throws Exception {
        Client client = Client.builder()
            .endpoints("http://etcd:2379")
            .build();
        
        KV kvClient = client.getKVClient();
        
        // Регистрируем сервис
        kvClient.put(
            ByteSequence.from("/services/payment-api/instance-1".getBytes()),
            ByteSequence.from("192.168.1.100:8080".getBytes()),
            PutOption.newBuilder()
                .withLeaseId(leaseId)  // с автоматическим удалением если сервис упадет
                .build()
        ).get();
        
        // Другие сервисы ищут payment-api в ETCD
    }
}

2. Конфигурация (Configuration Management)

// Вместо того чтобы хранить конфиг в application.properties,
// хранишь в ETCD и watch за изменениями

public class ConfigService {
    private Map<String, String> config = new HashMap<>();
    private final Client etcdClient;
    
    public ConfigService(Client etcdClient) {
        this.etcdClient = etcdClient;
        loadConfig();
        watchConfig();  // автоматически обновляет конфиг
    }
    
    private void loadConfig() {
        // Читаем все ключи с префиксом "app/config/"
        KV kvClient = etcdClient.getKVClient();
        GetResponse resp = kvClient.get(
            ByteSequence.from("app/config/".getBytes()),
            GetOption.newBuilder().isPrefix(true).build()
        ).get();
        
        for (KeyValue kv : resp.getKvs()) {
            config.put(
                kv.getKey().toStringUtf8(),
                kv.getValue().toStringUtf8()
            );
        }
    }
    
    private void watchConfig() {
        Watch watchClient = etcdClient.getWatchClient();
        watchClient.watch(
            ByteSequence.from("app/config/".getBytes()),
            WatchOption.newBuilder().isPrefix(true).build(),
            response -> {
                for (WatchEvent event : response.getEvents()) {
                    KeyValue kv = event.getKeyValue();
                    if (event.getEventType() == EventType.PUT) {
                        // Конфиг изменился, перезагружаем
                        config.put(
                            kv.getKey().toStringUtf8(),
                            kv.getValue().toStringUtf8()
                        );
                        System.out.println("Config updated: " + kv.getKey().toStringUtf8());
                    }
                }
            }
        );
    }
    
    public String getConfig(String key) {
        return config.getOrDefault(key, "");
    }
}

3. Лидер (Leader Election)

// В кластере несколько инстансов приложения
// Только один может быть "лидером" и выполнять critical операции

public class LeaderElection {
    private final Client etcdClient;
    private final String serviceName;
    private boolean isLeader = false;
    
    public LeaderElection(Client etcdClient, String serviceName) {
        this.etcdClient = etcdClient;
        this.serviceName = serviceName;
        electionLoop();
    }
    
    private void electionLoop() {
        KV kvClient = etcdClient.getKVClient();
        Lease leaseClient = etcdClient.getLeaseClient();
        
        // Пытаемся захватить lock (ключ с наименьшей версией)
        String leaderKey = "/election/" + serviceName + "/leader";
        String myId = UUID.randomUUID().toString();
        
        try {
            LeaseGrantResponse leaseResp = leaseClient.grant(30).get();
            
            // Пытаемся стать лидером
            CompletableFuture<PutResponse> putFuture = kvClient.put(
                ByteSequence.from(leaderKey.getBytes()),
                ByteSequence.from(myId.getBytes()),
                PutOption.newBuilder()
                    .withLeaseId(leaseResp.getID())
                    .build()
            ).asCompletableFuture();
            
            putFuture.thenAccept(resp -> {
                isLeader = true;
                System.out.println("I am the leader!");
            });
            
        } catch (Exception e) {
            System.out.println("Not a leader, watching...");
        }
    }
    
    public boolean isLeader() {
        return isLeader;
    }
}

ETCD vs Alternatives

┌──────────────┬──────────────────┬───────────────┬─────────────┐
│ Feature      │ ETCD             │ Consul        │ ZooKeeper   │
├──────────────┼──────────────────┼───────────────┼─────────────┤
│ Язык         │ Go               │ Go            │ Java        │
│ Raft         │ ✅ встроен       │ ✅            │ ❌ ZAB      │
│ Watch        │ ✅ полноценный   │ ✅            │ ⚠️ сложный  │
│ Производительность │ Высокая   │ Средняя       │ Средняя     │
│ Kubernetes   │ ✅ встроен       │ ❌            │ ❌          │
│ REST API     │ gRPC + HTTP/2    │ HTTP          │ ❌ только   │
│              │                  │               │ Java client │
└──────────────┴──────────────────┴───────────────┴─────────────┘

Проблемы и ограничения ETCD

1. Размер данных

ETCD оптимизирован для КОНФИГУРАЦИИ, а не больших данных
- По умолчанию максимальный размер запроса: 1.5 MB
- Максимальный размер БД: по умолчанию ~2 GB

❌ Не используй ETCD как основную БД
✅ Используй для конфига, сервис дискавери, лидер-электиона

2. Задержки

ETCD сильнее консистентности чем скорости
- Записи: гарантируют, что все ноды синхронизированы
- Это добавляет задержку (100-500ms на типичном сетевом round-trip)

❌ Не используй для high-frequency операций
✅ Используй для редко меняющегося состояния

3. Сложность мониторинга

// ETCD требует специального мониторинга
// - Quorum health (можем ли писать?)
// - Leader election времени
// - Latency перемещения данных

// В Kubernetes это обычно управляется автоматически,
// но в production нужно следить

Вывод

ETCD — это распределенное консенсус хранилище, которое критично для:

• Kubernetes (встроено)
• Микросервисной архитектуры (service discovery, leader election)
• Конфигурации (centralized config management)

Для Java Developer важно понимать:

1. Как использовать ETCD Java клиент
2. Watch механизм для реактивных обновлений
3. Lease для TTL ключей
4. Применение в real-world: Kubernetes, микросервисы

Это key component современной облачной инфраструктуры.