Какие знаешь виды масштабирования?

Виды масштабирования приложений

Масштабирование — это способность системы обрабатывать растущую нагрузку. В распределённых системах существуют два основных направления масштабирования, каждый со своими характеристиками.

1. Vertical Scaling (вертикальное масштабирование)

Это увеличение мощности одного сервера (как правило, одного и того же компьютера).

Как это работает:

• Добавляешь больше CPU ядер
• Увеличиваешь количество RAM (памяти)
• Улучшаешь диск (быстрее SSD)
• Улучшаешь сетевые соединения

// Пример: приложение на одном сервере
// Сервер имеет: 4 CPU -> 16 CPU, 8GB RAM -> 64GB RAM

public class ApplicationServer {
    private ExecutorService executor = Executors.newFixedThreadPool(16); // Больше потоков
    
    public void handleRequest(Request request) {
        executor.execute(() -> processRequest(request));
    }
}

Преимущества:

• Простая реализация (не нужна распределённая архитектура)
• Нет необходимости менять код приложения
• Нет задержек сетевого взаимодействия
• Проще управлять одной машиной

Недостатки:

• Есть физический лимит (максимальные характеристики сервера)
• Дорого (очень мощные серверы очень дорогие)
• Single point of failure — если сервер упадёт, всё упадёт
• Требует простой (downtime) для обновления
• Нет избыточности (redundancy)

Когда использовать:

• Малые приложения и стартапы
• Приложения с предсказуемой нагрузкой
• Когда нет критичности по availability

2. Horizontal Scaling (горизонтальное масштабирование)

Это добавление большего количества серверов и распределение нагрузки между ними.

// Архитектура с несколькими серверами
// Load Balancer -> Server 1, Server 2, Server 3, ... Server N

public class DistributedApp {
    // Каждый экземпляр обслуживает часть трафика
    public void handleRequest(Request request) {
        // Load balancer перенаправит запрос на свободный сервер
        processRequest(request);
    }
}

// Load Balancer пример
public class LoadBalancer {
    private List<AppServer> servers = Arrays.asList(
        new AppServer("server1:8080"),
        new AppServer("server2:8080"),
        new AppServer("server3:8080")
    );
    
    private int currentIndex = 0;
    
    public void forwardRequest(Request request) {
        AppServer server = servers.get(currentIndex);
        currentIndex = (currentIndex + 1) % servers.size(); // Round-robin
        server.handleRequest(request);
    }
}

Преимущества:

• Не имеет физических ограничений — можно добавлять серверы
• Дешевле — используешь стандартные серверы (commodity hardware)
• Высокая надёжность — если один сервер упадёт, другие работают
• Гибкость — легко добавлять/удалять серверы по нагрузке
• Автоматическое восстановление (redundancy)

Недостатки:

• Сложнее в реализации (нужна распределённая архитектура)
• Сетевая задержка между сервером и load balancer'ом
• Complexity в управлении (orchestration, consistency)
• Проблемы с состоянием (stateful приложения сложнее масштабировать)

Когда использовать:

• Большие приложения и высоконагруженные системы
• Критично по availability и reliability
• Приложения, которые должны работать 24/7
• Непредсказуемая нагрузка (нужна автоматическая масштабируемость)

3. Комбинированное масштабирование (Hybrid Scaling)

Использование обоих подходов одновременно:

      Load Balancer
    /    |    |    \
  +-----+   +-----+
  |  Мощный  |  Мощный  |
  | Server 1 | Server 2 |
  | (64GB)   | (64GB)   |
  +----------+----------+

Это реальный мир большинства крупных компаний (AWS, Google и т.д.).

4. Cloud Scaling (облачное масштабирование)

Автоматическое масштабирование на основе метрик:

// Auto-scaling правило в облаке (AWS, GCP, Azure)
// Если CPU > 80%, добавить 2 новых инстанса
// Если CPU < 20%, удалить 1 инстанс
// Минимум 2, максимум 10 инстансов

public class CloudScalingConfig {
    // Конфигурация в YAML/JSON
    private int minInstances = 2;
    private int maxInstances = 10;
    private double cpuThresholdUp = 80.0;
    private double cpuThresholdDown = 20.0;
    private int scalingStep = 2;
}

Преимущества:

• Автоматическая подстройка к нагрузке
• Платишь только за используемые ресурсы
• Управляется облачным провайдером
• Самый гибкий подход

5. Database Scaling

Отдельный вопрос масштабирования БД:

Vertical:

// Усиливаем один сервер БД
Database: 16GB RAM -> 128GB RAM
         (медленный диск) -> (быстрый SSD)

Horizontal (Sharding):

// Разделяем данные между серверами
public class ShardedRepository {
    private List<Database> shards = Arrays.asList(
        new Database("shard1"), // User ID 1-1000
        new Database("shard2"), // User ID 1001-2000
        new Database("shard3")  // User ID 2001-3000
    );
    
    public User findUser(long userId) {
        int shardIndex = (int)(userId % shards.size());
        return shards.get(shardIndex).query("SELECT * FROM users WHERE id = " + userId);
    }
}

Replication (Репликация):

// Один Master, несколько Slave'ов
// Writes -> Master
// Reads -> Slaves (load balanced)

public class ReplicatedDatabase {
    private Database master;
    private List<Database> slaves = new ArrayList<>();
    
    public void write(String query) {
        master.execute(query); // Пишем в master
    }
    
    public ResultSet read(String query) {
        Database slave = loadBalanceSlaves();
        return slave.execute(query); // Читаем из slave
    }
}

Сравнение подходов

Пример: YouTube миллионы пользователей

YouTube использует оба подхода:

        Global Load Balancer (DNS)
        /        |        |        \
    USA DC   EU DC   Asia DC   Australia DC
    (Horizontal: регионы)  
      |
    Regional Load Balancer
    /    |    |    \    
 n1   n2   n3   n4  n5... (Horizontal: серверы в регионе)

Каждый сервер (Vertical) имеет:
- 64 CPU cores
- 256 GB RAM
- Gigabit network

Рекомендации для Java приложений

1. Разработка:

   • Делай код stateless (без состояния)
   • Используй внешние storage (Redis, DB) для кэша
   • Не храни session в памяти приложения

2. Deployment:

   • Используй containers (Docker)
   • Orchestration (Kubernetes)
   • Cloud platforms (AWS, GCP, Azure)

3. Мониторинг:

   • Отслеживай метрики (CPU, Memory, Requests/sec)
   • Настрой alerts при превышении порогов
   • Auto-scaling rules на основе метрик

Вывод: Для современных приложений предпочитай horizontal scaling + cloud с auto-scaling — это обеспечивает лучший баланс между стоимостью, надёжностью и производительностью.