ClickHouse 系列：儲存政策（Storage Policies）與磁碟資源分層策略

1382 字

7 分鐘

ClickHouse 系列：儲存政策（Storage Policies）與磁碟資源分層策略

2025-08-25

software development

ClickHouse

/

Database

/

鐵人賽

當你的 ClickHouse 資料規模從 GB、TB 成長到 PB 時，如何妥善分配 SSD、HDD、甚至雲端冷儲存資源，變得至關重要。ClickHouse 透過 Storage Policies (儲存政策)，提供了極為靈活的磁碟分層架構，不僅能優化查詢效能，也能大幅降低儲存成本。

Storage Policies 是什麼？#

Storage Policies 是 ClickHouse 內部管理資料儲存位置與分層邏輯的配置機制。它將磁碟資源劃分為不同層級（Volumes），並根據資料大小、TTL、Merge 條件等動態將資料移動至不同層級磁碟。

你可以做到：

熱資料存在 SSD，冷資料自動移至 HDD 或雲端 S3。
根據 Data Part 大小動態調度存儲位置。
搭配 TTL 策略，實現資料生命週期全自動管理。

Storage Policies 結構#

1
<storage_configuration>
2
    <disks>
3
        <disk_ssd>
4
            <path>/var/lib/clickhouse/ssd/</path>
5
        </disk_ssd>
6
        <disk_hdd>
7
            <path>/var/lib/clickhouse/hdd/</path>
8
        </disk_hdd>
9
        <disk_s3>
10
            <type>s3</type>
11
            <endpoint>https://s3.amazonaws.com/your-bucket/</endpoint>
12
            <access_key_id>YOUR_KEY</access_key_id>
13
            <secret_access_key>YOUR_SECRET</secret_access_key>
14
        </disk_s3>
15
    </disks>
16
    <policies>
17
        <tiered_policy>
18
            <volumes>
19
                <hot>
20
                    <disk>disk_ssd</disk>
21
                </hot>
22
                <cold>
23
                    <disk>disk_hdd</disk>
24
                    <max_data_part_size_bytes>5000000000</max_data_part_size_bytes>
25
                </cold>
26
                <archive>
27
                    <disk>disk_s3</disk>
28
                </archive>
29
            </volumes>
30
        </tiered_policy>
31
    </policies>
32
</storage_configuration>

磁碟分層（Volumes）設計原則#

層級	磁碟類型	適用資料	說明
Hot	SSD	近 7 天高頻查詢資料	保證讀取速度與低延遲
Cold	HDD	歷史數據或低頻查詢資料	儲存成本較低，適合冷資料
Archive	S3	歸檔資料、不常查詢但需長期保留	跨區域備份、儲存無上限、成本最低

配合 TTL 實現自動熱冷資料分層#

1
CREATE TABLE user_logs
2
(
3
    EventDate DateTime,
4
    UserID UInt64,
5
    Action String
6
) ENGINE = MergeTree
7
ORDER BY (UserID, EventDate)
8
SETTINGS storage_policy = 'tiered_policy'
9
TTL EventDate + INTERVAL 7 DAY TO VOLUME 'cold',
10
    EventDate + INTERVAL 30 DAY TO VOLUME 'archive';

這樣設計後：

近 7 天資料會在 SSD。
7 天到 30 天資料移動到 HDD。
超過 30 天資料會自動移到 S3 儲存。

觀察資料分佈情況#

1
SELECT
2
    name AS table_name,
3
    disk_name,
4
    count() AS parts
5
FROM system.parts
6
WHERE active AND table = 'user_logs'
7
GROUP BY table_name, disk_name;

能夠即時掌握資料是儲存在 SSD、HDD，還是 S3。

Storage Policies 與 MergeTree 的互動#

新資料寫入 → Hot Volume（除非超過 Part Size 限制）。
背景合併 (Merge) 時會根據 Part 大小、TTL 將資料移動至下層 Volume。
儲存層級的選擇與分配完全由 Storage Policies 決定，不需手動干預。

儲存政策最佳實踐#

分層設計要「能自動運作」 → 不需手動移動資料。
選擇適合的磁碟路徑與掛載點 → SSD 用於熱資料、HDD 為冷資料、S3 作為歷史歸檔。
搭配 TTL 做時間序列資料管理 → 自動清理與降層儲存。
監控系統.parts 與.part_log → 定期檢查 Part 移動情況與執行效能。

進階：監控 Storage Policies 實際運作情況#

ClickHouse 提供了 system.storage_policies 系統表，讓你能夠隨時檢查 Storage Policies 與 Volume 配置，並了解磁碟資源的優先順序與分層邏輯。

`system.storage_policies` 欄位解讀#

欄位名稱	說明
policy_name	儲存政策名稱。
volume_name	所屬 Volume 名稱。
volume_priority	Volume 優先順序，數字越小優先度越高 (0 最優先)。
disks	該 Volume 內包含的磁碟列表。
volume_type	Volume 類型 (JBOD, SINGLE_DISK, UNKNOWN)。
max_data_part_size	該 Volume 可儲存的最大 Data Part 大小 (0 代表無上限)。
move_factor	當 Volume 剩餘空間不足 (Free Space Ratio 超過此值) 時，ClickHouse 會將資料移動到下一個 Volume。
prefer_not_to_merge	是否避免在該 Volume 進行 Merge（理論上不建議啟用）。
perform_ttl_move_on_insert	插入資料時若符合 TTL 規則是否立即執行移動。
load_balancing	當 Volume 中包含多顆磁碟時，資料寫入的負載平衡策略（ROUND_ROBIN 或 LEAST_USED）。

檢查儲存政策與 Volume 配置#

1
SELECT
2
    policy_name,
3
    volume_name,
4
    volume_priority,
5
    disks,
6
    volume_type,
7
    max_data_part_size,
8
    move_factor,
9
    load_balancing
10
FROM system.storage_policies
11
WHERE policy_name = 'tiered_policy';