部署准备
本章节介绍部署curvine前的准备。
操作系统
Curvine有良好的跨平台能力, 支持在几乎所有主流架构的各类操作系统上运行,包括且不限于 Linux、macOS、Windows 等;支持不同的cpu架构arm64、x86_64等。
如下一个建议的操作系统版本:
- Linux,
Rocky>= 9 、Centos>= 7,Ubuntu> 22.04 - MacOS
- Windows
已支持的发行版
| 操作系统 | 内核要求 | 测试版本 | 依赖 |
|---|---|---|---|
| CentOS 7 | ≥3.10.0 | 7.6 | fuse2-2.9.2 |
| CentOS 8 | ≥4.18.0 | 8.5 | fuse3-3.9.1 |
| Rocky Linux 9 | ≥5.14.0 | 9.5 | fuse3-3.10.2 |
| RHEL 9 | ≥5.14.0 | 9.5 | fuse3-3.10.2 |
| Ubuntu 22 | ≥5.15.0 | 22.4 | fuse3-3.10.5 |
资源需求
curvine没有最小资源要求,使用很小的资源就支撑极高的并发和流量。这里提供一个参考值:
- cpu 2核
- 内存 4G
- 网络 10G
- SSD磁盘 1个
根据这个参考值, 用其中一个资源值反推其他硬件的资源需求。
假设有2个SSD磁盘,那么需要cpu 4核、内存8G、带宽20G;内存用4G也可以,这取决于业务并发,如果并发不高,内存不用增加。
仅供参考,以实际业务为准。
创建安装包
编译软件安装包,如何编译可以参考快速开始。
执行如下命令,创建一个安装包:
make dist
编译成功后,会在项目根目录生成一个tar.gz包,这个文件就是curvine的安装包。 可以用这个安装包部署或者构建镜像。
配置文件修改
环境变量配置文件在conf/curvine-env.sh,这个文件是一个bash脚本,用于配置curvine的环境变量。 需要修改的环境变量为 LOCAL_HOSTNAME,该环境变量非常重要,用于指定curvine的主机名,curvine集群需要依靠它识别集群成员。 建议修改为本机hostname:
export LOCAL_HOSTNAME=$(hostname)
CURVINE_MASTER_HOSTNAME 和 CURVINE_WORKER_HOSTNAME 用于显式指定 Master 和 Worker 节点的IP地址,多网卡环境下建议显式指定。默认情况下执行hostname -I 并取最后一个IP,您也可以自行修改conf/curvine-env.sh中的IP获取方式。
curvine的配置文件在conf/curvine-cluster.toml,这个文件是一个toml格式的配置文件,配置文件中包含了curvine的各种配置,通常需要修改的配置如下:
- 配置master节点地址
- 配置worker存储目录。
如下是一个示例配置:
format_master = false
format_worker = false
[master]
# 配置元数据保存目录
meta_dir = "data/meta"
# 配置master日志目录
log = { level = "info", log_dir = "logs", file_name = "master.log" }
[journal]
# 配置raft主节点列表。hostname需要和LOCAL_HOSTNAME环境变量一致,否则无法识别主节点。
# id为整数,不能重复。port为master raft端口,默认为8996
journal_addrs = [
{id = 1, hostname = "master1", port = 8996},
{id = 2, hostname = "master2", port = 8996},
{id = 3, hostname = "master3", port = 8996}
]
# 配置raft 日志存储目录
journal_dir = "testing/journal"
[worker]
# 预留空间,默认为0
dir_reserved = "0"
# 配置worker存储目录
data_dir = [
"[SSD]/data/data1",
"[SSD]/data/data2"
]
# 配置worker日志
log = { level = "info", log_dir = "logs", file_name = "worker.log" }
[client]
# 配置master地址,端口为master rpc端口,默认为8995
master_addrs = [
{ hostname = "master1", port = 8995 },
{ hostname = "master2", port = 8995 },
{ hostname = "master3", port = 8995 },
]
# 客户端日志配置
[log]
level = "info"
log_dir = "logs"
file_name = "curvine.log"
journal配置的master_addrs的hostname,一定要和master启动的hostname保持一致, 否则会无法启动
如果需要使用java hadoop 客户端,修改curvine-site.xml中fs.cv.master_addrs值,示例如下:
<property>
<name>fs.cv.master_addrs</name>
<value>master1:8995,master2:8995,master3:8995</value>
</property>