• 全部
  • 经验案例
  • 典型配置
  • 技术公告
  • FAQ
  • 漏洞说明
  • 全部
  • 是
  • 否
  • 全部
  • 是
  • 否
  • 大数据引擎
  • 知了引擎
产品线
搜索
取消
案例类型
发布者
是否解决
是否官方
时间
搜索引擎
匹配模式
高级搜索
问

UIS存储读写慢

2天前提问
  • 0关注
  • 0收藏,69浏览
粉丝:1人 关注:0人

问题描述:

安装数据库提示磁盘写速度低,写速度4.2MB/s,正常吗?有什么优化的办法吗?

3 个回答
粉丝:109人 关注:1人

如果是小文件是正常的

另外存储类型是机械还是全闪

暂无评论

粉丝:17人 关注:9人

UIS存储写速度4.2MB/s明显异常,正常机械盘顺序写应在50MB/s以上,SSD更高。按以下步骤排查:
1. 确认测试方式
数据库安装提示可能受小文件随机写影响,先用dd或fio测裸盘顺序写:
bash
dd if=/dev/zero of=/testfile bs=1M count=1024 oflag=direct
若结果仍低,继续排查存储侧。
2. 检查存储池状态
登录UIS管理界面,查看存储池是否有降级、重建、坏盘。重点看:
硬盘健康状态和SMART信息
RAID级别(RAID5/6写惩罚大,数据库建议RAID10)
缓存策略是否启用写缓存
3. 检查网络链路
UIS分布式存储走万兆网络,检查:
存储网卡速率是否协商为10G
交换机端口是否有CRC错误或丢包
存储前端/后端网络是否分离
4. 检查副本和纠删码
纠删码写性能远低于多副本,数据库场景建议2副本或3副本,不要用纠删码。
5. 优化建议
数据库卷设置为“厚备置延迟置零”,避免首次写入清零开销
存储池开启SSD缓存加速(如有分层配置)
虚拟机磁盘控制器类型改为virtio-scsi,队列深度调大
检查宿主机CPU是否过载,存储进程需要足够计算资源
6. 收集信息
若以上正常,在UIS节点执行:
bash
iostat -x 1 10
ceph -s # 或对应分布式存储命令
关注util%、await、慢盘。必要时联系400并提供存储池配置和测试数据。

暂无评论

粉丝:48人 关注:2人

虚拟机层面优先排查(最高概率)

1、磁盘分配模式(重点)

  • 如果数据库磁盘是精简置零(Thin 精简):首次大量写入会一边分配空间一边写盘,速度会暴跌到几 MB/s。

数据库业务磁盘必须:延迟置零 / 完全置零(预分配存储空间),不能用精简模式。 修改要求:虚机必须关机、无快照,才能修改磁盘分配模式。

2、虚拟机高级选项

  1. 总线类型:数据库磁盘使用 Virtio 磁盘,不要 IDE;
  2. 关闭内存回收(气球内存):数据库虚机严禁开启内存回收,内存被回收会间接造成 IO 性能断崖下跌;
  3. 勾选重要虚拟机,平台调度优先保障该虚机资源;
  4. 尽量不要打快照、不要频繁快照,快照会严重拖累写性能。

⚠️注意:修改磁盘分配模式、内存回收选项,都需要关闭虚拟机生效。

二、ONEStor 存储池层面检查

1、缓存盘状态(混闪架构)

UIS HDD 数据盘必须依靠 SSD 缓存盘加速写 IOH3C:

  1. 查看存储池:缓存盘 SSD 是否状态正常、是否故障、是否离线;
  2. 确认每个 HDD 已经分配缓存容量;没有缓存盘的纯 HDD 池,随机写性能会非常差,数据库业务不适合;
  3. 缓存盘故障 / 离线,写 IO 直接穿透到机械硬盘,就会出现 MB/s 级别的低速。

2、副本数

  • 3 节点集群副本数建议 3 副本;2 节点只能 2 副本。副本越多,写需要多节点落盘,写延迟会上升。

不要盲目改副本数,副本数修改会触发数据重平衡,业务有风险。

3、存储池是否正在重平衡、修复、硬盘重构

WEB 看存储任务:如果正在做数据重平衡、硬盘重构,会抢占大量 IO 资源,业务读写速度被压的很低,等待任务结束恢复性能。

4、存储增值特性

检查是否开启重删、压缩;数据库场景重删压缩收益很低,会消耗大量 CPU,造成写性能下降;数据库业务建议关闭重删压缩。

5、存储后端网络

  • 存储业务网卡是否万兆,有没有丢包、错包;ethtool -S查看 CVK 主机网卡错误计数;
  • 存储网不要和业务网混用,网络拥塞、丢包直接拉低存储性能。

三、区分:是顺序写慢还是随机写慢

数据库安装阶段,大量是随机小 IO (fsync 刷盘),4.2MB/s 大概率是随机写低,顺序写一般不会这么低。 登录虚机内部用 fio 工具做基准测试,区分顺序 / 随机性能,定位是存储底层问题,还是数据库本身 fsync 同步 IO 机制导致。

#随机写测试(模拟数据库) fio -filename=/data/test.fio -direct=1 -iodepth=4 -rw=randwrite -bs=4k -size=2G -numjobs=2 -runtime=60 -group_reporting -name=rand_write_test #顺序写测试 fio -filename=/data/test_seq.fio -direct=1 -iodepth=8 -rw=write -bs=1M -size=4G -numjobs=1 -runtime=60 -group_reporting -name=seq_write_test

如果顺序写速度正常,只有随机写很低:重点排查 SSD 缓存盘是否生效; 如果顺序写也只有 4‑5MB/s:大概率虚机磁盘模式、底层硬件、存储网络问题。

四、虚机操作系统与数据库参数

  1. Linux 系统:磁盘调度算法,SSD 用mq‑deadline;机械盘用mq‑deadline,不要 cfq;
  2. 数据库安装阶段大量 fsync 同步刷盘,fsync 对底层存储延迟非常敏感,哪怕底层吞吐尚可,延迟高也会表现 MB/s 级别的写入速度;
  3. MySQL/MariaDB:安装初始化阶段innodb_flush_log_at_trx_commit=1,每次事务强制落盘,存储延迟高就会很慢;安装完成后再调业务参数。

五、现场操作步骤(执行顺序)

  1. 关闭数据库虚拟机,修改磁盘:改为延迟置零预分配,关闭内存回收,勾选重要虚拟机,确认 Virtio 磁盘总线,开机复测速度。
  2. UIS 平台查看存储池:确认 SSD 缓存盘全部在线,无告警,没有正在执行重平衡 / 重构任务。
  3. 查看 CVK 存储网卡有无丢包错误;存储网是否万兆无拥塞。
  4. 虚机内部执行 fio 基准测试,区分顺序写、随机写性能。
  5. 如果 fio 测试底层存储本身性能就很低:排查硬件(SSD 缓存盘故障优先);
  6. 如果 fio 底层性能正常,只有数据库安装慢:数据库 fsync 同步 IO 机制,调整数据库初始化参数。

高频踩坑总结

  1. 数据库磁盘用精简置零,首次大量写入性能暴跌,是该现象最常见根因;
  2. 混闪环境 SSD 缓存盘故障 / 离线,写 IO 全部穿透 HDD 机械盘,随机写性能直接垮掉;
  3. 开启内存回收 (气球),数据库内存被回收,IO 恶化;
  4. 存储池正在重平衡、硬盘修复,抢占 IO 带宽;
  5. 数据库大量 fsync 同步小 IO,对存储延迟非常敏感,吞吐正常也会表现写入速度低。

补充:如果你的存储池是纯 HDD(无 SSD 缓存),不适合跑数据库这类高随机写业务,建议规划 SSD 缓存盘或者 SSD 存储池。


暂无评论

编辑答案

你正在编辑答案

如果你要对问题或其他回答进行点评或询问,请使用评论功能。

✖

分享扩散:

➤

提出建议

✖

    +
✖

亲~登录后才可以操作哦!

确定
✖

亲~检测到您登陆的账号未在http://hclhub.h3c.com进行注册

注册后可访问此模块

跳转hclhub
✖

你的邮箱还未认证,请认证邮箱或绑定手机后进行当前操作

✖

举报

×

侵犯我的权益 >
对根叔社区有害的内容 >
辱骂、歧视、挑衅等(不友善)

侵犯我的权益

×

泄露了我的隐私 >
侵犯了我企业的权益 >
抄袭了我的内容 >
诽谤我 >
辱骂、歧视、挑衅等(不友善)
骚扰我

泄露了我的隐私

×

您好,当您发现根叔知了上有泄漏您隐私的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您认为哪些内容泄露了您的隐私?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)

侵犯了我企业的权益

×

您好,当您发现根叔知了上有关于您企业的造谣与诽谤、商业侵权等内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到 pub.zhiliao@h3c.com 邮箱,我们会在审核后尽快给您答复。
  • 1. 您举报的内容是什么?(请在邮件中列出您举报的内容和链接地址)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
  • 3. 是哪家企业?(营业执照,单位登记证明等证件)
  • 4. 您与该企业的关系是?(您是企业法人或被授权人,需提供企业委托授权书)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

抄袭了我的内容

×

原文链接或出处

诽谤我

×

您好,当您发现根叔知了上有诽谤您的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您举报的内容以及侵犯了您什么权益?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

对根叔社区有害的内容

×

垃圾广告信息
色情、暴力、血腥等违反法律法规的内容
政治敏感
不规范转载 >
辱骂、歧视、挑衅等(不友善)
骚扰我
诱导投票

不规范转载

×

举报说明