CloudNativeEra
  • Introduction
  • 名词解释
  • Computer Science
    • Computer Organization
      • CPU
      • 二进制、电路、加法器、乘法器
      • 编译、链接、装载
      • 存储器
      • IO
    • Operating System
      • 操作系统基础知识
      • 系统初始化
      • 进程管理
      • Everything about Memory
      • 文件系统
      • 并行编程
      • Linux
        • CPU
        • IO 多路复用
        • DMA IO and Linux Zero Copy
    • Computer Network
      • 网络相关命令
      • 评估系统的网络性能
      • 网络抓包
      • Linux 最多支撑的 TCP 连接
      • 网络虚拟化
      • DHCP 工作原理
    • Data Structure and Algorithm
      • 题目列表
      • Summarize
        • 方法总结
        • 二分思想
        • 树的演化
        • 算法思想总结
      • Data Structure
        • Data Struct - Array
        • Tree
        • Heap
        • Hash
        • 字符串
      • Algorithm
        • Sorting Algorithm
        • 查找
        • 贪心算法
        • 动态规划
        • 位运算
      • Practice Topics
        • Data Struct in SDK
        • Topic - Tree
        • Topic - Graph
        • Topic - 滑动窗口
        • 剑指 Offer 题解
    • 并发编程
      • 并发模式
      • 并发模型
  • 系统设计
    • 软件设计
      • 软件架构
      • 编程范式
      • 系统设计题
      • 设计原则
      • 计算机程序的构造和解释 SICP
    • 领域驱动设计
      • 应用:在线请假考勤管理
      • 应用: library
    • 微服务与云原生
      • Designing and deploying microservices
      • 容器技术
      • Docker
      • Etcd
      • Kubernetes
        • Kubernetes - Mapping External Services
      • Istio
      • 监控
    • 分布式系统
      • 分布式理论
      • 分布式事务
    • 后端存储设计
      • 缓存设计
      • 数据库架构设计
    • CI/CD
    • 设计最佳实践
    • 测试
    • 安全
    • 综合
      • 开发实践
      • 分布式锁
      • 分布式计数服务
      • 弹幕系统设计
      • 消息队列设计
      • 分布式ID生成算法
      • 限流设计
      • 网关设计
      • 通用的幂等设计
      • 分布式任务调度
        • Timer
        • ScheduledExecutorService
        • Spring Task
        • Quartz
      • 交易系统
      • 权限设计
  • 编程语言
    • 编程语言
    • C & C++
    • Java
      • JVM
        • JVM Bytecode
      • Java 核心技术
      • Java 8 新特性
      • Java 集合框架
      • Java NIO
      • 并发编程
        • 线程生命周期与线程中断
        • 三个线程交替打印
        • 两个线程交替打印奇偶
        • 优雅终止线程
        • 等待通知机制
        • 万能钥匙:管程
        • 限流器
        • 无锁方案 CAS
    • Java 源码阅读
      • Unsafe
      • 异步计算 Future
      • Java Queue
      • CoalescingRingBuffer 分析
      • Java Collections
        • PriorityQueue 分析
        • HashMap 分析
        • TreeMap
    • Golang
    • Python
  • 框架/组件/类库
    • Guava
      • Guava Cache
      • Guava EventBus
    • RxJava
    • Apache MINA
    • Netty
      • 网络 IO 模型
      • Netty 生产问题
    • Apache Tomcat
    • MyBatis
    • 限流框架
    • Spring Framework
      • Spring Core
      • Spring 事务管理
    • Spring Boot
    • Spring Cloud
      • Feign & OpenFeign
      • Ribbon
      • Eurake
      • Spring Cloud Config
    • FixJ
    • Metrics
    • Vert.x
  • 中间件
    • Redis
      • Redis 基础
        • Redis 数据结构设计与实现
        • Redis 高性能网络模型
      • Redis checklist
      • 应用案例 - Redis 数据结构
      • 应用案例 - Redis 缓存应用
      • 应用案例 - Redis 集群
      • Redis 客户端
      • Redis 生产案例
        • [译] 在 Redis 中存储数亿个简单键值对
    • MySQL
      • MySQL 基础
      • MySQL Index
      • MySQL Transaction
      • MySQL 优化
      • MySQL 内核
      • MySQL Command
      • MySQL Checklist
      • MySQL Analysis Tool
      • 实现 MySQL
    • State Machine
    • 数据库连接池
    • MQ
      • 高性能内存队列 Disruptor
      • Kafka
      • Pulsar
      • RocketMQ
        • Broker 的设计与实现
      • NSQ
  • 实际案例
    • 线上 Case
      • Request Aborted
      • MySQL - Specified key was too long
      • Java 应用 CPU 100% 排查优化
      • 频繁 GC 导致的 Java 服务不响应
      • 导出优化
  • 大数据
    • 流计算
    • Flink
  • 其他
    • 工具
    • 读书
      • 设计数据密集型应用
      • 实现领域驱动设计
      • 精通比特币
      • 提问的智慧
    • 论文
    • 工程博客
    • 阅读源码
    • 面试
      • 如何在最短的时间里对对方有个全面的了解
    • 分享
    • 软技能
    • Todo
  • Blog
    • #算法
      • 查找
      • 位运算
      • 树
    • #架构
      • 1- 通信
    • Design & Dev & Opt
      • High Performance Data structure Design
  • Tiny Project
    • A Simple WeChat-like Instant Messaging Platform
由 GitBook 提供支持
在本页

这有帮助吗?

  1. 系统设计

后端存储设计

关于后端存储的设计

上一页分布式事务下一页缓存设计

最后更新于4年前

这有帮助吗?

常用的存储系统有很多,有单机的也有分布式的,有数据库也有文件系统,有基于日志型的,也有基于其他数据结构的...而往往后端存储架构的设计非常依赖于特定的业务场景,根据业务的特点分析出数据的增长趋势、数据的规模、数据的特点等来决定使用何种存储架构、存储技术和存储介质等

常见的后端存储有:

MySQL、Redis、ElasticSearch、HBase、Hive、MongoDB、RocksDB、CockroachDB、HDFS、Cassandra 等, 具体可参考

一般情况下,后端存储应对的复杂度是随着业务发展和业务量的提升而提升的:初期重点在快速构建一个可用的存储,一般单机就能解决,最多加个主备;在成长期,重点在快速变化上,可能要应对单机存储到分布式存储的演进,支持在线平滑扩容等;积累到一定阶段后,就需要关注海量数据处理的复杂度,重点在高并发,海量数据的存储架构设计等问题

先来汇总一下,存储架构在不同阶段可能会面临的各种问题:

  1. 怎么保证数据的正确性,在业务处理过程中,涉及到非常多的数据操作,我们需要保证入库的数据是准确的,既不能丢一部分数据,也不能多一些数据,又要保证数据的一致性

  2. 在业务发展过程中,可能会存在某些数据是热点数据,相较于其他的数据,在读或者写的压力上会更大一些,这个时候该怎么解决热点数据问题

  3. 在多表操作时,会遇到同时插入和更新多个表的情况,比如账户余额和交易流水等,如何使用事务

  4. 对于一些查询搜索的场景,需要多维度更智能的搜索,响应时间更快等,怎么办?

  5. 数据存储方案怎么做到高可用,数据是很重要的公司资产,高可用一定要考虑,即使做不到高可用,也要保证数据的高可靠,不能因为某种原因造成数据丢失

  6. 后端存储如何应对访问超时

  7. 后端存储出现操作变慢,如慢sql等,怎么办

  8. 后端存储如何应对高并发

  9. 后端存储如何应对越来越多的数据增长,海量数据如何存储、查询、写入等

  10. 在什么情况下适合引入缓存,缓存如何与DB保持数据一致性

  11. 数据迁移方案怎么做,可能是同一种数据库的扩容,还有可能是切换数据存储方案

  12. 有哪些典型的场景,后端存储该怎么应对

除去存储架构问题,关于存储还涉及到具体的存储引擎是如何设计、如何使用和如何实现的,这些和实际工作是非常紧密相关的,可以分析多种数据存储系统和存储引擎:

  1. MySQL

  2. Redis

  3. ES

从哪些方面分析:

  1. 基本功能,适用的场景

  2. 基础架构和常见应用案例

  3. 高可用方案

  4. 高并发方案(读写)

  5. 数据一致性怎么解决

  6. 水平扩展如何做,垂直扩展如何做

  7. 常见的预估指标,比如 MySQL 在特定的配置下大概能支持多少TPS/QPS、单表的数据量等

  8. 如何做优化来提升整体性能

系统设计常见延迟比较表(做设计时可以参考)

文章目录

db-engines.com
https://static001.geekbang.org/resource/image/01/ad/0134f4cd9e0d6e8d57ebe35eb28c32ad.jpg
缓存设计