CloudNativeEra
  • Introduction
  • 名词解释
  • Computer Science
    • Computer Organization
      • CPU
      • 二进制、电路、加法器、乘法器
      • 编译、链接、装载
      • 存储器
      • IO
    • Operating System
      • 操作系统基础知识
      • 系统初始化
      • 进程管理
      • Everything about Memory
      • 文件系统
      • 并行编程
      • Linux
        • CPU
        • IO 多路复用
        • DMA IO and Linux Zero Copy
    • Computer Network
      • 网络相关命令
      • 评估系统的网络性能
      • 网络抓包
      • Linux 最多支撑的 TCP 连接
      • 网络虚拟化
      • DHCP 工作原理
    • Data Structure and Algorithm
      • 题目列表
      • Summarize
        • 方法总结
        • 二分思想
        • 树的演化
        • 算法思想总结
      • Data Structure
        • Data Struct - Array
        • Tree
        • Heap
        • Hash
        • 字符串
      • Algorithm
        • Sorting Algorithm
        • 查找
        • 贪心算法
        • 动态规划
        • 位运算
      • Practice Topics
        • Data Struct in SDK
        • Topic - Tree
        • Topic - Graph
        • Topic - 滑动窗口
        • 剑指 Offer 题解
    • 并发编程
      • 并发模式
      • 并发模型
  • 系统设计
    • 软件设计
      • 软件架构
      • 编程范式
      • 系统设计题
      • 设计原则
      • 计算机程序的构造和解释 SICP
    • 领域驱动设计
      • 应用:在线请假考勤管理
      • 应用: library
    • 微服务与云原生
      • Designing and deploying microservices
      • 容器技术
      • Docker
      • Etcd
      • Kubernetes
        • Kubernetes - Mapping External Services
      • Istio
      • 监控
    • 分布式系统
      • 分布式理论
      • 分布式事务
    • 后端存储设计
      • 缓存设计
      • 数据库架构设计
    • CI/CD
    • 设计最佳实践
    • 测试
    • 安全
    • 综合
      • 开发实践
      • 分布式锁
      • 分布式计数服务
      • 弹幕系统设计
      • 消息队列设计
      • 分布式ID生成算法
      • 限流设计
      • 网关设计
      • 通用的幂等设计
      • 分布式任务调度
        • Timer
        • ScheduledExecutorService
        • Spring Task
        • Quartz
      • 交易系统
      • 权限设计
  • 编程语言
    • 编程语言
    • C & C++
    • Java
      • JVM
        • JVM Bytecode
      • Java 核心技术
      • Java 8 新特性
      • Java 集合框架
      • Java NIO
      • 并发编程
        • 线程生命周期与线程中断
        • 三个线程交替打印
        • 两个线程交替打印奇偶
        • 优雅终止线程
        • 等待通知机制
        • 万能钥匙:管程
        • 限流器
        • 无锁方案 CAS
    • Java 源码阅读
      • Unsafe
      • 异步计算 Future
      • Java Queue
      • CoalescingRingBuffer 分析
      • Java Collections
        • PriorityQueue 分析
        • HashMap 分析
        • TreeMap
    • Golang
    • Python
  • 框架/组件/类库
    • Guava
      • Guava Cache
      • Guava EventBus
    • RxJava
    • Apache MINA
    • Netty
      • 网络 IO 模型
      • Netty 生产问题
    • Apache Tomcat
    • MyBatis
    • 限流框架
    • Spring Framework
      • Spring Core
      • Spring 事务管理
    • Spring Boot
    • Spring Cloud
      • Feign & OpenFeign
      • Ribbon
      • Eurake
      • Spring Cloud Config
    • FixJ
    • Metrics
    • Vert.x
  • 中间件
    • Redis
      • Redis 基础
        • Redis 数据结构设计与实现
        • Redis 高性能网络模型
      • Redis checklist
      • 应用案例 - Redis 数据结构
      • 应用案例 - Redis 缓存应用
      • 应用案例 - Redis 集群
      • Redis 客户端
      • Redis 生产案例
        • [译] 在 Redis 中存储数亿个简单键值对
    • MySQL
      • MySQL 基础
      • MySQL Index
      • MySQL Transaction
      • MySQL 优化
      • MySQL 内核
      • MySQL Command
      • MySQL Checklist
      • MySQL Analysis Tool
      • 实现 MySQL
    • State Machine
    • 数据库连接池
    • MQ
      • 高性能内存队列 Disruptor
      • Kafka
      • Pulsar
      • RocketMQ
        • Broker 的设计与实现
      • NSQ
  • 实际案例
    • 线上 Case
      • Request Aborted
      • MySQL - Specified key was too long
      • Java 应用 CPU 100% 排查优化
      • 频繁 GC 导致的 Java 服务不响应
      • 导出优化
  • 大数据
    • 流计算
    • Flink
  • 其他
    • 工具
    • 读书
      • 设计数据密集型应用
      • 实现领域驱动设计
      • 精通比特币
      • 提问的智慧
    • 论文
    • 工程博客
    • 阅读源码
    • 面试
      • 如何在最短的时间里对对方有个全面的了解
    • 分享
    • 软技能
    • Todo
  • Blog
    • #算法
      • 查找
      • 位运算
      • 树
    • #架构
      • 1- 通信
    • Design & Dev & Opt
      • High Performance Data structure Design
  • Tiny Project
    • A Simple WeChat-like Instant Messaging Platform
由 GitBook 提供支持
在本页
  • Request Aborted 问题描述
  • 参考资源

这有帮助吗?

  1. 实际案例
  2. 线上 Case

Request Aborted

上一页线上 Case下一页MySQL - Specified key was too long

最后更新于4年前

这有帮助吗?

Request Aborted 问题描述

最近项目中使用 RestTemplate, 有时候会出现 Request Aborted,场景如下:

业务中有调度任务需要跑,使用的是 XXL-Job 作为分布式调度中心,在运行中经常出现 Request Aborted 异常,虽然还未影响业务的正常运行,但还是要搞清楚的,截图如下:

注:需要说明的是在被调度的任务中,有需要调用外部服务的情况。

在使用 RestTemplate 时,对它做了定制,定制的代码如下:

@Configuration
public class TemplateConfig {

    @Bean
    public PoolingHttpClientConnectionManager poolingConnectionManager() {
        // ...
    }
    
    @Bean
    public ConnectionKeepAliveStrategy connectionKeepAliveStrategy() {
        // ...
    }
    
    @Bean
    public CloseableHttpClient httpClient() {
        // ...
    }
    
    @Bean
    public RestTemplate restTemplate(final HttpComponentsClientHttpRequestFactory clientHttpRequestFactory) {
        // ...
    }
    
    @Bean
    public HttpComponentsClientHttpRequestFactory clientHttpRequestFactory(final CloseableHttpClient httpClient) {
        // ...
    }

}

使用 PoolingHttpClientConnectionManager 对连接进行了池化管理,通过追踪错误信息,对 XXL-Job 的调度代码做分析,对 RestTemplate / HttpClients 的源码进行分析,得出如下结论:

  1. XXL-Job 进行任务调度时,会配置任务超时时间,如果任务超时后会被主动 Kill 调,XXL-Job 中每个任务是由一个 JobThread 执行的,被 Kill 意味着执行 JobThread.interrupt(), 所以任务在超时后的某个时刻会收到中断请求,见 XXL-Job 中关于任务超时的说明

  2. 再来说任务本身,XXL-Job 调度的任务需要请求外部接口,有时由于业务需要调用接口的次数会很多,短时间内无法结束,可能需要跑几个小时甚至更长,从而会触发任务超时

  3. 为什么是 Request Aborted?看下图

优化

没有办法解决任务耗时长的问题,但通过分析 RestTemplate + HttpClient 这个组合,是可以让整个任务的耗时尽可能短一点。

从上面的现象和问题分析,可以推断出当多个任务并发执行时,由于 CPool 的 maxPerRoute 的限制,即使 max_total_connnections 设置成 200 也得不到太大的帮助,所以可以适当提高 maxPerRoute 的设置,比如设置成 20,假设访问外部服务的 RT 200ms,那么最大 QPS 理论值就是:20 * (1000 / 200)= 100,那也就是说无形中会增加外部请求的并发度,让任务更快的完成。由于该任务是一个 IO 密集型的,也可以考虑将调用异步化,这样也可以提升性能,缩短任务运行事件。

提升了 maxPerRoute 后,是可以保证每个任务都可以非常快速的获取到连接,而不需要花费过长的时间等待获取连接。

此外,我们也可以使用压力测试来预估 maxPerRoute 设置在多少是一个更加合理的值,经过测试发现,在 10 ~ 20 是比较合理的值;当然需要根据机器的配置和运行环境来决定。

参考资源

记一次 httpclient 死锁问题
httpclient 连接池配置
httpclient 连接管理
httpclient 的踩坑总结
https://tech.asimio.net/2016/12/27/Troubleshooting-Spring-RestTemplate-Requests-Timeout.html
https://www.rectcircle.cn/posts/spring-resttemplate%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97/
Request Aborted 异常
详细的错误日志