业务系统性能优化——缓存

层级	常见产品	缓存解决方案	缓存技术
应用层	浏览器	浏览器缓存、本地缓存	HTTP缓存协商、cookie、sqllite、websql
网络层	网络路由	CDN	Squid等
负载层	Nginx、Apache	动静分离、反向代理缓存	基于http服务器
服务层	Java应用、php应用	动态页面静态化应用缓存分布式缓存 Mybatis缓存	Freemarker、velocity、thymeleaf Ehcache、guava、jodd Redis、memcache Mybatis一二级缓存
数据库	Oracle、postgresql、mysql	缓冲区 Buffer pool

本地缓存和分布式缓存的对比

对比项	本地缓存	分布式缓存
概念	缓存和应用在同一个进程里，是基于JVM的缓存	单独的组件与应用分离
社区成熟	非常高	非常高
性能	很高、单机	高、需要TCP协议交互
黏度	紧耦合	松耦合
适用环境	单机	单机/集群环境
高可用	应用生则生，应用死则亡	集群抱团死一个还有千万个
应用共享	不能共享	可以共享

一、本地应用缓存

问题：在实际的应用中，如何选择合适的本地缓存框架呢？

看具体的业务需求。假如想追求速度、追求极致的话，那么就选择caffeine；假如jdk限制只能使用1.8以下的版本，那么只能在guava和ehcache中进行选择；如果要想看到缓存中的内存大小、要能支持集群、支持持久化的话，就选择ehcache。

二、分布式应用缓存

对比项	Redis	memcached
性能	很高很高TPS、QPS 10W	很高很高TPS QPS 10W
数据类型	K/V、list、set、map	K/V
内存限制	突破物理内存	不能超过可可用内存
高可用（集群）	支持	支持
可靠性（持久化）	支持AOF、快照	——
事务支持	支持事务	用cas保证一致性（锁）
缓存策略	LRU、FIFO	LRU
Spring Cache支持	支持	支持
性能监控	不带	不带

实现案例

spring boot+spring cache实现两级缓存(redis+caffeine)来实现二级缓存

通过使用redis和Caffeine来做缓存，我们会发现一些问题。

如果只使用redis来做缓存我们会有大量的请求到redis，但是每次请求的数据都是一样的，假如这一部分数据就放在应用服务器本地，那么就省去了请求redis的网络开销，请求速度就会快很多。但是使用redis横向扩展很方便。

如果只使用Caffeine来做本地缓存，我们的应用服务器的内存是有限，并且单独为了缓存去扩展应用服务器是非常不划算。所以，只使用本地缓存也是有很大局限性的。

至此我们是不是有一个想法了，两个一起用。将热点数据放本地缓存（一级缓存），将非热点数据放redis缓存（二级缓存）。

一级缓存：Caffeine是一个一个高性能的 Java 缓存库；使用 Window TinyLfu 回收策略，提供了一个近乎最佳的命中率。Caffeine 缓存详解

二级缓存：redis是一高性能、高可用的key-value数据库，支持多种数据类型，支持集群，和应用服务器分开部署易于横向扩展。