原文：consistency.rst
缓存一致性是 Umem-cache 最关键的特性，缓存协议和集群的设计方案都是围绕着它展开的。缓存一致性能减少软件开发中的复杂性，因为你不需要担心过时的数据，这是最终一致性做不到的。
选择缓存一致性是有代价的：我们牺牲了可用性。也就是一旦 Umem-cache 挂掉，即使你的其他服务依旧完好，整个系统也无法工作。但是不必担心，我们有基于 raft 共识算法的集群解决方案，它可以提供很高的容错能力。
[size=6]缓存协议[/size]
我们的缓存协议提供了 GetOrSet 和 Delete 两个命令，是的， 我们把 Get 和 Set 合并了。
缓存一致性的实现是靠在数据库中的 Key 更新完成的瞬间，以下事件确保发生：
[list]
[*]没有任何连接正在读取 Key
[*]所有在此之前读到 Key 且未完成 Set 的连接都已被关闭
[*]Umem-cache 中不存在该 Key
[/list]下面我将详细说明：
[size=5]缓存命中[/size]
缓存命中时，Umem-cache 直接返回数据。
但是如果 key 因为正在 set 而被锁住了，该 get 操作会给该锁设置上过期时间，并排队等待 value 。另外，如果锁到期了，持有锁的连接会被关闭，并把锁转交给排队中的下一个连接。
::
客户端 Umem-cache 数据库 get key|------------------------->| | 1. 等待锁释放 返回 value ||<-------------------------|[size=5]缓存未命中[/size]
当缓存未命中时，我们会锁住 key ，然后尝试 set ，其他 get 请求会排队等待，这种机制是为了防止缓存击穿。
你可能发现了，Umem-cache 不响应 Set ，这让我们省掉了一次网络传输。因为它大概率会成功，就算失败也不是什么大事。
::
客户端 Umem-cache 数据库 get key|------------------------->| | 1. 锁住 key 返回 miss ||<-------------------------| get key|--------------------------------------------------->| | 2. 等待读锁 返回 value ||<---------------------------------------------------||------------------------->| 3. set value 4. 释放 key 的锁[size=5]更新或删除[/size]
事务和锁能保证数据库在更新完成时，该 key 未被缓存，且不在缓存的路上。
将第 4 步放在事务的最后是最佳实践，因为如果该 key 已被缓存，那么在此之前，所有的 Get 都会命中，而不是在队列中等待。
::
客户端 Umem-cache 数据库|-------------------------------------------------->| 1. 开启事务 | 2. 获取 key 的写锁|<--------------------------------------------------| 3. 更新或删除 key 删除 key|-------------------->| 4. 删除 key 或关闭持有 key 锁的连接|<--------------------||-------------------------------------------------->| 5. 提交事务[size=6]集群[/size]
集群的负载均衡靠的是客户端散列，在集群模式下，每个 key 都携带了 8 字节的版本号前缀，这个版本号与它要散列到的成员的版本号一致。一旦 key 散列到的成员发生变化，对应成员的版本号会增长，这个版本号是由 Raft 共识协议来维护的，并且我们保证了所有成员的版本号都不同。所以一旦 key 散列到的成员发生变化，旧成员上的 key 就会因为版本号的变化自动失效，这个机制就保证了同一时间不可能有两个成员上存在相同的有效的 key 。
集群也有一个版本号，这个版本号可以用来快速判断集群是否发生变化，这个版本号也是由 Raft 共识协议来维护的。每次集群成员变更或者成员可用状态变更都会导致集群版本号增长。所以集群版本号的增长也代表着集群中 Key 的散列分布发生了变化。
我们的集群协议提供了 Leader ，Authority 和 Cluster 三个命令，每一个缓存命令都会向集群获取执行授权，这个授权通过 Authority 命令来执行，Authority 命令会返回当前集群的版本号。
下面是客户端实现流程：
::
----- |开始| ----- | v ------------------------- |随机选择服务器查询领导者信息|<---------- ------------------------- | | | v | ---------------------------------- | |向领导者查询集群信息，得到 version V1| | ---------------------------------- | | | --------------------------- | | 并行 | | v v | ---------------------------------- ----- | |向领导者请求认证权威，得到 version V2| |缓存| | ---------------------------------- ----- | | | | --------------------------- | | | v | / \ | / \ | / \ | /V1==V2 \ | \ /--------否--------- \ / \ / \ / | 是 | v ----- |结束| -----
⚠️内容来自互联网，如有侵权请点击反馈！侵权投诉