写点什么

golang 实现一致性 hash 算法

用户头像
Jacky.Chen
关注
发布于: 2020 年 10 月 24 日



一、一致性hash原理

(内容摘录于https://www.cnblogs.com/lpfuture/p/5796398.html

  一致性哈希算法(Consistent Hashing)最早在论文《Consistent Hashing and Random Trees: Distributed Caching Protocols for Relieving Hot Spots on the World Wide Web》中被提出。简单来说,一致性哈希将整个哈希值空间组织成一个虚拟的圆环,如假设某哈希函数H的值空间为0-2^32-1(即哈希值是一个32位无符号整形),整个哈希空间环如下:

整个空间按顺时针方向组织。0和232-1在零点中方向重合。

  下一步将各个服务器使用Hash进行一个哈希,具体可以选择服务器的ip或主机名作为关键字进行哈希,这样每台机器就能确定其在哈希环上的位置,这里假设将上文中四台服务器使用ip地址哈希后在环空间的位置如下: 

 接下来使用如下算法定位数据访问到相应服务器:将数据key使用相同的函数Hash计算出哈希值,并确定此数据在环上的位置,从此位置沿环顺时针“行走”,第一台遇到的服务器就是其应该定位到的服务器。

  例如我们有Object A、Object B、Object C、Object D四个数据对象,经过哈希计算后,在环空间上的位置如下:



根据一致性哈希算法,数据A会被定为到Node A上,B被定为到Node B上,C被定为到Node C上,D被定为到Node D上。

下面分析一致性哈希算法的容错性和可扩展性。现假设Node C不幸宕机,可以看到此时对象A、B、D不会受到影响,只有C对象被重定位到Node D。一般的,在一致性哈希算法中,如果一台服务器不可用,则受影响的数据仅仅是此服务器到其环空间中前一台服务器(即沿着逆时针方向行走遇到的第一台服务器)之间数据,其它不会受到影响。

下面考虑另外一种情况,如果在系统中增加一台服务器Node X,如下图所示:

此时对象Object A、B、D不受影响,只有对象C需要重定位到新的Node X 。一般的,在一致性哈希算法中,如果增加一台服务器,则受影响的数据仅仅是新服务器到其环空间中前一台服务器(即沿着逆时针方向行走遇到的第一台服务器)之间数据,其它数据也不会受到影响。

综上所述,一致性哈希算法对于节点的增减都只需重定位环空间中的一小部分数据,具有较好的容错性和可扩展性。

另外,一致性哈希算法在服务节点太少时,容易因为节点分部不均匀而造成数据倾斜问题。例如系统中只有两台服务器,其环分布如下,

此时必然造成大量数据集中到Node A上,而只有极少量会定位到Node B上。为了解决这种数据倾斜问题,一致性哈希算法引入了虚拟节点机制,即对每一个服务节点计算多个哈希,每个计算结果位置都放置一个此服务节点,称为虚拟节点。具体做法可以在服务器ip或主机名的后面增加编号来实现。例如上面的情况,可以为每台服务器计算三个虚拟节点,于是可以分别计算 “Node A#1”、“Node A#2”、“Node A#3”、“Node B#1”、“Node B#2”、“Node B#3”的哈希值,于是形成六个虚拟节点:



同时数据定位算法不变,只是多了一步虚拟节点到实际节点的映射,例如定位到“Node A#1”、“Node A#2”、“Node A#3”三个虚拟节点的数据均定位到Node A上。这样就解决了服务节点少时数据倾斜的问题。在实际应用中,通常将虚拟节点数设置为32甚至更大,因此即使很少的服务节点也能做到相对均匀的数据分布。



二、标准差计算



三、实现代码

  1. 一致性hash代码

package JiKe
import (
"errors"
"hash/crc32"
"sort"
"strconv"
"sync"
)
type Consistent struct {
//排序的hash虚拟结点
hashSortedNodes []uint32
//虚拟结点对应的结点信息
circle map[uint32]string
//已绑定的结点
nodes map[string]bool
//map读写锁
sync.RWMutex
//虚拟结点数
virtualNodeCount int
}
func (c *Consistent) hashKey(key string) uint32 {
return crc32.ChecksumIEEE([]byte(key))
}
func (c *Consistent) Add(node string, virtualNodeCount int) error {
if node == "" {
return nil
}
c.Lock()
defer c.Unlock()
if c.circle == nil {
c.circle = map[uint32]string{}
}
if c.nodes == nil {
c.nodes = map[string]bool{}
}
if _, ok := c.nodes[node]; ok {
return errors.New("node already existed")
}
c.nodes[node] = true
//增加虚拟结点
for i := 0; i < virtualNodeCount; i++ {
virtualKey := c.hashKey(node + strconv.Itoa(i))
c.circle[virtualKey] = node
c.hashSortedNodes = append(c.hashSortedNodes, virtualKey)
}
//虚拟结点排序
sort.Slice(c.hashSortedNodes, func(i, j int) bool {
return c.hashSortedNodes[i] < c.hashSortedNodes[j]
})
return nil
}
func (c *Consistent) GetNode(key string) string {
c.RLock()
defer c.RUnlock()
hash := c.hashKey(key)
i := c.getPosition(hash)
return c.circle[c.hashSortedNodes[i]]
}
func (c *Consistent) getPosition(hash uint32) int {
i := sort.Search(len(c.hashSortedNodes), func(i int) bool { return c.hashSortedNodes[i] >= hash })
if i < len(c.hashSortedNodes) {
if i == len(c.hashSortedNodes)-1 {
return 0
} else {
return i
}
} else {
return len(c.hashSortedNodes) - 1
}
}



  1. 测试代码

package JiKe
import (
"fmt"
"math"
"sort"
"strconv"
"testing"
)
func Test_ConsistentHash(t *testing.T) {
virtualNodeList := []int{100, 150, 200}
//测试10台服务器
nodeNum := 10
//测试数据量100W
testCount := 1000000
for _, virtualNode := range virtualNodeList {
consistentHash := &Consistent{}
distributeMap := make(map[string]int64)
for i := 1; i <= nodeNum; i++ {
serverName := "172.17.0." + strconv.Itoa(i)
consistentHash.Add(serverName, virtualNode)
distributeMap[serverName] = 0
}
//测试100W个数据分布
for i := 0; i < testCount; i++ {
testName := "testName"
serverName := consistentHash.GetNode(testName + strconv.Itoa(i))
distributeMap[serverName] = distributeMap[serverName] + 1
}
var keys []string
var values []float64
for k, v := range distributeMap {
keys = append(keys, k)
values = append(values, float64(v))
}
sort.Strings(keys)
fmt.Printf("####测试%d个结点,一个结点有%d个虚拟结点,%d条测试数据\n", nodeNum, virtualNode, testCount)
for _, k := range keys {
fmt.Printf("服务器地址:%s 分布数据数:%d\n", k, distributeMap[k])
}
fmt.Printf("标准差:%f\n\n", getStandardDeviation(values))
}
}
//获取标准差
func getStandardDeviation(list []float64) float64 {
var total float64
for _, item := range list {
total += item
}
//平均值
avg := total / float64(len(list))
var dTotal float64
for _, value := range list {
dValue := value - avg
dTotal += dValue * dValue
}
return math.Sqrt(dTotal / avg)
}



三、测试结果



用户头像

Jacky.Chen

关注

还未添加个人签名 2019.05.20 加入

还未添加个人简介

评论

发布
暂无评论
golang实现一致性 hash 算法