写点什么

Go 语言:SliceHeader,slice 如何高效处理数据?

用户头像
微客鸟窝
关注
发布于: 2 小时前
Go语言:SliceHeader,slice 如何高效处理数据?

数组

Go 语言中,数组类型包括两部分:数组大小、数组内部元素类型


a1 := [1]string("微客鸟窝")a2 := [2]string("微客鸟窝")
复制代码


示例中变量 a1 的类型是 [1]string,变量 a2 的类型是 [2]string,因为它们大小不一致,所以不是同一类型。

数组局限性

  • 数组被声明之后,它的大小和内部元素的类型就不能再被改变

  • 因为在 Go 语言中,函数之间的参数传递是值传递,数组作为参数的时候,会将其复制一份,如果它非常大,会造成大量的内存浪费


正是因为数组有这些局限性,Go 又设计了 slice !

slice 切片

slice 切片的底层数据是存储在数组中的,可以说是数组的改良版,slice 是对数组的抽象和封装,它可以动态的添加元素,容量不足时可以自动扩容。

动态扩容

通过内置的 append 方法,可以对切片追加任意多个元素:


 func main() {   s := []string{"微客鸟窝","无尘"}   s = append(s,"wucs")   fmt.Println(s) //[微客鸟窝 无尘 wucs] }
复制代码


append 方法追加元素时,如果切片的容量不够,会自动进行扩容:


 func main() {  s := []string{"微客鸟窝","无尘"}  fmt.Println("切片长度:",len(s),";切片容量:",cap(s))  s = append(s,"wucs")  fmt.Println("切片长度:",len(s),";切片容量:",cap(s))  fmt.Println(s) //}
复制代码


运行结果:


 切片长度: 2 ;切片容量: 2切片长度: 3 ;切片容量: 4[微客鸟窝 无尘 wucs]
复制代码


通过运行结果我们发现,在调用 append 之前,容量是 2,调用之后容量是 4,说明自动扩容了。


扩容原理是新建一个底层数组,把原来切片内的元素拷贝到新的数组中,然后返回一个指向新数组的切片。

切片结构体

切片其实是一个结构体,它的定义如下:


type SliceHeader struct {   Data uintptr   Len  int   Cap  int}
复制代码


  • Data 用来指向存储切片元素的数组。

  • Len 代表切片的长度。

  • Cap 代表切片的容量。通过这三个字段,就可以把一个数组抽象成一个切片,所以不同切片对应的底层 Data 指向的可能是同一个数组。

  • 示例:


func main() {  a1 := [2]string{"微客鸟窝","无尘"}  s1 := a1[0:1]  s2 := a1[:]  fmt.Println((*reflect.SliceHeader)(unsafe.Pointer(&s1)).Data)  fmt.Println((*reflect.SliceHeader)(unsafe.Pointer(&s2)).Data)}
复制代码


运行结果:


824634892120824634892120
复制代码


我们发现打印出 s1 和 s2 的 Data 值是一样的,说明两个切片共用一个数组。所以在对切片进行操作时,使用的还是同一个数组,没有复制原来的元素,减少内存的占用,提高效率。


多个切片共用一个底层数组虽然可以减少内存占用,但是如果一个切片修改了内部元素,其他切片也会受到影响,所以切片作为参数传递的时候要小心,尽可能不要修改远切片内的元素。切片的本质是 SliceHeader,又因为函数的参数是值传递,所以传递的是 SliceHeader 的副本,而不是底层数组的副本,这样就可以大大减少内存的使用。


获取切片数组结果的三个字段的值,除了使用 SliceHeader,也可以自定义一个结构体,只有包子字段和 SliceHeader 一样就可以了:


func main() {  s := []string{"微客鸟窝","无尘","wucs"}  s1 := (*any)(unsafe.Pointer(&s))  fmt.Println(s1.Data,s1.Len,s1.Cap) //824634892104 3 3}type any struct {  Data uintptr  Len int  Cap int}
复制代码

高效

对于 Go 语言中的集合类型:数组、切片、map,数组和切片的取值和赋值操作相比 map 要更高效,因为它们是连续的内存操作,可以通过索引就能快速地找到元素存储的地址。在函数传参中,切片相比数组要高效,因为切片作为参数,不会把所有的元素都复制一遍,只是复制 SliceHeader 的三个字段,共用的仍是同一个底层数组。


示例:


func main() {  a := [2]string{"微客鸟窝", "无尘"}  fmt.Printf("函数main数组指针:%p\n", &a)
arrayData(a) s := a[0:1] fmt.Println((*reflect.SliceHeader)(unsafe.Pointer(&s)).Data) sliceData(s)}func arrayData(a [2]string) { fmt.Printf("函数arrayData数组指针:%p\n", &a)}func sliceData(s []string) { fmt.Println("函数sliceData数组指针:", (*reflect.SliceHeader)(unsafe.Pointer(&s)).Data)}
复制代码


运行结果:


函数main数组指针:0xc0000503c0函数arrayData数组指针:0xc000050400824634049472函数sliceData数组指针: 824634049472
复制代码


可以发现:


  • 同一个数组传到 arrayData 函数中指针发生了变化,说明数组在传参的时候被复制了,产生了一个新的数组。

  • 切片作为参数传递给 sliceData 函数,指针没有发生变化,因为 slice 切片的底层 Data 是一样的,切片共用的是一个底层数组,底层数组没有被复制。

string 和 []byte 互转

string 底层结构 StringHeader:


// StringHeader is the runtime representation of a string.type StringHeader struct {   Data uintptr   Len  int}
复制代码


StringHeader 和 SliceHeader 一样,代表的是字符串在程序运行时的真实结构,可以看到字段仅比切片少了一个 Cap 属性。


[]byte(s) 和 string(b) 强制转换:


func main() {  s := "微客鸟窝"  fmt.Printf("s的内存地址:%d\n", (*reflect.StringHeader)(unsafe.Pointer(&s)).Data)  b := []byte(s)  fmt.Printf("b的内存地址:%d\n", (*reflect.SliceHeader)(unsafe.Pointer(&b)).Data)  c := string(b)  fmt.Printf("c的内存地址:%d\n", (*reflect.StringHeader)(unsafe.Pointer(&c)).Data)}
复制代码


运行结果:


s的内存地址:8125426b的内存地址:824634892016c的内存地址:824634891984
复制代码


通过上面示例发现打印出的内存地址都不一样,可以看出[]byte(s) 和 string(b) 这种强制转换会重新拷贝一份字符串。若字符串非常大,这样重新拷贝的方式会很影响性能。

优化

[]byte 转 string,就等于通过 unsafe.Pointer 把 *SliceHeader 转为 *StringHeader,也就是 *[]byte 转 *string。


零拷贝示例:


func main() {  s := "微客鸟窝"  fmt.Printf("s的内存地址:%d\n", (*reflect.StringHeader)(unsafe.Pointer(&s)).Data)  b := []byte(s)  fmt.Printf("b的内存地址:%d\n", (*reflect.SliceHeader)(unsafe.Pointer(&b)).Data)  //c1 :=string(b)  c2 := *(*string)(unsafe.Pointer(&b))  fmt.Printf("c2的内存地址:%d\n", (*reflect.StringHeader)(unsafe.Pointer(&c2)).Data)}
复制代码


运行结果:


s的内存地址:1899506b的内存地址:824634597104c2的内存地址:824634597104
复制代码


示例中,c1 和 c2 的内容是一样的,不一样的是 c2 没有申请新内存(零拷贝),c2 和变量 b 使用的是同一块内存,因为它们的底层 Data 字段值相同,这样就节约了内存,也达到了 []byte 转 string 的目的。


SliceHeader 有 Data、Len、Cap 三个字段,StringHeader 有 Data、Len 两个字段,所以 *SliceHeader 通过 unsafe.Pointer 转为 *StringHeader 的时候没有问题,但是反过来却不行了,因为 *StringHeader 缺少 *SliceHeader 所需的 Cap 字段,需要我们自己补上一个默认值:


func main() {  s := "微客鸟窝"  fmt.Printf("s的内存地址:%d\n", (*reflect.StringHeader)(unsafe.Pointer(&s)).Data)  b := []byte(s)  fmt.Printf("b的内存地址:%d\n", (*reflect.SliceHeader)(unsafe.Pointer(&b)).Data)  sh := (*reflect.SliceHeader)(unsafe.Pointer(&s))  sh.Cap = sh.Len  b1 := *(*[]byte)(unsafe.Pointer(sh))  fmt.Printf("b1的内存地址:%d\n", (*reflect.StringHeader)(unsafe.Pointer(&b1)).Data)}
复制代码


运行结果:


s的内存地址:1309682b的内存地址:824634892008b1的内存地址:1309682
复制代码


  1. b1 和 b 的内容是一样的,不一样的是 b1 没有申请新内存,而是和变量 s 使用同一块内存,因为它们底层的 Data 字段相同,所以也节约了内存。

  2. 通过 unsafe.Pointer 把 string 转为 []byte 后,不能对 []byte 修改,比如不可以进行 b1[0]=10 这种操作,会报异常,导致程序崩溃。因为在 Go 语言中 string 内存是只读的。

发布于: 2 小时前阅读数: 4
用户头像

微客鸟窝

关注

还未添加个人签名 2019.11.01 加入

公众号《微客鸟窝》笔者,目前从事web后端开发,涉及语言PHP、golang。获得美国《时代周刊》2006年度风云人物!

评论

发布
暂无评论
Go语言:SliceHeader,slice 如何高效处理数据?