JSON 如今广泛用于配置和通信协议,但由于其定义的灵活性,很容易传递错误数据。本文介绍了如何使用 mapstructure 工具实现动态灵活的 JSON 数据解析,在牺牲一定性能的前提下,有效提升开发效率和容错能力。原文: Efficient JSON Data Handling: Dynamic Parsing Tips in Golang
打造无缝 Golang 体验,探索动态 JSON 解析技术,实现最佳开发实践。
Cristian Palmer @Unsplash
在 Golang 开发领域,经常需要解析 JSON 数据。然而,如果值的类型不确定,是否有优雅的解决方案?
例如,当 JSON 字符串为 { "age":1 }
,而相应的结构体定义为字符串时,解析就会报错。
除了为结构体定义反序列化方法外,还有其他解决方案吗?今天,我将介绍另一种解决这一难题的方法。
Mapstructure 主要用于将任意 JSON 数据解码为 Go 结构。在处理 JSON 数据中的动态或不确定类型时,这将是一个强大的工具,提供了灵活的解决方案,超越了僵化结构定义的限制。
本质上讲,它擅长解析数据流,并将其映射到定义的结构中。
我们通过几个例子来探讨如何使用 mapstructure
。
# 1.常规用途
type Person struct {
Name string
Age int
Emails []string
Extra map[string]string
}
func normalDecode() {
input := map[string]interface{}{
"name": "Foo",
"age": 21,
"emails": []string{"one@gmail.com", "two@gmail.com", "three@gmail.com"},
"extra": map[string]string{
"twitter": "Foo",
},
}
var result Person
err := mapstructure.Decode(input, &result)
if err != nil {
panic(err)
}
fmt.Printf("%#v\n", result)
}
复制代码
结果:
main.Person{Name:"Foo", Age:21, Emails:[]string{"one@gmail.com", "two@gmail.com", "three@gmail.com"}, Extra:map[string]string{"twitter":"Foo"}}
复制代码
这种方法可能是最常用的,可以毫不费力地将 map[string]interface{}
映射到我们定义的结构。
在这里,我们并没有为每个字段指定标签,而是让 mapstructure
自动处理映射。
如果输入是 JSON 字符串,我们首先将其解析为 map[string]interface{}
格式,然后将其映射到结构中。
func jsonDecode() {
var jsonStr = `{
"name": "Foo",
"age": 21,
"gender": "male"
}`
type Person struct {
Name string
Age int
Gender string
}
m := make(map[string]interface{})
err := json.Unmarshal([]byte(jsonStr), &m)
if err != nil {
panic(err)
}
var result Person
err = mapstructure.Decode(m, &result)
if err != nil {
panic(err.Error())
}
fmt.Printf("%#v\n", result)
}
复制代码
结果:
main.Person{Name:"Foo", Age:21, Gender:"male"}
复制代码
# 2.嵌入式结构
mapstructure
使我们能够压缩多个嵌入式结构,并使用 squash
标记来处理。
type School struct {
Name string
}
type Address struct {
City string
}
type Person struct {
School `mapstructure:",squash"`
Address `mapstructure:",squash"`
Email string
}
func embeddedStructDecode() {
input := map[string]interface{}{
"Name": "A1",
"City": "B1",
"Email": "C1",
}
var result Person
err := mapstructure.Decode(input, &result)
if err != nil {
panic(err)
}
fmt.Printf("%s %s, %s\n", result.Name, result.City, result.Email)
}
复制代码
结果:
在这个例子中,Person
包含了 School
和 Address
的嵌入式结构,并通过使用 squash
标签实现了扁平化效果。
# 3.元数据
type Person struct {
Name string
Age int
Gender string
}
func metadataDecode() {
input := map[string]interface{}{
"name": "A1",
"age": 1,
"email": "B1",
}
var md mapstructure.Metadata
var result Person
config := &mapstructure.DecoderConfig{
Metadata: &md,
Result: &result,
}
decoder, err := mapstructure.NewDecoder(config)
if err != nil {
panic(err)
}
if err = decoder.Decode(input); err != nil {
panic(err)
}
fmt.Printf("value: %#v, keys: %#v, Unused keys: %#v, Unset keys: %#v\n", result, md.Keys, md.Unused, md.Unset)
}
复制代码
结果:
value: main.Person{Name:"A1", Age:1, Gender:""}, keys: []string{"Name", "Age"}, Unused keys: []string{"email"}, Unset keys: []string{"Gender"}
复制代码
从这个例子中,我们可以看到,使用元数据可以跟踪我们的结构与 map[string]interface{}
之间的差异。相同部分可以正确映射到相应的字段,而不同的部分则使用 Unused
和 Unset
来表示。
# 4.避免空值映射
这里的用法类似于内置 json
软件包,利用 omitempty
标记来处理空值的映射。
type School struct {
Name string
}
type Address struct {
City string
}
type Person struct {
*School `mapstructure:",omitempty"`
*Address `mapstructure:",omitempty"`
Age int
Email string
}
func omitemptyDecode() {
result := &map[string]interface{}{}
input := Person{Email: "C1"}
err := mapstructure.Decode(input, &result)
if err != nil {
panic(err)
}
fmt.Printf("%+v\n", result)
}
复制代码
结果:
注意这里的 *School
和 *Address
都被标记为 omitempty
,即在解析过程中忽略空值。
另一方面,Age
没有使用 omitempty
标记,由于输入中没有相应的值,解析时使用了相应类型的零值,int 的零值为 0
。
type Person struct {
Name string
Age int
Other map[string]interface{} `mapstructure:",remain"`
}
func remainDataDecode() {
input := map[string]interface{}{
"name": "A1",
"age": 1,
"email": "B1",
"gender": "C1",
}
var result Person
err := mapstructure.Decode(input, &result)
if err != nil {
panic(err)
}
fmt.Printf("%#v\n", result)
}
复制代码
结果:
main.Person{Name:"A1", Age:1, Other:map[string]interface {}{"email":"B1", "gender":"C1"}}
复制代码
从代码中可以看出,Other
字段被标记为 remain
,意味着输入中任何不能正确映射的字段都将被放在 Other
字段中。
输出结果显示,email
和 gender
已被正确的放入 Other
。
# 5.自定义标签
type Person struct {
Name string `mapstructure:"person_name"`
Age int `mapstructure:"person_age"`
}
func tagDecode() {
input := map[string]interface{}{
"person_name": "A1",
"person_age": 1,
}
var result Person
err := mapstructure.Decode(input, &result)
if err != nil {
panic(err)
}
fmt.Printf("%#v\n", result)
}
复制代码
结果:
main.Person{Name:"A1", Age:1}
复制代码
在 Person
结构中,我们将 person_name
和 person_age
分别映射为 Name
和 Age
,从而在不改变结构的情况下实现了正确的解析。
# 6.弱类型解析
type Person struct {
Name string
Age int
Emails []string
}
func weaklyTypedInputDecode() {
input := map[string]interface{}{
"name": 123, // number => string
"age": "11", // string => number
"emails": map[string]interface{}{}, // empty map => empty array
}
var result Person
config := &mapstructure.DecoderConfig{
WeaklyTypedInput: true,
Result: &result,
}
decoder, err := mapstructure.NewDecoder(config)
if err != nil {
panic(err)
}
err = decoder.Decode(input)
if err != nil {
panic(err)
}
fmt.Printf("%#v\n", result)
}
复制代码
结果:
main.Person{Name:"123", Age:11, Emails:[]string{}}
复制代码
从代码中可以看出,输入的 name
、age
类型与 Person
结构中的 Name
、Age
类型不匹配。
email
字段尤其不走寻常路,一个是字符串数组,另一个是 map。
通过自定义 DecoderConfig
并将 WeaklyTypedInput
设置为 true
,mapstructure
可以轻松解决此类弱类型解析问题。
不过,需要注意的是,并非所有问题都能得到解决,源代码也存在一定的局限性:
// - bools to string (true = "1", false = "0")
// - numbers to string (base 10)
// - bools to int/uint (true = 1, false = 0)
// - strings to int/uint (base implied by prefix)
// - int to bool (true if value != 0)
// - string to bool (accepts: 1, t, T, TRUE, true, True, 0, f, F,
// FALSE, false, False. Anything else is an error)
// - empty array = empty map and vice versa
// - negative numbers to overflowed uint values (base 10)
// - slice of maps to a merged map
// - single values are converted to slices if required. Each
// element is weakly decoded. For example: "4" can become []int{4}
// if the target type is an int slice.
复制代码
# 7.错误处理
Mapstructure
提供了用户非常方便使用的错误信息。
让我们看看它在遇到错误时是如何进行提示的。
type Person struct {
Name string
Age int
Emails []string
Extra map[string]string
}
func decodeErrorHandle() {
input := map[string]interface{}{
"name": 123,
"age": "bad value",
"emails": []int{1, 2, 3},
}
var result Person
err := mapstructure.Decode(input, &result)
if err != nil {
fmt.Println(err.Error())
}
}
复制代码
结果:
5 error(s) decoding:
* 'Age' expected type 'int', got unconvertible type 'string', value: 'bad value'
* 'Emails[0]' expected type 'string', got unconvertible type 'int', value: '1'
* 'Emails[1]' expected type 'string', got unconvertible type 'int', value: '2'
* 'Emails[2]' expected type 'string', got unconvertible type 'int', value: '3'
* 'Name' expected type 'string', got unconvertible type 'int', value: '123'
复制代码
这里的错误信息会告诉我们每个字段的信息,以及字段内的值应如何表示,从而可以指导我们有效的解决问题。
总结
上述例子展示了 mapstructure
在有效解决实际问题、提供实用解决方案和节省开发精力方面的强大能力。
不过,从源码角度来看,该库显然广泛采用了反射技术,可能会在某些特殊情况下带来性能问题。
因此,开发人员在将 mapstructure
纳入项目时,必须全面考虑产品逻辑和使用场景。
你好,我是俞凡,在 Motorola 做过研发,现在在 Mavenir 做技术工作,对通信、网络、后端架构、云原生、DevOps、CICD、区块链、AI 等技术始终保持着浓厚的兴趣,平时喜欢阅读、思考,相信持续学习、终身成长,欢迎一起交流学习。为了方便大家以后能第一时间看到文章,请朋友们关注公众号"DeepNoMind",并设个星标吧,如果能一键三连(转发、点赞、在看),则能给我带来更多的支持和动力,激励我持续写下去,和大家共同成长进步!
评论