写点什么

CDN 网关超大 range 计算方法

  • 2023-05-19
    北京
  • 本文字数:717 字

    阅读完需:约 2 分钟

本文分享自天翼云开发者社区《CDN网关超大range计算方法》,作者:康****彬


一、目前 CDN 网关 openresty 中的 lua 遇到两个超大数值,计算两个数值的差、和是不支持的,因为 lua 支持最大的数值的位数大小是 19 位,当数值大于 19 位的时候,会自动变成指数类型,例如:1.22222e+19,并且两个同位超大数值比较大小也是不支持的,如下(20 位数):

    local a = 11111111111111111111

    local b = 11111111111111111222

    print(a) = 1.1111111111111e+19

    print(b) = 1.1111111111111e+19

    print(a < b) = false (正常结果应为 true)

    print(a == b) = true(正常结果应为 false)

    因此,结果是无法比较的,也是无法计算,相减等于 0。

二、可通过以下方式处理:

1、数值转换-数字转为字符串:针对两个超大数值,数字先转成字符串,A:大的字符串,B:小的字符串;

2、补位:对 B 的数值字符串进行补位,前面默认补 0,使得两个字符串长度一致;

3、分割字符串:针对 A、B 两个字符串,按照每 10 位从头进行分割(最后一段可能小于 10 位),记 A1、A2……An,B1、B2……Bn,此时 A1 的长度=B1 的长度,以此类推,保证两个字符串的每一段数据的长度是一致的,方便后续计算;

4、字符串转为数字:An 和 Bn 转为数字;

5、借位: A1 必然大于 B1,比较 A2 与 B2,如果 A2<B2,则 A2 向 A1 借一位,A1=A1-1,A2=A2+10^10,依此类推,最后比较 An,Bn,如果 An<Bn,则(An-1)=(An-1)-1,An=An+10^(具体位数);

6、递归计算:分段计算得出结果,R1=A1-B1,R2=A2-B2……Rn=An-Bn,得到结果之后,把 R1 到 R2 转成字符串,最后 R1 到 Rn 拼接起来得到最终计算结果。

结果:lua 超大数的表示以及计算方法,其中方法包含:数值转换、补位、分段切割、借位、递归计算,从而得到最终结果

用户头像

还未添加个人签名 2022-02-22 加入

天翼云是中国电信倾力打造的云服务品牌,致力于成为领先的云计算服务提供商。提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。

评论

发布
暂无评论
CDN网关超大range计算方法_CDN_天翼云开发者社区_InfoQ写作社区