TC官方合作论坛

标题: tc是不是有问题字符串格式化 "2260898450" 转成80000000 了 [打印本页]

作者: wodeqq381155 时间: 2017-12-20 04:33
标题: tc是不是有问题字符串格式化 "2260898450" 转成80000000 了
tc是不是有问题字符串格式化 %x,"2260898450" 转成80000000 了十进制转十六进制和计算器转的完全不一样，别的字符串就没事，就这个有问题。
[attach]25889[/attach][attach]25888[/attach]

不管是不是字符串转十六进制都有问题

作者: 言术 时间: 2017-12-20 06:38
//超过精度，溢出了
调试输出(2147483647)
调试输出(2147483647+1)

作者: wodeqq381155 时间: 2017-12-20 07:33

言术发表于 2017-12-20 06:38
//超过精度，溢出了
调试输出(2147483647)
调试输出(2147483647+1)

2147483647+1 这个是最高精度吗？如果这样的话我就只能直接填写十六进制了。
我记得按键里面最大支持8位返回值，这个tc接触才11天不是很清楚

作者: wodeqq381155 时间: 2017-12-20 20:27
应该是ffffffff除2这个了，超过这个就不好弄了

作者: wodeqq381155 时间: 2017-12-20 20:28
超过就是溢出，这个内部弄好了，哦们只有分段弄。

欢迎光临 TC官方合作论坛 (http://bbs.52tc.co/)