求值如果超过小数点后六位数，应该要怎么做呀

bbsline · 发表于 2018-2-23 16:42:03

马上加入TC

您需要登录才可以下载或查看，没有帐号？立即注册

x

=-=原生只能显示小数点后六位数

剑仙十号 · 发表于 2018-2-24 21:49:46

var a = 0.000006123456
traceprint(a)
a = a*1000000
traceprint(a)

bbsline · 发表于 2018-2-24 01:36:09

或者说7.0该怎么操作搜索论坛好像看到的是老版本才可直接计算

剑仙十号 · 发表于 2018-2-24 22:01:49

只影响messagebox("")，traceprint("")显示，不影响运算。

要用traceprint("")来显示，得自己写个函数，使用字符型来储值。
var str = 转字符型(a)
字符串查找() 小数点。

字符串截取左侧() 小数点。
字符串截取右侧() 小数点。
左右拼接起来，再在原定位置，加入小数点就是。

bbsline · 发表于 2018-2-24 22:54:56

剑仙十号发表于 2018-2-24 22:01
只影响messagebox("")，traceprint("")显示，不影响运算。

要用traceprint("")来显示，得自己写个函数， ...

也就是说实际运算不会受到影响啊我还担心会被四舍五入最后只能为0.00000

帐号		自动登录	找回密码
密码			立即注册

[已解决] 求值如果超过小数点后六位数，应该要怎么做呀

马上加入TC

站长推荐 /2