TC官方合作论坛

标题: 请教数字绝对值函数，谢谢！ [打印本页]

作者: dushuren 时间: 2017-12-14 19:04
标题: 请教数字绝对值函数，谢谢！
本帖最后由 dushuren 于 2017-12-14 19:05 编辑

功能按钮9_点击()
//这里添加你要执行的代码
变量 R1 = 孔径,R2 = 孔径,D1 = 孔径,D2 = 孔径,Z = 偏心
D1 = 编辑框获取文本("编辑框40")
R1 = 编辑框获取文本("编辑框41")
D2 = 编辑框获取文本("编辑框42")
R2 = 编辑框获取文本("编辑框43")
Z = 数学绝对值(D1/R1)/4
编辑框设置文本("编辑框36",Z)
结束
计算后只有整数没有小数点后的数位，怎么解决，谢谢！

作者: OOOO 时间: 2017-12-14 19:41
本帖最后由 OOOO 于 2017-12-14 19:47 编辑

首先问题不是在"数学绝对值"身上
在TC中
整数除以整数得出的结果强制为整数
乘法中亦复如是
只要有一个是浮点型则得出的结果也会是浮点型
解决方案
Z = 数学绝对值(D1*1.0/R1)/4

作者: dushuren 时间: 2017-12-14 19:57

OOOO 发表于 2017-12-14 19:41
首先问题不是在"数学绝对值"身上
在TC中
整数除以整数得出的结果强制为整数

请问如何控制小数点后的位数呢？

作者: 言术 时间: 2017-12-15 07:24

dushuren 发表于 2017-12-14 19:57
请问如何控制小数点后的位数呢？

以小数点向右截取位数

作者: dushuren 时间: 2017-12-15 16:30

言术发表于 2017-12-15 07:24
以小数点向右截取位数

真够简洁的，还是不懂怎么弄

作者: OOOO 时间: 2017-12-16 14:59
本帖最后由 OOOO 于 2017-12-16 15:00 编辑

var num = 1.123456
num = strcut(num, 4, false)
结果:1.12

PS:字符串移除的话只是硬生生的移除,不能做到四舍五入的运算,一般做这种运算还是用js处理合适,但是并不是很多人都会js

欢迎光临 TC官方合作论坛 (http://bbs.52tc.co/)