labview編程技巧---定點(diǎn)數(shù)轉(zhuǎn)換
0000 1264 C97C 8937 77C8 3783 EE9B 0000
說明兩個字節(jié)對應(yīng)一個點(diǎn)的數(shù)據(jù)(高低位互換后,如:1264(存儲時的樣子),實(shí)際數(shù)值為:6412(16進(jìn)制),他們對應(yīng)的10進(jìn)制浮點(diǎn)數(shù)如下:
00.7818314824520.97492791219320.4338837391869-0.4338837390251-0.9749279121533-0.781831482564-1.79586368671E-10
問題:
例如: C877 (16進(jìn)制) =-0.4338837390251 (10進(jìn)制) 如何計(jì)算?如何判斷這是個負(fù)數(shù)?
如何判斷一個16進(jìn)制數(shù)是正,還是負(fù)?(下面是16進(jìn)制數(shù)和對應(yīng)的10進(jìn)制數(shù))
0000 6412 7CC9 3789
0 0.781831482452 0.9749279121932 0.4338837391869
***************************************************************************************
C877 8337 9BEE 0000
-0.4338837390251 -0.9749279121533 -0.781831482564 -1.79586368671E-10
如何只知道一個2字節(jié)的16進(jìn)制數(shù),判斷出這是個的正負(fù)?(知道它對應(yīng)的帶符號的浮點(diǎn)數(shù)?如:
知道" C877(16進(jìn)制) ",如何判斷出這是個的正負(fù)?得到 " -0.4338837390251 "?
****************************************************************************************************************************************
分析:
IEEE標(biāo)準(zhǔn)規(guī)定,雙精度浮點(diǎn)數(shù)為8個字節(jié),單精度浮點(diǎn)數(shù)是4個字節(jié),所以兩個字節(jié)長度肯定不是浮點(diǎn)數(shù),LABVIEW中的浮點(diǎn)數(shù)數(shù)據(jù)類型是完全符合IEEE標(biāo)準(zhǔn)的。上述問題實(shí)際是定點(diǎn)數(shù)而不是浮點(diǎn)數(shù)。
定點(diǎn)數(shù)小數(shù)點(diǎn)的位置和位數(shù)可以通過對話框配置,針對上述問題,配置如下:
評論