請(qǐng)高手幫助看看簡(jiǎn)單C語(yǔ)言數(shù)字運(yùn)算程序

ID:67356 · 發(fā)表于 2019-6-26 06:42

unit R0,R1,Avcc;
uint V1,I1,ADCbg;
Avcc=Vbg_ROM*1000/ADCbg;
V1 = Avcc;
顯示結(jié)果V1=0

Avcc=Vbg_ROM*100/ADCbg;
V1 = 10*Avcc;
顯示結(jié)果V1=216

Avcc=Vbg_ROM*10/ADCbg;
V1 = 100*Avcc;
顯示結(jié)果V1=45

按理說(shuō)，三種情況V1的數(shù)值應(yīng)該相同才對(duì)。是什么原因?qū)е碌模?br />

ID:67356 · 發(fā)表于 2019-6-26 06:54

說(shuō)明一下，Vbg_ROM=1247，ADCbg=273

ID:571958 · 發(fā)表于 2019-6-26 10:22

你的ｕｎｉｔ是什么數(shù)據(jù)類(lèi)型，　如果是整形類(lèi)的，這三個(gè)運(yùn)算出來(lái)，就是會(huì)不一樣，１，２，３依次數(shù)據(jù)損失精度。

ID:571958 · 發(fā)表于 2019-6-26 10:23

當(dāng)然你寫(xiě)的結(jié)果，已經(jīng)不是丟失精度了，是數(shù)據(jù)就錯(cuò)誤了，　看看你的數(shù)據(jù)類(lèi)型的范圍*1000是不是已經(jīng)超出了表達(dá)范圍

ID:213173 · 發(fā)表于 2019-6-26 10:43

這很正常啊，由于數(shù)據(jù)類(lèi)型的限制，運(yùn)算過(guò)程中溢出部分或小數(shù)部分被丟棄，導(dǎo)致結(jié)果不一樣。你用強(qiáng)制轉(zhuǎn)換數(shù)據(jù)類(lèi)型浮點(diǎn)算法就不會(huì)出錯(cuò)。

ID:425825 · 發(fā)表于 2019-6-26 11:13

單片機(jī) unsigned int 最大計(jì)數(shù)是 65535
1247 * 1000 =？
1247 * 100 = ？

ID:67356 · 發(fā)表于 2019-6-26 23:35

謝謝各位壇友解答

ID:573345 · 發(fā)表于 2019-6-28 10:08

超范圍啦！可以先除后乘

帳號(hào)		自動(dòng)登錄	找回密碼
密碼			立即注冊(cè)