我打個比喻
當使用GetCaretPos獲得當前的光標位置後,假設它為負數,我需要知道它是否小於0,結果:
.if p.y<0
... ... ;1
.elseif p.y>eax
... ... ;2
.endif
結果你猜怎麼樣?;1段永遠不會執行,因為編譯器編譯時把.if p.y<=0編譯成了:
cmp p.y,0
jb xxx
結果可想而知,p.y是負數,按照無符號數來對待就成了正數了,比如-100,成了65435,自然出錯。這是masm的一個bug.
所以,提醒大家,在碰到有符號數的判斷時,盡量使用負數比較,或者自己寫判斷代碼,如負數比較:
.if p.y<=-1 等價於 .if p.y<0
上述代碼編譯器會自動選擇jge/jle/jl/jg系列指令。
自己判斷:
cmp eax,0
jle xxx
... ...
jmp @F
xxx:
cmp p.y,eax
jle @F
... ...
@@:
同時,其它宏指令如.while也有這個出錯的bug。
記得有符號數處理時要注意就行了,否則會出現莫名其妙的錯誤,卻找不到哪裡出錯。
糾正:
這不能算是一個bug,一位論壇的網友提醒了我,其實,在做這種比較時,可以把它臨時當成有符號數以便讓masm選擇,如:
.if SDWORD ptr p.y<0
... ...
就可以了。類似的可以轉換成SWORD SBYTE,前面的s表示有符號。