什么是浮點運算的意思概念介紹
浮點運算就是實數運算,因為計算機只能存儲整數,所以實數都是約數,這樣浮點運算是很慢的而且會有誤差。那么你對浮點運算了解多少呢?以下是由學習啦小編整理關于什么是浮點運算的內容,希望大家喜歡!
什么是浮點運算
當我們用不同的電腦計算圓周率時,會發現一臺電腦的計算較另一臺來講結果更加精確。或者我們在進行槍戰游戲的時候,當一粒子彈擊中墻壁時,墻上剝落下一塊墻皮,同樣的場面在一臺電腦上的表現可能會非常的呆板、做作;而在另外一臺電腦上就會非常生動形象,甚至與我們在現實中看到的所差無幾。這都是浮點運算能力的差異導致的。
如果是實數的話,就不是這樣了,機器有兩種辦法表示實數,一種是定點,就是小數點位置是固定的,一種是浮點,就是小數點位置不固定,計算方法也比較麻煩,通常會比整數運算代價大很多
FPU->Floating Point Unit,浮點運算部件
BCD->Binary Coded Decimal 壓縮的二進制數,是用4個位來表示數字0~9,一個byte表示兩個十進制數,比如1001111表示79
科學計數法:a×10的n次冪的形式。將一個數字表示成 (a×10的n次冪的形式),其中1≤|a|<10,n表示整數,這種記數方法叫科學記數法
浮點數的介紹
在這之前,先來看幾個術語:
FPU->Floating Point Unit,浮點運算部件
BCD->Binary Coded Decimal 壓縮的二十進制數,是用4個位來表示數字0~9,一個byte表示兩個十進制數,比如01111001表示89
浮點運算使用三種不同的數據:
1、整數(Integer),又分為字,短整數(Short Integer)和長整數(Long Integer)
2、實數(Real)分單精度(Single Real)和雙精度(Double Real)
3、壓縮的二十進制數(BCD)
浮點運算的格式
單精度:_31_30________23_22___________0
符號 指數 有效數
雙精度:_63_62__________52_51__________________0
符號 指數 有效數
擴展精度數: _79_78____________64_63___________________0
符號 指數 有效數
例子:
C377999A var1 dd -247.6
40000000 var2 dd 2.0
486F4200 var3 real4 2.45e+5
4059100000000000 var4 dq 100.25
3F543BF727136A40 var5 real8 0.00123
C377999A var1 dd -247.6
40000000 var2 dd 2.0
486F4200 var3 real4 2.45e+5
4059100000000000 var4 dq 100.25
3F543BF727136A40 var5 real8 0.001235
400487F34D6A161E4F76 var6 real10 33.9876
DD和real4都可以在asm中來定義單精度浮點數,4 bytes
DQ和real8都可以在asm中來定義雙精度浮點數,8 bytes
DT和real10都可以在asm中來定義擴展精度浮點數,10 bytes
看過“浮點運算的格式“的人還看了:
6.cpu參數有哪些