7 単精度変数と倍精度変数

計算機上の数値は、２進数にて記憶されている。電気があるなし、磁気があるなし、 電気が流れる流れないなど、0と1で評価できる仕組みを用いて、数値が計算機 上に記憶されている。このような記憶の1要素を1ビット(bit)と呼ぶ。

計算機上で、

$$\framebox{1}\framebox{0}\framebox{1}\framebox{1}$$ (85)

といった情報が記憶されていると考えればよい。

これを素直に整数だと考え、10進数で表せば

$$1011 (2進数) = 1 \times 2^{3} + 0 \times 2^{2} + 1 \times 2^{1} + 1 = \ 11 (10進数)$$ (86)

となる。

単精度と倍精度

現在の計算機は、標準的には、2進数の8桁をひとまとめにして扱うのが 標準的である。これを計算機の分野では、 通常、 $1 {\rm byte} = 8 {\rm bit}$ としている。

$$\framebox{1}\framebox{0}\framebox{1}\framebox{1} \framebox{1}\framebox{0}\framebox{1}\framebox{1} 1バイト({\rm byte})\ = 8ビット({\rm bit})$$ (87)

$$\framebox{1}\framebox{0}\framebox{1}\framebox{1} \framebox{1}\fra... ...box{0}\framebox{1}\framebox{1} \framebox{1}\framebox{0}\framebox{1}\framebox{1}$$

$$\hspace*{-12mm} 4バイト = 32ビット$$ (88)

通常、この32ビットのメモリ(記憶領域)で1つの数値を表す方法を 単精度と呼んでいる。64ビット(8バイト)を倍精度と呼んでいる。

整数値の変数

与えられたビットの内1ビットを符号(正負)に用いて、その他は自然数に使う。
例．単精度整数(32ビット)
$-2^{31} \sim 2^{31}-1 (-2,147,483,648\sim 2,147,483,647)$
の整数を表すことが可能

実数値の変数

単精度(32ビット)の場合、与えられたビットの内，符号ビット1ビット， 指数部ビット(7-8ビット)，仮数部ビット(24ビット)により，

$$(実数値) = (符号) (仮数部) \times 10^{指数部(整数)}$$ (89)

により値を定める。

仮数部の10進数での精度(有効桁数) 単精度：6桁、 倍精度：15桁

指数部の10進数での精度(有効桁数)
単精度： $-10^{-38} \sim 10^{38}$ 、 倍精度： $-10^{-306} \sim 10^{306}$

科学技術計算では、$10^{6}$ 回以上の繰り返し計算を行うことは 珍しくないので計算誤差により、6桁程度の誤差をしばしば発生させる。 そこで、通常、実数の計算では、倍精度が使われる。 必要な場合は、四倍精度(128ビット)を用いた計算も使われる。

倍精度の使い方は、実習などで習う。