ソフトウェアデザイナー_例

●コンピュータとの科学的なコンピューティングは、多くの場合、__を指し、「オーバーフロー」、（）__が発生したとき。
A. データの量がメモリ容量Bを超え 値は、指定されたデータ型表現の範囲超える
Cを 指定された範囲D.からのデータの種類 数値フォーマットは、コンピュータのための要件を満たしていない
B：質問

● 0.125を求めているのバイナリ分数方法

--0 2 * 0.125 = 0.25 
    0.25 2 = 0.5 --0 * 
    0.5 * 2 = 1-1 
    端
    に0.125バイナリ0.001即ち1 * E-3

● 0.6を求めているのバイナリ分数方法

 

* 2 0.6 = 1.2 --1（残り0.2）
0.2 * 2 = 0.4 --0（残り0.4）
0.4×2 = 0.8 --0（残り0.8）
0.8 * 2 = 1.6 --1（残り0.6）
0.6 * --1 2 = 1.2（0.2余り）
... 
無限ループ入る 0の0.6バイナリ小数1001 100 110 011 ...