タグ: 桁落ち

固定小数点数と浮動小数点数,演算の誤差とシフト演算

固定小数点数 データの最小単位をビットという。「0」と「1」のこと。 8ビット=1バイト 16ビット…