Home > Excel -エクセル- > 浮動小数点

パソコンスクール KENスクール  WebDTPデザイン・オフィスパソコン・ITエンジニアの専門校

浮動小数点

パソコンスクール パソコン教室 KENスクール  無料体験授業・無料相談はこちら  資料請求はこちら

Excelで『 120000 × 30000 』を計算をしてください。


浮動小数点の説明
『 3.6E+09 』と結果が表示されませんか?
なぜ、『 3600000000 』ではなく、『 3.6E+09 』と表示されるのでしょうか?
(自動的に答えの列幅が広がってしまった場合には、列幅を元の幅に戻してみてください)

『 3.6E+09 』は、『 3.6×10の9乗 』という意味になります。
こういう指数形式で表現した数値のことを浮動小数点数(floating-point number) と言いいます。

『 3.6E+09 』は見た目の小数点の位置と本当の小数点の位置が違っていますし。
小数点位置が動くから浮動小数点といいます。

浮動小数点の反対は固定小数点です。例えば『24.1』のようにそのままの小数点位置で表現します。
固定小数点の方が、計算しやすいように思えますよね。でも見やすいのは人間だけでコンピューターに
とっては計算しづらいのです。

なぜかというと、浮動小数点の方が少ない桁で広い範囲の数を表現できるからです。

1000兆分の1を表すには、固定小数点では『0.000000000000001』になって、たくさんの桁が必要ですが、
浮動小数点なら『1.0E-15』と書くだけで済みます
コンピューターでは桁数が少ない方が速く計算できるので、広い範囲の数を高速に計算するには固定小数点より浮動小数点の方が都合がいいのです。
(ちなみに、手動で指数表示にするには、セルの書式設定ダイアログボックスの表示形式タブの分類を指数に変更します)

このことは、IEEE(アイトリプルイー)754 で規格されています。
IEEE は米国電気電子技術者協会(Institute of Electrical and Electronics Engineers )のことです。
アメリカ合衆国に本部を持つコンピュータのソフトウェアおよびハードウェアの標準規格を策定している国際的な団体です。
IEEE 754 は浮動小数点演算の規格になります。

IEEE754方式では小数を表現するために単精度(float)で32ビット,倍精度(double)で64ビットの領域を使います。
これは、Excel、AccessなどのOffice製品だけにかぎらず、C言語、JAVA、などプログラミング言語のほとんどが対応しています。
2進数を使うため、ほとんどの10進小数は正確に表現できません。

このことが、電卓で計算した結果と、Excelで計算した結果が合わないという演算誤差の原因になっています。
そこでExcelでは、round 関数やint 関数を使ったり、Accessならデータ型を通貨型にしたりという処理が必要になってくるのです
詳しいことについては、また次回にでも。

Trackbacks:0

TrackBack URL for this entry
http://oa.kenblog.net/mt-tb.cgi/264
Listed below are links to weblogs that reference
浮動小数点 from パソコンスクール KENスクール OA BLOG - オフィスパソコン・Web/DTPデザイン・ITエンジニアの専門校

Home > Excel -エクセル- > 浮動小数点

Search
Feeds

Return to page top