桁とは?

[戻る]
あきこ 2002/06/24(月) 13:23:08
VC初心者なのですが、今VCで電卓を作っているのですが、
桁について上手く考えることが出来ません。
たとえば、小数点のことも考えて、double型を使っているのですが、
入力桁数とかに制限を設けるべきなんでしょうか?
8桁×8桁以上だと誤差が出てしまうんです。どういう風に考えていいのか
全く分かりません。何かアドバイスいただけないでしょうか?

dairygoods 2002/06/24(月) 16:18:24
doubleの表現可能な桁数はだいたい10桁くらいですので、
それ以上の値では誤差が生じます。

これを超える桁数で計算をしたければ、
自分で計算ロジックを作成するか、
どこかから任意精度の計算ができるライブラリを探してくるしかないでしょう。

あきこ 2002/06/24(月) 16:39:09
だと、すれば、入力桁に制限をつけるだけでよいのでしょうか?
7桁×7桁×7桁でも、誤差はでるんですよね?
ううん・・・・。

dairygoods 2002/06/24(月) 17:10:35
> だと、すれば、入力桁に制限をつけるだけでよいのでしょうか?

普通の電卓の場合、入力桁数を制限すると同時に、
桁あふれが発生すると[E]などと表示され、
クリアボタンを押さないとそれ以上計算できないようになりますね。

あきこ 2002/06/25(火) 10:02:53
なるほど。
いろいろ勉強になりました。
ありがとうございました。

あきこ 2002/06/25(火) 10:03:36
[[解決]]
解決しました。

古いスレッドには追加発言できません。