Results of 1 - 10 of about 24 for 桁数 (0.114 sec.)
- 15. 浮動小数点演算、その問題と制限 — Python 3.14.8 ドキュメント 12326
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python チュートリアル » 15. 浮動小数点演算、その問題と制限 テーマ 自動 ライト ダーク | 15. 浮動小数点演算、その問題と制限 ¶ 浮動小数点数はコンピューターのハードウ
...して、以下のように近似することができます: 0.3 さらに正確な近似は、 0.33 さらに正確な近似は、 0.333 となり、以後同様です。何個桁数を増やして書こうが、結果は決して厳密な 1/3 にはなりません。しかし、少しづつ正確な近似にはなっていくでしょう。 同様に、基数を...でしょう: >>> 0.1 0.1000000000000000055511151231257827021181583404541015625 これは、ほとんどの人が必要と感じるよりも多すぎる桁数です。なので、Python は丸めた値を表示することで、桁数を扱いやすい範囲にとどめます: >>> 1 / 10 0.1 表示された結果が正確に 1/1...つ 0.10000000000000001 のような10進数の値を選んで表示していました。 Python 3.1 からは、ほとんどの場面で 0.1 のような最も短い桁数の10進数の値を選ぶようになりました。 この動作は2進数の浮動小数点にとってはごく自然なものです。これは Python のバグではありま... - https://man.mtool.work/python/3.14/tutorial/floatingpoint.html
- 15. 浮動小数点演算、その問題と制限 — Python 3.14.8 ドキュメント 12326
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python チュートリアル » 15. 浮動小数点演算、その問題と制限 テーマ 自動 ライト ダーク | 15. 浮動小数点演算、その問題と制限 ¶ 浮動小数点数はコンピューターのハードウ
...して、以下のように近似することができます: 0.3 さらに正確な近似は、 0.33 さらに正確な近似は、 0.333 となり、以後同様です。何個桁数を増やして書こうが、結果は決して厳密な 1/3 にはなりません。しかし、少しづつ正確な近似にはなっていくでしょう。 同様に、基数を...でしょう: >>> 0.1 0.1000000000000000055511151231257827021181583404541015625 これは、ほとんどの人が必要と感じるよりも多すぎる桁数です。なので、Python は丸めた値を表示することで、桁数を扱いやすい範囲にとどめます: >>> 1 / 10 0.1 表示された結果が正確に 1/1...つ 0.10000000000000001 のような10進数の値を選んで表示していました。 Python 3.1 からは、ほとんどの場面で 0.1 のような最も短い桁数の10進数の値を選ぶようになりました。 この動作は2進数の浮動小数点にとってはごく自然なものです。これは Python のバグではありま... - https://man.mtool.work/python/3.14/tutorial/floatingpoint.html
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 11459
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数
...ならないようなアプリケーションを考えるなら、十進数による数値表現が望ましいということになります。 decimal モジュールでは、有効桁数の表記が取り入れられており、例えば 1.30 + 1.20 は 2.50 になります。すなわち、末尾のゼロは有効数字を示すために残されます。こう...した仕様は通貨計算を行うアプリケーションでは慣例です。乗算の場合、「教科書的な」アプローチでは、乗算の被演算子すべての桁数を使います。例えば、 1.3 * 1.2 は 1.56 になり、 1.30 * 1.20 は 1.5600 になります。 ハードウェアによる 2 進浮動小数点表現と違...い、 decimal モジュールでは計算精度をユーザが変更できます(デフォルトでは 28 桁です)。この桁数はほとんどの問題解決に十分な大きさです: >>> from decimal import * >>> getcontext () . prec = 6 >>> Decimal ( 1 ) / Decimal (... - https://man.mtool.work/python/3.14/library/decimal.html
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 11459
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数
...ならないようなアプリケーションを考えるなら、十進数による数値表現が望ましいということになります。 decimal モジュールでは、有効桁数の表記が取り入れられており、例えば 1.30 + 1.20 は 2.50 になります。すなわち、末尾のゼロは有効数字を示すために残されます。こう...した仕様は通貨計算を行うアプリケーションでは慣例です。乗算の場合、「教科書的な」アプローチでは、乗算の被演算子すべての桁数を使います。例えば、 1.3 * 1.2 は 1.56 になり、 1.30 * 1.20 は 1.5600 になります。 ハードウェアによる 2 進浮動小数点表現と違...い、 decimal モジュールでは計算精度をユーザが変更できます(デフォルトでは 28 桁です)。この桁数はほとんどの問題解決に十分な大きさです: >>> from decimal import * >>> getcontext () . prec = 6 >>> Decimal ( 1 ) / Decimal (... - https://man.mtool.work/python/3.14/library/decimal.html
- locale --- 国際化サービス — Python 3.14.8 ドキュメント 8673
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 国際化 » locale --- 国際化サービス テーマ 自動 ライト ダーク | locale --- 国際化サービス ¶ ソースコード: Lib/locale.py The locale m
...sands_sep' が来るかもしれない場所を相対的に表した数からなる配列です。配列が CHAR_MAX で終端されている場合、それ以上の桁では桁数字のグループ化を行いません。配列が 0 で終端されている場合、最後に指定したグループが反復的に使われます。 'thousands_sep' 桁グ...表します)。 'mon_decimal_point' 金額表示の際に使われる小数点です。 'frac_digits' 金額を地域的な方法で表現する際の小数点以下の桁数です。 'int_frac_digits' 金額を国際的な方法で表現する際の小数点以下の桁数です。 'mon_thousands_sep' 金額表示の際に桁区切り記... - https://man.mtool.work/python/3.14/library/locale.html
- locale --- 国際化サービス — Python 3.14.8 ドキュメント 8673
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 国際化 » locale --- 国際化サービス テーマ 自動 ライト ダーク | locale --- 国際化サービス ¶ ソースコード: Lib/locale.py The locale m
...sands_sep' が来るかもしれない場所を相対的に表した数からなる配列です。配列が CHAR_MAX で終端されている場合、それ以上の桁では桁数字のグループ化を行いません。配列が 0 で終端されている場合、最後に指定したグループが反復的に使われます。 'thousands_sep' 桁グ...表します)。 'mon_decimal_point' 金額表示の際に使われる小数点です。 'frac_digits' 金額を地域的な方法で表現する際の小数点以下の桁数です。 'int_frac_digits' 金額を国際的な方法で表現する際の小数点以下の桁数です。 'mon_thousands_sep' 金額表示の際に桁区切り記... - https://man.mtool.work/python/3.14/library/locale.html
- 組み込み型 — Python 3.14.8 ドキュメント 8256
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python built-ins reference » 組み込み型 テーマ 自動 ライト ダーク | 組み込み型 ¶ 以下のセクションでは、インタプリタに組み込まれている標準型について記述します。 主
...ようにします。 精度 (オプション)。 '.' (ドット) とその後に続く精度で与えられます。 '*' (アスタリスク) を指定した場合、精度の桁数は values タプルの次の要素から読み出されます。タプルには精度指定の後に変換したい値がくるようにします。 精度長変換子 (オプショ...の形式にした場合、変換結果には常に小数点が含まれ、それはその後ろに数字が続かない場合にも適用されます。 指定精度は小数点の後の桁数を決定し、そのデフォルトは 6 です。 この形式にした場合、変換結果には常に小数点が含まれ他の形式とは違って末尾の 0 は取り除かれ...ません。 指定精度は小数点の前後の有効桁数を決定し、そのデフォルトは 6 です。 精度が N なら、出力は N 文字に切り詰められます。 PEP 237 を参照してください。 Python 文字... - https://man.mtool.work/python/3.14/builtins/stdtypes.html
- string --- 一般的な文字列操作 — Python 3.14.8 ドキュメント 8256
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » テキスト処理サービス » string --- 一般的な文字列操作 テーマ 自動 ライト ダーク | string --- 一般的な文字列操作 ¶ Source code: Lib/s
...inf が INF に変換されることを除き 'f' と同じです。 'g' 汎用表記です。与えられた精度 p >= 1 に対して、この表記では数値を有効桁数 p に丸めた上で、数値の大きさに応じて固定小数点表記または科学的表記で表します。精度 0 は精度 1 と同じものと取り扱われます。...する桁が無い場合、 '#' オプションが使われた場合をのぞき、小数点は除去されます。 精度が指定されない場合、 float に対しては有効桁数として 6 桁を適用します。 Decimal では、フォーマット結果の係数部は実際の値の桁数によって決まります; 絶対値が 1e-6 より小さい... - https://man.mtool.work/python/3.14/library/string.html
- string --- 一般的な文字列操作 — Python 3.14.8 ドキュメント 8256
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » テキスト処理サービス » string --- 一般的な文字列操作 テーマ 自動 ライト ダーク | string --- 一般的な文字列操作 ¶ Source code: Lib/s
...inf が INF に変換されることを除き 'f' と同じです。 'g' 汎用表記です。与えられた精度 p >= 1 に対して、この表記では数値を有効桁数 p に丸めた上で、数値の大きさに応じて固定小数点表記または科学的表記で表します。精度 0 は精度 1 と同じものと取り扱われます。...する桁が無い場合、 '#' オプションが使われた場合をのぞき、小数点は除去されます。 精度が指定されない場合、 float に対しては有効桁数として 6 桁を適用します。 Decimal では、フォーマット結果の係数部は実際の値の桁数によって決まります; 絶対値が 1e-6 より小さい... - https://man.mtool.work/python/3.14/library/string.html
- 11. Brief tour of the standard library --- part II — Python 3.14.8 ドキュメント 7606
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python チュートリアル » 11. Brief tour of the standard library --- part II テーマ 自動 ライト ダーク | 11. Brief tour of the standard library --- part II ¶ ツアー
...リケーションやその他の正確な10進表記が必要なアプリケーション、 精度の制御、 法的または規制上の理由に基づく値丸めの制御、 有効桁数の追跡が必要になる場合 ユーザが手計算の結果と同じ演算結果を期待するようなアプリケーション。 例えば、70 セントの電話代にかかる... - https://man.mtool.work/python/3.14/tutorial/stdlib2.html