Results of 1 - 10 of about 143 for 小数点 (0.012 sec.)
- 15. 浮動小数点演算、その問題と制限 — Python 3.14.8 ドキュメント 12297
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python チュートリアル » 15. 浮動小数点演算、その問題と制限 テーマ 自動 ライト ダーク | 15. 浮動小数点演算、その問題と制限 ¶ 浮動小数点数はコンピューターのハードウ
...です。 残念なことに、ほとんどの小数は 2 進法の分数として正確に表わすことができません。その結果、一般に、入力した 10 進の浮動小数点数は、 2 進法の浮動小数点数で近似された後、実際にマシンに記憶されます。 最初は基数 10 を使うと問題を簡単に理解できます。分数...した。 Python 3.1 からは、ほとんどの場面で 0.1 のような最も短い桁数の10進数の値を選ぶようになりました。 この動作は2進数の浮動小数点にとってはごく自然なものです。これは Python のバグではありませんし、あなたのコードのバグでもありません。ハードウェアの浮動小...比較に使うこともできます: >>> round ( math . pi , ndigits = 2 ) == round ( 22 / 7 , ndigits = 2 ) True このように2進数の浮動小数点の演算には多くの驚きがあります。「0.1」の問題について詳しい説明は、「表現エラー」セクションで行います。2進数の浮動小数点の仕... - https://man.mtool.work/python/3.14/tutorial/floatingpoint.html
- 15. 浮動小数点演算、その問題と制限 — Python 3.14.8 ドキュメント 12261
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python チュートリアル » 15. 浮動小数点演算、その問題と制限 テーマ 自動 ライト ダーク | 15. 浮動小数点演算、その問題と制限 ¶ 浮動小数点数はコンピューターのハードウ
...です。 残念なことに、ほとんどの小数は 2 進法の分数として正確に表わすことができません。その結果、一般に、入力した 10 進の浮動小数点数は、 2 進法の浮動小数点数で近似された後、実際にマシンに記憶されます。 最初は基数 10 を使うと問題を簡単に理解できます。分数...した。 Python 3.1 からは、ほとんどの場面で 0.1 のような最も短い桁数の10進数の値を選ぶようになりました。 この動作は2進数の浮動小数点にとってはごく自然なものです。これは Python のバグではありませんし、あなたのコードのバグでもありません。ハードウェアの浮動小...比較に使うこともできます: >>> round ( math . pi , ndigits = 2 ) == round ( 22 / 7 , ndigits = 2 ) True このように2進数の浮動小数点の演算には多くの驚きがあります。「0.1」の問題について詳しい説明は、「表現エラー」セクションで行います。2進数の浮動小数点の仕... - https://man.mtool.work/python/3.14/tutorial/floatingpoint.html
- 組み込み型 — Python 3.14.8 ドキュメント 8849
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python built-ins reference » 組み込み型 テーマ 自動 ライト ダーク | 組み込み型 ¶ 以下のセクションでは、インタプリタに組み込まれている標準型について記述します。 主
...__contains__() を実装した型でサポートされています。 数値型 int , float , complex ¶ 数値型には 3 種類あります: 整数 、 浮動小数点数 、 複素数 です。さらに、ブール型は整数のサブタイプです。整数には精度の制限がありません。浮動小数点型はたいていは C の dou...ble を使って実装されています; あなたのプログラムが動作するマシンでの浮動小数点型の精度と内部表現は、 sys.float_info から入手可能です。複素数は実部と虚部を持ち、それぞれが浮動小数点数です。複素数 z から実...を使ってください。 (標準ライブラリには、さらに分数のための数値型 fractions.Fraction や、ユーザによる精度の定義が可能な浮動小数点数のための decimal.Decimal があります。) 数値は、数値リテラルによって、あるいは組み込み関数や演算子の戻り値として生成されます... - https://man.mtool.work/python/3.14/builtins/stdtypes.html
- 組み込み型 — Python 3.14.8 ドキュメント 8707
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python built-ins reference » 組み込み型 テーマ 自動 ライト ダーク | 組み込み型 ¶ 以下のセクションでは、インタプリタに組み込まれている標準型について記述します。 主
...__contains__() を実装した型でサポートされています。 数値型 int , float , complex ¶ 数値型には 3 種類あります: 整数 、 浮動小数点数 、 複素数 です。さらに、ブール型は整数のサブタイプです。整数には精度の制限がありません。浮動小数点型はたいていは C の dou...ble を使って実装されています; あなたのプログラムが動作するマシンでの浮動小数点型の精度と内部表現は、 sys.float_info から入手可能です。複素数は実部と虚部を持ち、それぞれが浮動小数点数です。複素数 z から実...を使ってください。 (標準ライブラリには、さらに分数のための数値型 fractions.Fraction や、ユーザによる精度の定義が可能な浮動小数点数のための decimal.Decimal があります。) 数値は、数値リテラルによって、あるいは組み込み関数や演算子の戻り値として生成されます... - https://man.mtool.work/python/3.14/builtins/stdtypes.html
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 8600
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数点
...." -- excerpt from the decimal arithmetic specification. 十進数を正確に表現できます。 1.1 や 2.2 のような数は、二進数の浮動小数点型では正しく表現できません。エンドユーザは普通、 二進数における 1.1 + 2.2 の近似値が 3.3000000000000003 だからといって、その...ように表示してほしいとは考えないものです。 値の正確さは算術にも及びます。十進の浮動小数点による計算では、 0.1 + 0.1 + 0.1 - 0.3 は厳密にゼロに等しくなります。 二進浮動小数点では 5.5511151231257827e-017 になってしま...子すべての桁数を使います。例えば、 1.3 * 1.2 は 1.56 になり、 1.30 * 1.20 は 1.5600 になります。 ハードウェアによる 2 進浮動小数点表現と違い、 decimal モジュールでは計算精度をユーザが変更できます(デフォルトでは 28 桁です)。この桁数はほとんどの問題解決に十... - https://man.mtool.work/python/3.14/library/decimal.html
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 8600
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数点
...." -- excerpt from the decimal arithmetic specification. 十進数を正確に表現できます。 1.1 や 2.2 のような数は、二進数の浮動小数点型では正しく表現できません。エンドユーザは普通、 二進数における 1.1 + 2.2 の近似値が 3.3000000000000003 だからといって、その...ように表示してほしいとは考えないものです。 値の正確さは算術にも及びます。十進の浮動小数点による計算では、 0.1 + 0.1 + 0.1 - 0.3 は厳密にゼロに等しくなります。 二進浮動小数点では 5.5511151231257827e-017 になってしま...子すべての桁数を使います。例えば、 1.3 * 1.2 は 1.56 になり、 1.30 * 1.20 は 1.5600 になります。 ハードウェアによる 2 進浮動小数点表現と違い、 decimal モジュールでは計算精度をユーザが変更できます(デフォルトでは 28 桁です)。この桁数はほとんどの問題解決に十... - https://man.mtool.work/python/3.14/library/decimal.html
- math --- 数学関数 — Python 3.14.8 ドキュメント 8518
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » math --- 数学関数 テーマ 自動 ライト ダーク | math --- 数学関数 ¶ This module provides access to common math
...されたかに早い段階で気づく事ができます。 このモジュールでは次の関数を提供しています。明示的な注記のない限り、戻り値は全て浮動小数点数になります。 Number-theoretic functions comb(n, k) Number of ways to choose k items from n items without repetition and wi...ded in version 3.8. Floating point arithmetic ¶ math. ceil ( x ) ¶ x の「天井」 ( x 以上の最小の整数) を返します。 x が浮動小数点数でなければ、内部的に x.__ceil__ が実行され、 Integral 値が返されます。 math. fabs ( x ) ¶ x の絶対値を返します。 math. flo...or ( x ) ¶ x の「床」 ( x 以下の最大の整数) を返します。 x が浮動小数点数でなければ、内部的に x.__floor__ が実行され、 Integral 値が返されます。 math. fma ( x , y , z ) ¶ Fused multiply-add opera... - https://man.mtool.work/python/3.14/library/math.html
- math --- 数学関数 — Python 3.14.8 ドキュメント 8411
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » math --- 数学関数 テーマ 自動 ライト ダーク | math --- 数学関数 ¶ This module provides access to common math
...されたかに早い段階で気づく事ができます。 このモジュールでは次の関数を提供しています。明示的な注記のない限り、戻り値は全て浮動小数点数になります。 Number-theoretic functions comb(n, k) Number of ways to choose k items from n items without repetition and wi...ded in version 3.8. Floating point arithmetic ¶ math. ceil ( x ) ¶ x の「天井」 ( x 以上の最小の整数) を返します。 x が浮動小数点数でなければ、内部的に x.__ceil__ が実行され、 Integral 値が返されます。 math. fabs ( x ) ¶ x の絶対値を返します。 math. flo...or ( x ) ¶ x の「床」 ( x 以下の最大の整数) を返します。 x が浮動小数点数でなければ、内部的に x.__floor__ が実行され、 Integral 値が返されます。 math. fma ( x , y , z ) ¶ Fused multiply-add opera... - https://man.mtool.work/python/3.14/library/math.html
- 索引 — Python 3.14.8 ドキュメント 8115
- ナビゲーション 索引 モジュール | Python » 3.14.8 Documentation » 索引 テーマ 自動 ライト ダーク | Index – 浮 浮動小数点 number object , [1] , [2] リテラル 浮動小数点数 組み込み関数 , [1] , [2] 関連キーワード 浮動 Index 小数点 number object
...リテラル 小数 点数 組み込み « ナビゲーション 索引 モジュール | Python » 3.14.8 Documentation » 索引 テーマ 自動 ライト ダーク | © Copyrigh... - https://man.mtool.work/python/3.14/genindex-浮.html
- 索引 — Python 3.14.8 ドキュメント 8115
- ナビゲーション 索引 モジュール | Python » 3.14.8 Documentation » 索引 テーマ 自動 ライト ダーク | Index – 浮 浮動小数点 number object , [1] , [2] リテラル 浮動小数点数 組み込み関数 , [1] , [2] 関連キーワード 浮動 Index 小数点 number リテラル
...小数 点数 組み込み « ナビゲーション 索引 モジュール | Python » 3.14.8 Documentation » 索引 テーマ 自動 ライト ダーク | © Copyrigh... - https://man.mtool.work/python/3.14/genindex-浮.html