Results of 1 - 10 of about 149 for 小数 (0.010 sec.)
- 15. 浮動小数点演算、その問題と制限 — Python 3.14.8 ドキュメント 12743
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python チュートリアル » 15. 浮動小数点演算、その問題と制限 テーマ 自動 ライト ダーク | 15. 浮動小数点演算、その問題と制限 ¶ 浮動小数点数はコンピューターのハードウ
...、唯一異なる点は1つ目が10進数の分数で書かれており、2つ目は2進数の分数で書かれているということです。 残念なことに、ほとんどの小数は 2 進法の分数として正確に表わすことができません。その結果、一般に、入力した 10 進の浮動小数点数は、 2 進法の浮動小数点数で...かし、少しづつ正確な近似にはなっていくでしょう。 同様に、基数を 2 とした表現で何桁使おうとも、10 進数の 0.1 は基数を 2 とした小数で正確に表現することはできません。基数 2 では、1/10 は循環小数 (repeating fraction) となります 0.000110011001100110011001100...になります。近年の殆どのコンピュータでは float 型は、最上位ビットから数えて最初の 53 ビットを分子、2 の冪乗を分母とした、二進小数で近似されます。1/10 の場合は、二進小数は 3602879701896397 / 2 ** 55 となります。これは、1/10 に近いですが、厳密に同じ値では... - https://man.mtool.work/python/3.14/tutorial/floatingpoint.html
- 15. 浮動小数点演算、その問題と制限 — Python 3.14.8 ドキュメント 12743
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python チュートリアル » 15. 浮動小数点演算、その問題と制限 テーマ 自動 ライト ダーク | 15. 浮動小数点演算、その問題と制限 ¶ 浮動小数点数はコンピューターのハードウ
...、唯一異なる点は1つ目が10進数の分数で書かれており、2つ目は2進数の分数で書かれているということです。 残念なことに、ほとんどの小数は 2 進法の分数として正確に表わすことができません。その結果、一般に、入力した 10 進の浮動小数点数は、 2 進法の浮動小数点数で...かし、少しづつ正確な近似にはなっていくでしょう。 同様に、基数を 2 とした表現で何桁使おうとも、10 進数の 0.1 は基数を 2 とした小数で正確に表現することはできません。基数 2 では、1/10 は循環小数 (repeating fraction) となります 0.000110011001100110011001100...になります。近年の殆どのコンピュータでは float 型は、最上位ビットから数えて最初の 53 ビットを分子、2 の冪乗を分母とした、二進小数で近似されます。1/10 の場合は、二進小数は 3602879701896397 / 2 ** 55 となります。これは、1/10 に近いですが、厳密に同じ値では... - https://man.mtool.work/python/3.14/tutorial/floatingpoint.html
- math --- 数学関数 — Python 3.14.8 ドキュメント 8620
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » math --- 数学関数 テーマ 自動 ライト ダーク | math --- 数学関数 ¶ This module provides access to common math
...されたかに早い段階で気づく事ができます。 このモジュールでは次の関数を提供しています。明示的な注記のない限り、戻り値は全て浮動小数点数になります。 Number-theoretic functions comb(n, k) Number of ways to choose k items from n items without repetition and...ded in version 3.8. Floating point arithmetic ¶ math. ceil ( x ) ¶ x の「天井」 ( x 以上の最小の整数) を返します。 x が浮動小数点数でなければ、内部的に x.__ceil__ が実行され、 Integral 値が返されます。 math. fabs ( x ) ¶ x の絶対値を返します。 math. f...loor ( x ) ¶ x の「床」 ( x 以下の最大の整数) を返します。 x が浮動小数点数でなければ、内部的に x.__floor__ が実行され、 Integral 値が返されます。 math. fma ( x , y , z ) ¶ Fused multiply-add ope... - https://man.mtool.work/python/3.14/library/math.html
- 組み込み型 — Python 3.14.8 ドキュメント 8421
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python built-ins reference » 組み込み型 テーマ 自動 ライト ダーク | 組み込み型 ¶ 以下のセクションでは、インタプリタに組み込まれている標準型について記述します。 主
...__contains__() を実装した型でサポートされています。 数値型 int , float , complex ¶ 数値型には 3 種類あります: 整数 、 浮動小数点数 、 複素数 です。さらに、ブール型は整数のサブタイプです。整数には精度の制限がありません。浮動小数点型はたいていは C の d...ouble を使って実装されています; あなたのプログラムが動作するマシンでの浮動小数点型の精度と内部表現は、 sys.float_info から入手可能です。複素数は実部と虚部を持ち、それぞれが浮動小数点数です。複素数 z から...を使ってください。 (標準ライブラリには、さらに分数のための数値型 fractions.Fraction や、ユーザによる精度の定義が可能な浮動小数点数のための decimal.Decimal があります。) 数値は、数値リテラルによって、あるいは組み込み関数や演算子の戻り値として生成されま... - https://man.mtool.work/python/3.14/builtins/stdtypes.html
- math --- 数学関数 — Python 3.14.8 ドキュメント 8421
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » math --- 数学関数 テーマ 自動 ライト ダーク | math --- 数学関数 ¶ This module provides access to common math
...されたかに早い段階で気づく事ができます。 このモジュールでは次の関数を提供しています。明示的な注記のない限り、戻り値は全て浮動小数点数になります。 Number-theoretic functions comb(n, k) Number of ways to choose k items from n items without repetition and...ded in version 3.8. Floating point arithmetic ¶ math. ceil ( x ) ¶ x の「天井」 ( x 以上の最小の整数) を返します。 x が浮動小数点数でなければ、内部的に x.__ceil__ が実行され、 Integral 値が返されます。 math. fabs ( x ) ¶ x の絶対値を返します。 math. f...loor ( x ) ¶ x の「床」 ( x 以下の最大の整数) を返します。 x が浮動小数点数でなければ、内部的に x.__floor__ が実行され、 Integral 値が返されます。 math. fma ( x , y , z ) ¶ Fused multiply-add ope... - https://man.mtool.work/python/3.14/library/math.html
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 8292
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数
...." -- excerpt from the decimal arithmetic specification. 十進数を正確に表現できます。 1.1 や 2.2 のような数は、二進数の浮動小数点型では正しく表現できません。エンドユーザは普通、 二進数における 1.1 + 2.2 の近似値が 3.3000000000000003 だからといって、そ...のように表示してほしいとは考えないものです。 値の正確さは算術にも及びます。十進の浮動小数点による計算では、 0.1 + 0.1 + 0.1 - 0.3 は厳密にゼロに等しくなります。 二進浮動小数点では 5.5511151231257827e-017 になってし...子すべての桁数を使います。例えば、 1.3 * 1.2 は 1.56 になり、 1.30 * 1.20 は 1.5600 になります。 ハードウェアによる 2 進浮動小数点表現と違い、 decimal モジュールでは計算精度をユーザが変更できます(デフォルトでは 28 桁です)。この桁数はほとんどの問題解決に... - https://man.mtool.work/python/3.14/library/decimal.html
- 組み込み型 — Python 3.14.8 ドキュメント 8292
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python built-ins reference » 組み込み型 テーマ 自動 ライト ダーク | 組み込み型 ¶ 以下のセクションでは、インタプリタに組み込まれている標準型について記述します。 主
...__contains__() を実装した型でサポートされています。 数値型 int , float , complex ¶ 数値型には 3 種類あります: 整数 、 浮動小数点数 、 複素数 です。さらに、ブール型は整数のサブタイプです。整数には精度の制限がありません。浮動小数点型はたいていは C の d...ouble を使って実装されています; あなたのプログラムが動作するマシンでの浮動小数点型の精度と内部表現は、 sys.float_info から入手可能です。複素数は実部と虚部を持ち、それぞれが浮動小数点数です。複素数 z から...を使ってください。 (標準ライブラリには、さらに分数のための数値型 fractions.Fraction や、ユーザによる精度の定義が可能な浮動小数点数のための decimal.Decimal があります。) 数値は、数値リテラルによって、あるいは組み込み関数や演算子の戻り値として生成されま... - https://man.mtool.work/python/3.14/builtins/stdtypes.html
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 8292
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数
...." -- excerpt from the decimal arithmetic specification. 十進数を正確に表現できます。 1.1 や 2.2 のような数は、二進数の浮動小数点型では正しく表現できません。エンドユーザは普通、 二進数における 1.1 + 2.2 の近似値が 3.3000000000000003 だからといって、そ...のように表示してほしいとは考えないものです。 値の正確さは算術にも及びます。十進の浮動小数点による計算では、 0.1 + 0.1 + 0.1 - 0.3 は厳密にゼロに等しくなります。 二進浮動小数点では 5.5511151231257827e-017 になってし...子すべての桁数を使います。例えば、 1.3 * 1.2 は 1.56 になり、 1.30 * 1.20 は 1.5600 になります。 ハードウェアによる 2 進浮動小数点表現と違い、 decimal モジュールでは計算精度をユーザが変更できます(デフォルトでは 28 桁です)。この桁数はほとんどの問題解決に... - https://man.mtool.work/python/3.14/library/decimal.html
- 索引 — Python 3.14.8 ドキュメント 8163
- ナビゲーション 索引 モジュール | Python » 3.14.8 Documentation » 索引 テーマ 自動 ライト ダーク | Index – 浮 浮動小数点 number object , [1] , [2] リテラル 浮動小数点数 組み込み関数 , [1] , [2] 関連キーワード 浮動 Index 小数点 number object
...リテラル 小数 点数 組み込み « ナビゲーション 索引 モジュール | Python » 3.14.8 Documentation » 索引 テーマ 自動 ライト ダーク | © Copyri... - https://man.mtool.work/python/3.14/genindex-浮.html
- 索引 — Python 3.14.8 ドキュメント 8163
- ナビゲーション 索引 モジュール | Python » 3.14.8 Documentation » 索引 テーマ 自動 ライト ダーク | Index – 浮 浮動小数点 number object , [1] , [2] リテラル 浮動小数点数 組み込み関数 , [1] , [2] 関連キーワード 浮動 Index 小数点 number リテラル
...小数 点数 組み込み « ナビゲーション 索引 モジュール | Python » 3.14.8 Documentation » 索引 テーマ 自動 ライト ダーク | © Copyri... - https://man.mtool.work/python/3.14/genindex-浮.html