Results of 1 - 10 of about 58 for 精度 (0.012 sec.)
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 12119
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数
...は 1.56 になり、 1.30 * 1.20 は 1.5600 になります。 ハードウェアによる 2 進浮動小数点表現と違い、 decimal モジュールでは計算精度をユーザが変更できます(デフォルトでは 28 桁です)。この桁数はほとんどの問題解決に十分な大きさです: >>> from decimal import *...ty , -Infinity , および NaN といった特殊な値も定義されています。標準仕様では -0 と +0 も区別します。 算術コンテキストとは、精度や値丸めの規則、指数部の制限を決めている環境です。この環境では、演算結果を表すためのフラグや、演算上発生した特定のシグナルを...utorial ¶ 普通、 decimal を使うときには、モジュールをインポートし、現在の演算コンテキストを getcontext() で調べ、必要なら、精度、丸め、有効なトラップを設定します: >>> from decimal import * >>> getcontext () Context(prec=28, rounding=ROUND_HALF_EVEN, E... - https://man.mtool.work/python/3.14/library/decimal.html
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 11870
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数
...は 1.56 になり、 1.30 * 1.20 は 1.5600 になります。 ハードウェアによる 2 進浮動小数点表現と違い、 decimal モジュールでは計算精度をユーザが変更できます(デフォルトでは 28 桁です)。この桁数はほとんどの問題解決に十分な大きさです: >>> from decimal import *...ty , -Infinity , および NaN といった特殊な値も定義されています。標準仕様では -0 と +0 も区別します。 算術コンテキストとは、精度や値丸めの規則、指数部の制限を決めている環境です。この環境では、演算結果を表すためのフラグや、演算上発生した特定のシグナルを...utorial ¶ 普通、 decimal を使うときには、モジュールをインポートし、現在の演算コンテキストを getcontext() で調べ、必要なら、精度、丸め、有効なトラップを設定します: >>> from decimal import * >>> getcontext () Context(prec=28, rounding=ROUND_HALF_EVEN, E... - https://man.mtool.work/python/3.14/library/decimal.html
- 15. 浮動小数点演算、その問題と制限 — Python 3.14.8 ドキュメント 11094
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python チュートリアル » 15. 浮動小数点演算、その問題と制限 テーマ 自動 ライト ダーク | 15. 浮動小数点演算、その問題と制限 ¶ 浮動小数点数はコンピューターのハードウ
...確な10進数表現が必要となるような場合には、 decimal モジュールを利用してみてください。このモジュールは会計アプリケーションや高精度の計算が求められるアプリケーションに適した、10進数の計算を実装しています。 別の正確な計算方法として、 fractions モジュールが...サポートした言語 (Java や C99 など) と正確にやり取りするのに利用することができます。 別の便利なツールとして、合計処理における精度のロスを緩和してくれる sum() 関数があります。これは累計加算中の丸めに拡張精度を使います。これにより、誤差が最終的な合計値に影...ンは IEEE 754 2進数の浮動小数点演算を用いており、ほぼすべてのプラットフォームでは Python の浮動小数点を IEEE 754 binary64 "倍精度 (double precision)" 値に対応付けます。 IEEE 754 binary64 値は 53 ビットの精度を持つため、計算機に入力を行おうとすると、可能... - https://man.mtool.work/python/3.14/tutorial/floatingpoint.html
- 15. 浮動小数点演算、その問題と制限 — Python 3.14.8 ドキュメント 11094
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python チュートリアル » 15. 浮動小数点演算、その問題と制限 テーマ 自動 ライト ダーク | 15. 浮動小数点演算、その問題と制限 ¶ 浮動小数点数はコンピューターのハードウ
...確な10進数表現が必要となるような場合には、 decimal モジュールを利用してみてください。このモジュールは会計アプリケーションや高精度の計算が求められるアプリケーションに適した、10進数の計算を実装しています。 別の正確な計算方法として、 fractions モジュールが...サポートした言語 (Java や C99 など) と正確にやり取りするのに利用することができます。 別の便利なツールとして、合計処理における精度のロスを緩和してくれる sum() 関数があります。これは累計加算中の丸めに拡張精度を使います。これにより、誤差が最終的な合計値に影...ンは IEEE 754 2進数の浮動小数点演算を用いており、ほぼすべてのプラットフォームでは Python の浮動小数点を IEEE 754 binary64 "倍精度 (double precision)" 値に対応付けます。 IEEE 754 binary64 値は 53 ビットの精度を持つため、計算機に入力を行おうとすると、可能... - https://man.mtool.work/python/3.14/tutorial/floatingpoint.html
- 組み込み型 — Python 3.14.8 ドキュメント 9689
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python built-ins reference » 組み込み型 テーマ 自動 ライト ダーク | 組み込み型 ¶ 以下のセクションでは、インタプリタに組み込まれている標準型について記述します。 主
...complex ¶ 数値型には 3 種類あります: 整数 、 浮動小数点数 、 複素数 です。さらに、ブール型は整数のサブタイプです。整数には精度の制限がありません。浮動小数点型はたいていは C の double を使って実装されています; あなたのプログラムが動作するマシンでの浮動...小数点型の精度と内部表現は、 sys.float_info から入手可能です。複素数は実部と虚部を持ち、それぞれが浮動小数点数です。複素数 z から実部および...、 z.real および z.imag を使ってください。 (標準ライブラリには、さらに分数のための数値型 fractions.Fraction や、ユーザによる精度の定義が可能な浮動小数点数のための decimal.Decimal があります。) 数値は、数値リテラルによって、あるいは組み込み関数や演算子の... - https://man.mtool.work/python/3.14/builtins/stdtypes.html
- 数値と数学モジュール — Python 3.14.8 ドキュメント 9045
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール テーマ 自動 ライト ダーク | 数値と数学モジュール ¶ この章で記述されているモジュールは、数値に関するあるいは数学
...義します。 math と cmath モジュールは、浮動小数点数と複素数のための様々な数学関数を含んでいます。 decimal モジュールは、任意精度の計算を使用して、10進数の正確な表現をサポートします。 この章では以下のモジュールが記述されています: numbers --- 数の抽象基底...の演算 Quick-start tutorial Decimal オブジェクト 論理引数 Context オブジェクト 定数 丸めモード シグナル Floating-point notes 精度を上げて丸め誤差を抑制する 特殊値 スレッドを使った処理 レシピ Decimal FAQ fractions --- 有理数 random --- 疑似乱数を生成する...ード 数学 モジュール 数値 functions Floating point 定数 オブジェクト レシピ 記述 関係 numbers math cmath 浮動 複素数 decimal 精度 演算 変換 前のトピックへ graphlib --- グラフ構造を操作する機能 次のトピックへ numbers --- 数の抽象基底クラス This page Rep... - https://man.mtool.work/python/3.14/library/numeric.html
- 数値と数学モジュール — Python 3.14.8 ドキュメント 9045
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール テーマ 自動 ライト ダーク | 数値と数学モジュール ¶ この章で記述されているモジュールは、数値に関するあるいは数学
...義します。 math と cmath モジュールは、浮動小数点数と複素数のための様々な数学関数を含んでいます。 decimal モジュールは、任意精度の計算を使用して、10進数の正確な表現をサポートします。 この章では以下のモジュールが記述されています: numbers --- 数の抽象基底...の演算 Quick-start tutorial Decimal オブジェクト 論理引数 Context オブジェクト 定数 丸めモード シグナル Floating-point notes 精度を上げて丸め誤差を抑制する 特殊値 スレッドを使った処理 レシピ Decimal FAQ fractions --- 有理数 random --- 疑似乱数を生成する...classifier 関連キーワード 数学 数値 functions Floating point 定数 レシピ 記述 関係 numbers math cmath 浮動 複素数 decimal 精度 演算 三角 双曲線 小数点 Decimal distributions コマンドライン 統計 測度 前のトピックへ graphlib --- グラフ構造を操作する機能... - https://man.mtool.work/python/3.14/library/numeric.html
- 組み込み型 — Python 3.14.8 ドキュメント 8782
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python built-ins reference » 組み込み型 テーマ 自動 ライト ダーク | 組み込み型 ¶ 以下のセクションでは、インタプリタに組み込まれている標準型について記述します。 主
...complex ¶ 数値型には 3 種類あります: 整数 、 浮動小数点数 、 複素数 です。さらに、ブール型は整数のサブタイプです。整数には精度の制限がありません。浮動小数点型はたいていは C の double を使って実装されています; あなたのプログラムが動作するマシンでの浮動...小数点型の精度と内部表現は、 sys.float_info から入手可能です。複素数は実部と虚部を持ち、それぞれが浮動小数点数です。複素数 z から実部および...、 z.real および z.imag を使ってください。 (標準ライブラリには、さらに分数のための数値型 fractions.Fraction や、ユーザによる精度の定義が可能な浮動小数点数のための decimal.Decimal があります。) 数値は、数値リテラルによって、あるいは組み込み関数や演算子の... - https://man.mtool.work/python/3.14/builtins/stdtypes.html
- math --- 数学関数 — Python 3.14.8 ドキュメント 8650
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » math --- 数学関数 テーマ 自動 ライト ダーク | math --- 数学関数 ¶ This module provides access to common math
...非常に大きな浮動小数点数が 全て 整数そのものになるということに注意してください。通常、Python の浮動小数点型は 53 ビット以上の精度をもたない (プラットフォームにおける C double 型と同じ) ので、結果的に abs(x) >= 2**52 であるような浮動小数点型 x は小数部分...( x ) ¶ e = 2.718281... を自然対数の底として、 e の x 乗を返します。 この値は、通常は math.e ** x や pow(math.e, x) よりも精度が高いです。 math. exp2 ( x ) ¶ 2 の x 乗を返します。 Added in version 3.11. math. expm1 ( x ) ¶ Return e raised to the powe...先頭のゼロは無視されます。 math. log10 ( x ) ¶ x の10を底とした対数(常用対数)を返します。この関数は通常、 log(x, 10) よりも高精度です。 math. pow ( x , y ) ¶ Return x raised to the power y . Exceptional cases follow the IEEE 754 standard as far as possi... - https://man.mtool.work/python/3.14/library/math.html
- string --- 一般的な文字列操作 — Python 3.14.8 ドキュメント 8650
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » テキスト処理サービス » string --- 一般的な文字列操作 テーマ 自動 ライト ダーク | string --- 一般的な文字列操作 ¶ Source code: Lib/s
...rgument first "More {!a} " # Calls ascii() on the argument first format_spec フィールドは、フィールド幅、文字揃え、埋め方、精度などの、値を表現する仕様を含みます。それぞれの値の型は、 "formatting mini-language" 、または、 format_spec の実装で定義されま...'F' 固定小数点数表記です。 nan が NAN に、 inf が INF に変換されることを除き 'f' と同じです。 'g' 汎用表記です。与えられた精度 p >= 1 に対して、この表記では数値を有効桁数 p に丸めた上で、数値の大きさに応じて固定小数点表記または科学的表記で表します。...精度 0 は精度 1 と同じものと取り扱われます。 正確なルールは次の通りです: 書式 'e' 型および精度 p-1 桁で数値をフォーマットした結果、指数部... - https://man.mtool.work/python/3.14/library/string.html