Results of 1 - 10 of about 64 for precision (0.007 sec.)
- Floating-Point Objects — Python 3.14.8 ドキュメント 13037
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python/C API reference manual » 具象オブジェクト (concrete object) レイヤ » Floating-Point Objects テーマ 自動 ライト ダーク | Floating-Point Objects ¶ type PyFl
...cro is soft deprecated . Py_MATH_E ¶ The definition (accurate for a double type) of the math.e constant. Py_MATH_El ¶ High precision (long double) definition of e constant. Py_MATH_PI ¶ The definition (accurate for a double type) of the math.pi constant....Py_MATH_PIl ¶ High precision (long double) definition of pi constant. Py_MATH_TAU ¶ The definition (accurate for a double type) of the math.tau constan...ats these functions work by copying bits. On other platforms, the 2-byte format is identical to the IEEE 754 binary16 half-precision format, the 4-byte format (32-bit) is identical to the IEEE 754 binary32 single precision format, and the 8-byte format to... - https://man.mtool.work/python/3.14/c-api/float.html
- Floating-Point Objects — Python 3.14.8 ドキュメント 13037
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » Python/C API reference manual » 具象オブジェクト (concrete object) レイヤ » Floating-Point Objects テーマ 自動 ライト ダーク | Floating-Point Objects ¶ type PyFl
...cro is soft deprecated . Py_MATH_E ¶ The definition (accurate for a double type) of the math.e constant. Py_MATH_El ¶ High precision (long double) definition of e constant. Py_MATH_PI ¶ The definition (accurate for a double type) of the math.pi constant....Py_MATH_PIl ¶ High precision (long double) definition of pi constant. Py_MATH_TAU ¶ The definition (accurate for a double type) of the math.tau constan...ats these functions work by copying bits. On other platforms, the 2-byte format is identical to the IEEE 754 binary16 half-precision format, the 4-byte format (32-bit) is identical to the IEEE 754 binary32 single precision format, and the 8-byte format to... - https://man.mtool.work/python/3.14/c-api/float.html
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 10194
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数
...apitals=1, clamp=0, flags=[], traps=[Overflow, DivisionByZero, InvalidOperation]) >>> getcontext () . prec = 7 # Set a new precision Decimal インスタンスは、整数、文字列、浮動小数点数、またはタプルから構成できます。整数や浮動小数点数からの構成は、整数や浮...oint value is losslessly converted to its exact decimal equivalent. This conversion can often require 53 or more digits of precision. For example, Decimal(float('1.1')) converts to Decimal('1.100000000000000088817841970012523233890533447265625') . context...の精度 (precision) は、記憶される桁数には影響しません。桁数は value に指定した桁数だけから決定されます。例えば、演算コンテキストに指定された... - https://man.mtool.work/python/3.14/library/decimal.html
- decimal --- 10進固定小数点と浮動小数点の演算 — Python 3.14.8 ドキュメント 10194
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » decimal --- 10進固定小数点と浮動小数点の演算 テーマ 自動 ライト ダーク | decimal --- 10進固定小数点と浮動小数
...apitals=1, clamp=0, flags=[], traps=[Overflow, DivisionByZero, InvalidOperation]) >>> getcontext () . prec = 7 # Set a new precision Decimal インスタンスは、整数、文字列、浮動小数点数、またはタプルから構成できます。整数や浮動小数点数からの構成は、整数や浮...oint value is losslessly converted to its exact decimal equivalent. This conversion can often require 53 or more digits of precision. For example, Decimal(float('1.1')) converts to Decimal('1.100000000000000088817841970012523233890533447265625') . context...の精度 (precision) は、記憶される桁数には影響しません。桁数は value に指定した桁数だけから決定されます。例えば、演算コンテキストに指定された... - https://man.mtool.work/python/3.14/library/decimal.html
- string --- 一般的な文字列操作 — Python 3.14.8 ドキュメント 10094
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » テキスト処理サービス » string --- 一般的な文字列操作 テーマ 自動 ライト ダーク | string --- 一般的な文字列操作 ¶ Source code: Lib/s
...の結果を変更します。 一般的な書式指定子 ( standard format specifier ) の書式は以下です: format_spec : [ options ][ width_and_precision ][ type ] options : [[ fill ] align ][ sign ][ "z" ][ "#" ][ "0" ] fill : <any character> align : "<" | ">" | "=" | "^" si...gn : "+" | "-" | " " width_and_precision : [ width_with_grouping ][ precision_with_grouping ] width_with_grouping : [ width ][ grouping ] precision_with_grouping :..."." [ precision ][ grouping ] | "." grouping width : digit + precision : digit + grouping : "," | "_" type : "b" | "c" | "d" | "e" | "E" |... - https://man.mtool.work/python/3.14/library/string.html
- string --- 一般的な文字列操作 — Python 3.14.8 ドキュメント 10094
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » テキスト処理サービス » string --- 一般的な文字列操作 テーマ 自動 ライト ダーク | string --- 一般的な文字列操作 ¶ Source code: Lib/s
...の結果を変更します。 一般的な書式指定子 ( standard format specifier ) の書式は以下です: format_spec : [ options ][ width_and_precision ][ type ] options : [[ fill ] align ][ sign ][ "z" ][ "#" ][ "0" ] fill : <any character> align : "<" | ">" | "=" | "^" si...gn : "+" | "-" | " " width_and_precision : [ width_with_grouping ][ precision_with_grouping ] width_with_grouping : [ width ][ grouping ] precision_with_grouping :..."." [ precision ][ grouping ] | "." grouping width : digit + precision : digit + grouping : "," | "_" type : "b" | "c" | "d" | "e" | "E" |... - https://man.mtool.work/python/3.14/library/string.html
- math --- 数学関数 — Python 3.14.8 ドキュメント 8399
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » math --- 数学関数 テーマ 自動 ライト ダーク | math --- 数学関数 ¶ This module provides access to common math
...が返されます。 math. fma ( x , y , z ) ¶ Fused multiply-add operation. Return (x * y) + z , computed as though with infinite precision and range followed by a single round to the float format. This operation often provides better accuracy than the direct ex...y may not return the same result. The intent of the C standard is that fmod(x, y) be exactly (mathematically; to infinite precision) equal to x - n*y for some integer n such that the result has the same sign as x and magnitude less than abs(y) . Python's...is the base of natural logarithms. For small floats x , the subtraction in exp(x) - 1 can result in a significant loss of precision ; the expm1() function provides a way to compute this quantity to full precision: >>> from math import exp , expm1 >>> exp... - https://man.mtool.work/python/3.14/library/math.html
- math --- 数学関数 — Python 3.14.8 ドキュメント 8399
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 数値と数学モジュール » math --- 数学関数 テーマ 自動 ライト ダーク | math --- 数学関数 ¶ This module provides access to common math
...が返されます。 math. fma ( x , y , z ) ¶ Fused multiply-add operation. Return (x * y) + z , computed as though with infinite precision and range followed by a single round to the float format. This operation often provides better accuracy than the direct ex...y may not return the same result. The intent of the C standard is that fmod(x, y) be exactly (mathematically; to infinite precision) equal to x - n*y for some integer n such that the result has the same sign as x and magnitude less than abs(y) . Python's...is the base of natural logarithms. For small floats x , the subtraction in exp(x) - 1 can result in a significant loss of precision ; the expm1() function provides a way to compute this quantity to full precision: >>> from math import exp , expm1 >>> exp... - https://man.mtool.work/python/3.14/library/math.html
- time --- 時刻データへのアクセスと変換 — Python 3.14.8 ドキュメント 7825
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » The Python standard library » 汎用オペレーティングシステムサービス » time --- 時刻データへのアクセスと変換 テーマ 自動 ライト ダーク | time --- 時刻データへのアク
...返します。 clk_id として受け付けられる値の一覧は Clock ID Constants を参照してください。 Use clock_gettime_ns() to avoid the precision loss caused by the float type. Availability : Unix. Added in version 3.3. time. clock_gettime_ns ( clk_id , / ) → int ¶ cl...クロックの時刻を設定します。 現在、 CLOCK_REALTIME は clk_id が受け付ける唯一の値です。 Use clock_settime_ns() to avoid the precision loss caused by the float type. Availability : Unix, not Android, not iOS. Added in version 3.3. time. clock_settime_ns ( c...lock_gettime(CLOCK_HIGHRES) if available. Otherwise, call clock_gettime(CLOCK_MONOTONIC) . Use monotonic_ns() to avoid the precision loss caused by the float type. Added in version 3.3. バージョン 3.5 で変更: The function is now always available and the c... - https://man.mtool.work/python/3.14/library/time.html
- What's New in Python 2.4 — Python 3.14.8 ドキュメント 7825
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.14.8 Documentation » What's New in Python » What's New in Python 2.4 テーマ 自動 ライト ダーク | What's New in Python 2.4 ¶ 著者 : A.M. Kuchling この文書は 2005 年 3 月 30 日にリリー
...ertain decimal fractions accurately. The new Decimal type can represent these fractions accurately, up to a user-specified precision limit. なぜ Decimal が必要なのか? ¶ 浮動小数点数が使う表現方法に起因する制約があります。浮動小数点数は 3 つの構成要素から成...IEEE 754 number, which uses 52 bits of space for the mantissa. This means that numbers can only be specified to 52 bits of precision. If you're trying to represent numbers whose expansion repeats endlessly, the expansion is cut off after 52 bits. Unfortun...and Context . Decimal instances represent numbers, and Context instances are used to wrap up various settings such as the precision and default rounding mode. Decimal instances are immutable, like regular Python integers and FP numbers; once it's been cr... - https://man.mtool.work/python/3.14/whatsnew/2.4.html