Rangos de cálculo, cantidad de dígitos y precisión, Rango del cálculo y precisión, S-33 – Casio FX-300MS Manual del usuario
Página 34

S-33
19: km/h
' m/s
20: m/s
' km/h
21: oz
' g
22: g
' oz
23: lb
' kg
24: kg
' lb
25: atm
' Pa
26: Pa
' atm
27: mmHg
' Pa
28: Pa
' mmHg
29: hp
' kW
30: kW
' hp
31: kgf/cm
2
' Pa
32: Pa
' kgf/cm
2
33: kgf
•
m
' J
34: J
' kgf
•
m
35: lbf/in
2
' kPa
36: kPa
' lbf/in
2
37: °F
' °C
38: °C
' °F
39: J
' cal
40: cal
' J
Los datos de fórmulas de conversión se basan en el documento “NIST
Special Publication 811 (2008)”.
Nota: El comando J
'cal realiza conversión de valores a 15°C de
temperatura.
Rangos de cálculo, cantidad de
dígitos y precisión
Rango del cálculo y precisión
Rangos de cálculo
±1 × 10
–99
a
±9,999999999 × 10
99
o 0
Cantidad de dígitos
usados internamente
en el cálculo
15 dígitos
Precisión
En general,
±1 en el 10.° dígito para
un cálculo individual. La precisión con
visualización exponencial es
±1 sobre
el dígito menos significativo. En el caso
de cálculos consecutivos los errores se
propagan acumulativamente.
Rangos de entrada de cálculo de funciones y
precisión
Funciones
Rango de entrada
sen
x
cos
x
DEG
0
|
x
| 9 × 10
9
RAD
0
|
x
| 157079632,7
GRA
0
|
x
| 1 × 10
10
tan
x
DEG
El mismo que sen
x
, excepto cuando
x
=
(2
n
−1)
90.
RAD
El mismo que sen
x
, excepto cuando
x
=
(2
n
−1)
π/2.
GRA
El mismo que sen
x
, excepto cuando
x
=
(2
n
−1)
100.