Rangos de cálculo, cantidad de dígitos y precisión, Rango del cálculo y precisión, S-14 – Casio fx-55 PLUS Manual del usuario
Página 15: F=5, 5 6, F=3, 6 7

S-14
l=
F=3,
25
30
Factor
l=
F=5,
5
6
l=
5
6
Cuando no es posible una simplificación mayor, aparece “Simplified”
momentáneamente en el display y luego se muestra el resultado del
cálculo.
Cuando se especifica un divisor de 3:
18
21
=
6
7
18
' 21 =l 3 =
F=3,
6
7
o 18
' 21 el 3 =
F=3,
6
7
Rangos de cálculo, cantidad de
dígitos y precisión
El rango del cálculo, la cantidad de dígitos usados internamente para el
cálculo y la precisión del cálculo dependen del tipo de cálculo que realice.
Rango del cálculo y precisión
Rangos de cálculo
±1 × 10
–99
a
±9,999999999 × 10
99
o 0
Cantidad de dígitos usados
internamente en el cálculo
15 dígitos
Precisión
En general, ± 1 en el 10mo dígito para
un cálculo individual. La precisión con
visualización exponencial es ± 1 sobre
el dígito menos significativo. En el caso
de cálculos consecutivos los errores se
propagan acumulativamente.
Rangos de entrada de cálculo de funciones y precisión
Funciones
Rango de entrada
10
x
–9,999999999
× 10
99
x
99,99999999
'
x
0
x
1 × 10
100
x
2
|
x
| 1 × 10
50
x
–1
|
x
| 1 × 10
100
;
x
G 0
°’ ”
|
a
|,
b
,
c
1 × 10
100
; 0
b
,
c
El segundo valor mostrado está sujeto a un error de ±1
en la segunda posición decimal.