Rangos de cálculo, número de dígitos y precisión, Rango y precisión de cálculo – HP Calculadora científica HP 300s Manual del usuario
Página 92

85
Cuando el cálculo que se está realizando excede la
capacidad de cualquiera de las pilas, se genera un error de
apilamiento (“Stack ERROR”).
Rangos de cálculo, número de dígitos y
precisión
El rango de cálculo, el número de dígitos usados para los
cálculos internos, y la precisión de cálculo dependen del tipo
de cálculo que se esté realizando.
Rango y precisión de cálculo
Rango de cálculo
±1
✕10
-99
a ±9.9999999
✕10
-99
o 0
Número de dígitos para
cálculo interno
15 dígitos
Precisión
En general, ±1 en el décimo dígito para
un único cálculo. La precisión para la
visualización exponencial es ±1 en el
dígito menos significativo. Los errores
con acumulativos en el caso de cálculos
consecutivos.
(1)
2
(2)
3
(3)
4
(4)
5
(5) 4
⋮
(1)
✕
(2)
(
(3)
(
(4)
+
(5)
✕
(6)
(
(7)
+
⋮
Pila numérica
Pila de comandos
Juniper.book Page 85 Friday, August 24, 2012 2:04 AM