Universidade Luterana do Brasil Campus: Canoas

Curso: Engenharia Quimica Disciplina: Mtodos Numricos

Professora: Magda Leyser e-mail: magda.leyser@gmail.com
Panormica da Matemtica Computacional
A cincia computacional, composta por aplicao, algoritmos e arquiteturas e a interdisciplinaridade entre fsica, engenharia,
matemtica da computao e cincia da computao.
Cincia da Computao trata especificamente dos aspectos referentes ao ambiente de execuo do modelo (Computadores), isto
algoritmos, estrutura de dados, arquitetura de computadores, engenharia de software, linguagens
formais,....
Matemtica da Computao:estuda problemas da matemtica clssica que podem ser usados na prtica do processamento de
dados. Um dos assuntos estudados a matemtica computacional a qual estuda algoritmos
numricos implementveis em computadores atravs de computao numrica, simblica e
grfica.
Matemtica Computacional:
Matemtica Numrica: mtodos construtivos de resoluo aproximada (reais, complexos).
Matemtica Intervalar: dados em forma de dados para controlar o erro.
Matemtica Simblica: busca uma soluo analtica exata. Ex: Maple, Macsyma.
Matemtica Grfica: busca representar de forma grfica a soluo dos problemas.
O objetivo geral da cincia computacional a modelagem computacional, a qual toma por base o processo de
modelagem usual, produzir um conjunto de propriedades referentes a um objeto e deve possibilitar concluses a posteriori
sobre relaes e propriedades deste objeto. Visvel no seguinte esquema:
Usualmente a modelagem est sujeito a erros. Na modelagem computacional podem aparecer os seguintes erros:
Erro do modelo matemtico: decorrente da simplificao ou da elaborao de um modelo matemtico.
Erro de truncamento do modelo matemtico: decorrente da substituio de qualquer processo ou frmula infinita por uma
seqncia finita. Exemplo: calcular e por srie 1/i! para i=0, 1 , ....
Problema
Modelo Fsico Matemtico tecnolgico
Modelo matemtico
Modelo Computacional
Resultado
Erro de arredondamento no modelo computacional: decorrente da execuo de programas em mquinas digitais, as quais
dispem de um conjunto de nmeros discreto e finito. Na implementao de modelos matemticos variveis e constantes
reais so associadas a nmeros de mquinas, as quais nem sempre representam exatamente estes nmeros. Deste problema
decorre o erro de arredondamento. Exemplo se na frmula envolve o nmero 1/3, pi,....
UNIDADE 1 - Introduo a Aritmtica de mquina
1.1 Sistema de representao em ponto flutuante
Exemplo: O padro IEC559 IEEE 754 especifica dois formatos bsicos para representao ponto flutuante normalizado
(denominaremos FL). Neste sistema um nmero r representado na forma:
r= t .d
1
d
2
...d
p
* b
e
onde: b = base que a mquina opera
p= quantidade de algarismos da mantissa, denominada de preciso da mquina, e 0 di (b-1) para j=1, 2, ..., p
d1 0 (sistema normalizado)
e o expoente, um nmero inteiro que pertence ao intervalo [i,s], i=menor expoente, s=maior expoente.
Na representao da mquina, a posio do ponto decimal est pr-definida, deixaremos na frente do primeiro
algarismo a contar da esquerda para direita, e flutuar entre os algarismos conforme o expoente e
Notao: FL(b,p,i,s)
Por que exige-se d1 0 (sistema normalizado)? Considere o caso de preciso 6 e representao de ponto flutuante
decimal, considerando a posio do ponto entre os dois primeiros algarismos, o nmero 0.1 poderia ser representado das
seguintes maneiras:. Tomando-se o caso de preciso 6 o nmero 0.1 poderia ser representado das seguintes maneiras:
.1000 00 E 0
.0100 00 E+1
.0010 00 E+2
.0001 00 E+3
.0000 10 E+4
Para no ocorrer ambiguidade na representao determina-se que o primeiro algarismo deve ser diferente de
zero. Contornar-se este problema ao se exigir que d1 seja diferente de zero, denominado sistema normalizado.
No entanto, todos os sistemas trabalham com alguns nmeros denormalizados ( ou subnormal), por exemplo na
representao do zero, e no caso de d1=0 somente quando o expoente assumir o seu limite inferior, da a mantissa pertence ao
intervalo [b
-p
, (b
1
- b
p
)].
Ainda temos as situaes de NaN (not a number) ou as indeterminaes: 0/0, indicam operaes ilegais.
Os nmeros perdidos com a restrio d1 seja diferente de zero, so aqueles que em valor absoluto no podem ser
representados por nmeros normalizados, para manter a unicidade da representao quando d1 igual a zero, acontece somente
para o menor expoente. Este nmeros so chamados de denormalizados ou subnormais. Somente o nmero zero ter toda a
parte significativa com algarismos iguais a zero.
Seguindo a representao anterior FL(b,p,i,s,denorm) onde denorm verdadeiro em caso de existncia de
nmeros denormalizados, e falso caso contrrio.
Exemplos de sistemas de alguns equipamentos:
Intel microprocessador:
Simples : FL(2, 24, -125, 128, true)
Dupla: FL(2, 53, -1021, 1024, true)
Extendida: FL(2, 64, -16381, 16384, true)
IBM System/390 mainframe
Short precision FL(16, 6, -64, 63, false)
Long precision FL(16, 14, -64, 63, false)
Extended precision FL(16, 28, -64, 63, false)
Cray
FL(2, 48, -16384, 8191, false) e FL(2, 96, -16384, 8191, false)
Calculadora cientfica
FL(10, 10, -98, 100, false)
Formato estabelecido pelo padro IEEE 754- em 1985 (Institute of Eletronical and Eletronecs Engineers)
Existe um padro para aritmtica dos nmeros ponto flutuante binrios em Microprocessador, IEEE 754, definido pelo
Institute of Eletronical and Eletronics Engineers em 1985, com o seguinte formato:
2
Simples: FL(2, 48, -125, 128, true)
Dupla: FL(2, 53, -1024, 1024, true)
Estendido: FL(2, 64, -16381, 16384, true)
Formato sugerido: FL(2,24,-125,128, true) preciso simples
Assim a quantidade de nmeros normalizados representados num FL dado por: 2(b-1)(b
p-1
)(s-i+1)+1 no padro IEEE em
preciso simples 2
24
*254 aproximadamente 4.26 *10
9
=4 260 000 000 4 bilhes 260 milhes
Formato sugerido: FL(2,53,-1021,1024, true) preciso dupla
Assim a quantidade de nmeros normalizados representados num FL dado por: 2(b-1)(b
p-1
)(s-i+1)+1 no padro IEEE em
preciso simples 2
53
*2046 aproximadamente 1.84 *10
19
= 18 900 000 000 000 000 000
O computador (mquinas digitais) trabalha(m) com uma aritmtica de representao finita; e por isso o conjunto dos
nmeros de mquina um subconjunto do conjunto dos nmeros reais.
Um computador ou calculadora exibe ao usurio no visor (display) uma quantidade limitada (finita) de algarismos
(denominaremos de PRECISO) , normalmente em base 10 (decimal) e utilizando a representao do sistema posicional. E
pode representar os nmeros usando diversas abordagens para posicionar a vrgula ou ponto de separao entre a parte inteira e
fracionria do nmero representado.
1
a
abordagem (calculadoras comuns) ponto fixo: isto o ponto ocupa um lugar entre os algarismos exibidos. Exemplo:
mquina de 8 algarismos representar: 3.2, 3.452352, 353.5436,
Mas no representar 456312234, 100000000, 0.0000000003
2
a
abordagem (calculadoras cientficas) ponto flutuante : o ponto pode ocupar qualquer posio entre os algarismos
exibidos, alm do nmero poder ser multiplicado por um mltiplos da base. Na mesma preciso:8 representar 1 * 10
8
, 3*10
-10
,
permitindo representar nmeros de maior grandeza.
Exemplo 1:Uma mquina b=10, p=3 e=[-5, 5] o que pode ser representado por FL(10,3,-5,5)
A representao bsica t .d1d2d3 * 10
e
Sero representados os seguintes nmeros, desconsiderando o sinal (se o nmero positivo ou negativo), e s nmeros
normalizados (d1 0)
Mantissa Expoente combinao nmero representado
.100 -5, -4,
-3, -2,
-1, 0,
1, 2,
3, 4,
5
.100*10
-5
, .100*10
-4
, .
100*10
-3
, .100*10
-2
, .
100*10
-1
, .100*10
0
, .
100*10
1
, .100*10
2
, .
100*10
3
, .100*10
4
, .
100*10
5
0.000001, 0.00001,
0.0001, 0.001,
0.01, 0.1
1, 10
100, 1000
10000
.101
.102
.103
.104
.105
.106
.107
.108
.109
.110
.111
...
.199
.200
.201
.202
...
.999
menor nmero positivo representaremos por m ou .100 *10
-5
3
maior nmero positivo representaremos por M ou .999 *10
5
menor nmero negativo representaremos por -M ou - - .999 *10
5
maior nmero negativo representaremos -m ou - -.100 *10
-5
Sugesto: represente na reta parte deste nmeros.
Assim podemos definir o conjunto de nmeros representados por esta mquina, como sendo G = {xR| m |x| M}. Assim
para um xR, vrias situaes podero acontecer:
1
o
Caso: xR
por exemplo: 354
2.5
0.34
0.004
0.00432
0.000453
235.24
2
o
Caso: |x|<m por exemplo .345*10
-7
este nmero no pode ser representado, ele est situado no que definiremos adiante de
regio de underflow.
3
o
Caso: |x|>M por exemplo .545*10
8
, como o maior expoente 5, a mquina acusar que este nmero pertence a regio de
overflow.
Exemplo: Calculadora HP28S
A=1
A=A/2
Quando i+1=1 temos i=3.637 978 80705 E-12
Quando i+1 1 temos i=7.275 957 6141 E-12
A=1
A=A/3
Quando i+1=1 temos i=3.540 706 161 47 E-12
Quando i+1 1 temos i=1.062 211 848 844 E-11
Propriedades do sistema de ponto flutuante
a) 0FL
b) 1FL
c) xFL temos -x FL
d) a quantidade de nmeros representados num FL dado por: 2(b-1)(b
p-1
)(s-i+1)+1
No exemplo acima seria: 2(10-1)(10
3-1
)(5-(-5)+1)+1=2*9*10
2
*11+1=199*10
2
+1=19901
Definio 1: Underflow a regio da reta limitada pelo 0 e o menor nmero positivo de FL, e respectivamente o maior nmero
negativo e 0, isto (-m,0)(0,m)
Overflow a regio situada a quem do menor nmero negativo e alm do maior nmero positivo de FL, isto , (-
, -M) (M, +).
Exemplo 2: Determine a regio de underflow e overflow de FL(10, 8, -50, 50)
Exemplo 3: Por que um sistema normalizado? Na preciso 6 e representao de ponto flutuante decimal, considerando a
posio do ponto antes de todos os algarismos, o nmero 0.1 poderia ser representado das seguintes maneiras: .10000e0, .
010000e1, .001000e2, .000100e3, .000010e4, .000001e5 portanto a representao de 0.1 em ponto flutuante no seria nica.
Para contornar este problema exige-se que d1 seja diferente de zero, denominado sistema normalizado.
Os nmeros perdidos com a restrio d1 seja diferente de zero, so aqueles que em valor absoluto no podem ser representados
por nmeros normalizados, para manter a unicidade da representao quando d1 igual a zero, acontece somente para o menor
expoente. Este nmeros so chamados de denormalizados ou subnormais. Somente o nmero zero ter toda a parte significativa
com algarismos iguais a zero.
Exemplo: alguns exemplos de sistema de ponto flutuante
Processadores Intel FL(2,24,-125,128) preciso simples
FL(2,53,-1021,1024) preciso dupla
IBM system/390- mainframe FL(16,6,-64,63) preciso simples
Cray FL(2,48,-16384,8191) preciso simples
Calculadoras cientficas FL(10,10,-98,100)
4
a, b FL a, b
(aRb) (ab) = (aRb) FL
Formato estabelecido pelo padro IEEE 754- em 1985 (Institute of Eletronical and Eletronecs Engineers)
Formato sugerido: FL(2,24,-125,128) preciso simples
Pergunta 1: Como representar os nmeros que excedem a preciso em algarismos?
Pergunta 2: Como ficam os algoritmos das operaes aritmticas?
1.2 Arredondamento
Consiste em aproximar um nmero real por um nmero de ponto flutuante. O arredondamento pode ser realizado de diversas
maneiras
Seja FL um sistema de ponto flutuante FL(b,p,i,s). Esto toda funo A: FL que associa para cada x um nmero
A(x) FL que est mais prximo de x chamada de arredondamento de tal sistema. . Os tipos mais conhecidos de
arredondamentos so:
consideremos FL(10,2,-1,1) como seria representado o nmero 1.23 e -1.23
arredondamento para cima ou excesso ou fugindo de zero ((x) ou f(x))
arredondamento para baixo ou por falta ou no sentido de zero ou corte ((x) ou c(x))
arredondamento para o nmero de mquina mais prximo, ou arredondamento clssico ( (x) ou a(x))
Exemplo 4: Dar a representao dos nmeros a seguir num sistema de aritmtica de ponto flutuante normalizado de 3 dgitos
par b=10, i=4 e s=-4
x corte clssico por excesso
1.25
10.053
-238.15
718235.82
2.71828
Exemplo 5: FL(10,4,-10,10)
X corte clssico Por excesso
6.6667 .6666 e1 .6667 e1 .6667 e1
6.6666 .6666 e1 .6667 e1 .6667 e1
6.6665 .6666 e1 .6667 e1 .6667 e1
6.6664 .6666 e1 .6666 e1 .6667 e1
5
a, b FL a, b
(aRb) (ab) = (aRb) FL
Exemplo 6: Suponha que desejamos arredondar o valor de =3.141592653589... Nas seguintes condies para a preciso:
Preciso corte clssico Por excesso
1 .3 e1 .3 e1 .3 e1
2 .31 e1 .31 e1 .32 e1
3 .314 e1 .314 e1 .315 e1
4 .3141 e1 .3142 e1 .3142 e1
5 .31415 e1 .31416 e1 .31416 e1
6 .314159 e1 .314159 e1 .314160 e1
1.3 Operaes aritmticas em ponto flutuante
Em que situaes aparece a necessidade do arredondamento, assim como a interpretao das regies de underflow e
overflow? Na soluo numrica dos problemas que estudaremos na disciplina, a resposta surge da aplicao de frmulas que
fornecem o resultado atravs das 4 operaes aritmticas: soma, subtrao, multiplicao e diviso. Assim, quando dois
nmeros so somados ou subtrados, precisamos acertar a ordem de grandeza dos nmeros para aplicar o algoritmo da soma ou
da subtrao. Isto precisamos acomodar os dois nmeros no mesmo expoente para ento somar ou subtrair os algarismos das
mantissas.
Exemplo 7: Em FL(10, 3, -5,5) se desejarmos efetuar as seguintes operaes:
.364 e1 + .790 e-1 = 3.64 e0+ 0.0790 e0 =3.7190 e0
=.364 e1 + .00790 e1= .37190 e 1
Entretanto a mquina s pode representar 3 algarismo como faz-lo? Usando em primeiro lugar o arredondamento, se optarmos
pelo corte, ento nesta mquina, a resposta de .364 e1 .790 e-1 =.371 e1, se o arredondamento o clssico, teremos como
resposta .364 e1 .790 e-1 =.372 e1.
Observe que esta no uma caracterstica nica da soma, efetue as seguintes operaes e observe os resultados:
.378 e3 - .100 e0
.569 e 3 + .254 e1
.254 e3 * .160 e-3
.875 e3 * .160 e3
.254 e-2 * .260 e3
.254 e-4 * .366 e3
Assim para proteger alguns resultados destes problemas, adota-se um sistema de ponto flutuante dispem de alguns
tipos de arredondamento e de um conjunto pr-definido de operaes aritmticas, as quais so resolvidas atravs de uma
quantidade maior de algarismos do que o estabelecido pela preciso da mantissa.
Considere o sistema de ponto flutuante FL(b,p,i,s) e uma funo de arredondamento : FL onde Fl possui as
operaes +, x, /, - . Indicamos por , , , , as respectivas verses de ponto flutuante das operaes dos nmeros reais.
Sendo R{+, x, -, / }sua verso em ponto flutuante pode ser definida por:
Isto , a,b FL ab FL. Ou seja, utilizamos o algoritmo que empregado na aritmtica real, utilizando acumulador de
preciso dupla para imitar o comportamento dos nmeros reais, estes algarismos tomados a mais durante a realizao da
operao aritmtica, podem ser chamados de dgitos de guarda, ao encerrar o algoritmo da operao, arredonda-se o resultado
para exibir ao usurio conforme a especificao da preciso do sistema de ponto flutuante.
Exemplo 9: Em FL(10,2, -10,10), arredondamento clssico(( (x)) e acumulador infinito.
8.83.8= (8.8x3.8)= ( 33.44)=3.3e1
8.8 3.8= (8.8+3.8)= (12.6 )=1.3e1
8.83.9= (8.8 - 3.8)= (5 )=5.0e0
8.8 3.9= (8.8 / 3.8)= (2.31578947368 )=2.3e0
Exemplo 10: FL(10,4,-10,10) e acumulador de preciso dupla qual o valor de X+Y e X*Y, para X=9.37e3 e Y=1.272e1.
Arredondamento clssico(( (x)).
X+Y= (9.37e3+1.272e1)= (937.00000e1+1.2720000e1)= (938.272e1)=9.383e3
6
a, b FL a, b
(aRb) (ab) = (aRb) FL
(9.3700000e3+0.0127200e3)= (9.38272e3)= 9.383e3
(9370.0000e0+12.720000e0)= (9382.72e0)= 9.383e3
X*Y= (9.37e3*1.272e1)= (9370.0000e0+12.720000e0)= (1.191864e6)=1.192e6
Exemplo 11: FL(10,3,-10,10) e acumulador de preciso dupla qual o valor de X+Y, X-Y, X*Y e X/Y para os valore abaixo,
usando arredondamento clssico((a(x)).
X=.123 e1 e y= .123e-3 X=.123e1 y= .123e-6
X+Y a(1.2423)=1.24e0 a(1.23001)=1.23e0
X-Y a(1.2177)=1.22e0 a(1.222999)=1.22e0
X*Y a(1.5129e-2)=1.51e-2 a(1.5129e-5)=1.51e-5
X/Y a(1.000 e2)=1.00e2 a(1.000 e5)=1.00e5
Exemplo 12: Como a lgebra de FL? Resposta: diferente da lgebra dos nmeros reais. Por exemplo no conjunto dos
nmeros reais a+(b+c)= (a+b)+c, denominada lei da associatividade. Supondo FL(10,10,-10,10) de arredondamento clssico
(( (x)).
a=1 111 111 113 = 1. 111 111 113 e9
b=-1 111 111 111= - 1.111 111 111 e9
c=5.511 111 111
(a b)c= ( (1 111 111 113+-1 111 111 111)) c = ( (2)) c = (2) c = (2+ 5.511 111 111)= (7.511 111 111)= 7.511
111 111
a (bc)= a (-1 111 111 111+5.511 111 111)) = a ( ( -1 111 111 105.499 999 999))= a -1 111 111 105 = (1 111 111
113+ (-1 111 111 105))= (8)=8
Exemplo13: Considere FL(10,4,-10,10) de arredondamento clssico (( (x)). Qual o resultado para a seguinte expresso:
(10.78(3.71810.71))= (1.078e1(3.718e01.071e1)),
(10.78(3.71810.71))= (1.078e1(3.718e01.071e1))=
(10.78( (3.718+10.71))= (10.78( (14.428))= (10.78( (14.43))
(10.78/14.43)= (0.747054747005)=7.471e-1
1.4 Erros:quais so e medidas de erros
Relembrando: para chegar-se a resoluo computacional vrios erros so cometidos:
erros inerentes ou do modelo matemtico: surgem da simplificao do modelo matemtico
erros de discretizao ou de truncamento do modelo matemtico: alguns mtodos matemticos so processos infinitos, mas
na prtica ns teremos que interromper este processo infinito (ou seja torn-lo finito) para apresentar uma resposta ao
usurio
erros de arredondamento do modelo computacional: decorrente da mquina digital utilizada para implementar (representar)
os nmeros reais e suas operaes aritmticas.
Alm de que durante o processamento computacional alm dos problemas decorrentes dos erros de arredondamento, existem
pelo menos mais duas fontes de erro:
instabilidade do problema (condicionamento): pequena alterao (mudana) nos dados de entrada produzem grandes
mudanas nos resultados obtidos. Ex: mudana da direo do vento previso do tempo
instabilidade do algoritmo (estabilidade): decorre da forma como se implementa a soluo do mtodo matemtico, a ordem
com a qual se executa as operaes aritmticas.
Exemplo 14:Condicionamento
P(x)= (x-1)*(x-2)*...*(x-20)= x
20
-210x
19
+..., as razes deste polinmio so 1,2,3,4, ..., 20 e esto bem separadas. Computando
as razes de P(x)+2
-23
x
19
=0= x
20
-209.999 999 881x
19
+... , num computador de FL(2,90,i,s), teremos as seguintes razes:
1
7
2
3
4
4.999 999 928
6.000 006 944
6.999 697 234
8.007267603
8.917250249
10.095266145t 0.643500904i
11.793633881t 1.652329728i
13
16
19
20.846908101
Exemplo 15: Em FL(10,8,-50,50) resolver a equao de Bscara para a=1, b=-10e5 c=1, a soluo exata em preciso 11 so
99999.999990 e 0.000 010 000 000 001 Calculando pelas frmulas tradicionais obtemos como resposta 100000.0 e 0 . A
segunda muito ruim. Mas fazendo a avaliao por:
1
2
2
1
2
4 ) (
ax
c
x
a
ac b b sign b
x

Obtemos 10000.00 e 0.000010 000 000

Medidas dos Erros
Considere x o valor exato (ou seja se nenhum erro fosse cometido, ou se as operaes fossem realizadas em preciso infinita), e
(x) uma estimativa deste valor, x ou o valor obtido a partir da execuo em uma mquina do algoritmo que devolve x, como
resposta a uma problema.
Existem 3 diferentes formas de identifica a qualidade associada a (x). A saber:
erro absoluto | ) ( | x x E
A

erro relativo
| |
| ) ( |
x
x x
E
R

DIGSE ou ASC, nmero de dgitos significativos exatos

1
]
1

,
_

+ +
| |
| ) ( |
log 3 . 0 )) ( , (
x
x x
x x Digse
onde depende do tipo de arredondamento utilizado ( tambm denominada unidade de arredondamento), e
definido por:
=
2
) 1 ( p
b

se arredondamento o clssico e =
) 1 ( p
b

se arredondamento corte.
Exemplo 16:Em FL(10,4,i,s) qual a exatido de calculado por 3.142 e o exato 3.1415926535, sabendo que nos clculos
foi utilizado arredendamento do tipo clssico.

erro absoluto
4
10 073 . 4 1 0004073464 . 0 | 142 . 3 | | ) ( |

x x E
A
erro relativo
4
4
10 296 . 1
10 073 . 4
| |
| ) ( |

x
x x
E
R
8
DIGSE ou ASC, nmero de dgitos significativos exatos
( ) ( )
( ) 9 . 2 2 . 3 3 . 0
) 10 296 . 6 log( 3 . 0 ) 10 296 . 1 10 5 log( 3 . 0
| |
| ) ( |
log 3 . 0 )) ( , (
4 4 3

+ + +
1
]
1

,
_

+ +

x
x x
x x Digse

=
3
) 4 1 ( ) 1 (
10 5 . 0
2
10
2



p
b
Exemplo 17:Tome-se com exemplo um processo iterativo, por exemplo do clculo de razes, em que o valor de uma
raiz obtido atravs de sucessivas aproximaes, e neste processo foi utilizado preciso de 6 algarismos e
arredondamento do tipo corte, obtendo-se as seguintes aproximaes para a raiz.
Repetio Aproximao para raiz Erro absoluto Erro relativo Digse
0 0
1 0.5 -0.3
2 0.625 0.2 0.125 0.3989
3 0.687 5 9.09090 E-2 0.0625 0.7413
4 0.703 125 2.22222 E-2 1.5625E 2 1.353
5 0.710 937 1.09883 E-2 7.812 E-2 1.658
6 0.712 890 2.739 E-3 7.812 E-3 2.260
7 0.713 867 1.3686 E-3 9.77E-4 256
8 0.713 937 1.4006 E-4 1 E-4 3.523
9 0.713 999 4.481 E-5 3.2 E-5 3.961
10 0.714 000 1.400 E-6 1 E-6 4.630
Outra aproximao, em preciso 5 e arredondamento clssico
Repetio Aproximao para raiz Erro absoluto Erro relativo Digse
0 4
1 3.49 0.14613 0.51 0.5351
2 3.3187 5.16166 e-2 0.1713 0.9867
3 3.3002 5.605e-3 0.0185 1.9475
4 3.3000 6.0606e-5 2e-4 3.6562
5 3.3000 0 0 4
Outra aproximao, em preciso 6 e arredondamento clssico
Repetio X Y Erro absoluto Erro relativo Digse
0 0.703125 0.71875 0.015625 2.222e-2 1.353
1 0.710937 0.71875 7.813e-3 1.098e-2 1.658
2 0.710937 0.714843 3.906e-3 5.494e-3 1.959
3 0.712890 0.714843 1.953e-3 2.739e-3 2.261
4 0.713867 0.714843 9.76e-3 1.367e-3 2.562
5
Preciso e exatido
9
Preciso uma medida de qualidade do instrumento. No caso dos computadores, a preciso dada pelo tamanho da palavra
reservada para armazenamento dos nmeros. uma caracterstica da aritmtica, nmero de dgitos da mantissa.
Exatido uma medida de perfeio do resultado fornecido pelo equipamento, o qual depende da preciso da mquina e do
algoritmo utilizado; uma medida da qualidade da resposta fornecida pela mquina.
10