Artigo Acesso aberto Produção Nacional

Experimentos de Cálculo com Precisão Numérica Arbitrária

2023; FUNDACAO UNIVERSIDADE FEDERAL DO TOCANTINS; Volume: 4; Issue: 2 Linguagem: Português

10.20873/uft.2675-3588.2023.v4n2.p77-82

ISSN

2675-3588

Autores

N. Santos, José Lucas Carvalho Silva, Rogério Azevedo Rocha, Tanilson Dias dos Santos, Mirray Victor Lima Oliveira,

Resumo

No projeto de linguagens de programação muitas vezes o tamanho máximo alocado para alguns tipos de variáveis é limitado. Isso prejudica alguns tipos de aplicação que carecem de uma maior acurácia quanto a representação de números com uma quantidade de dígitos além da capacidade de representação dessa linguagem. Nesta pesquisa investigamos o problema de representação numérica e para contornar este problema nos valemos de artifícios computacionais como o uso de bibliotecas de precisão arbitrária. Este artigo apresenta os resultados preliminares desta pesquisa para cálculo dos valores de constantes como Fibonacci e p, onde obteve-se um sucesso parcial, além de uma possível solução para os problemas encontrados.

Referência(s)