Bonjour,
Lorsque je fait le produit de deux matrices (dans un programme) dont les coefficients ont 50 chiffres de précisions (vérifier avec le débugueur) xcas me retourne une matrice de 12 chiffres de précisions bien que j'ai stipulé Digits:=50 quelqu'un aurait une explication?
D'avance merci
matrice et digits
Modérateur : xcasadmin
-
- Messages : 1139
- Inscription : dim. mai 20, 2007 7:09 am
- Localisation : Paris
- Contact :
Re: matrice et digits
Oui ca me semble normal car je crois que les librairies d'algebre lineaire utilisees par giac ne supportent pas la precision arbitraire, a moins que ca ait change recemment?
frederic
frederic
Re: matrice et digits
Pour la multiplication, je pense que c'est une optimisation ou le test multi-precision/precision double n'est pas fait. Je vais regarder de plus pres.