Précision des calculs sur TI et Casio

[critor]

En tenant compte des bizarreries rencontrées jusqu'ici (TI-MathPrint), voici une traduction Python du nouveau test de précision proposé :

Code: Tout sélectionner

from math import tan
 
def precm2(b):
  n, dold = 0, 0
  while 1:
   d = tan(355/226 + b**-n) - tan(355/226)
   if d == dold or d < 0:
     break
   dold = d
   n += 1
  return n

[Coudray]

Bizarrerie pour le test avec f(x)=tan(355/226+a^x)-tan(355/226) sur les TI-MathPrint.

Contrairement à tous les autres modèles testés, les TI-MathPrint répondent pendant très longtemps 0,50588 et le résultat ne s'annule que fort tardivement.
Ce qui fausse complètement la mesure de la précision par rapport aux autres.

En effet, j'ai vérifié sur la TI30x Pro MP (avec +x et non +a^x), c'est très bizarre.
On a cette valeur 0,50588 jusqu'à x=5E-13, pour tout x différent de 0, aussi petit soit-il (même 1E-99)
Ensuite on a les marches d'escalier, de hauteur ~56 : pour x= 5,1E-13, puis 1,51E-12, 2,51E-12 (résolution=dx=1E-12)

Ou alors correction possible, au lieu de chercher à voir à partir de quelle valeur de x le résultat s'annule, on cherche à partir de quelle valeur de x il devient constant.

En tenant compte des bizarreries rencontrées jusq'ici (TI-MathPrint), voici une traduction Python du nouveau test de précision proposé :

OK pour le modèle. Mais si je comprends bien : tu fais les calculs manuellement ? Les bibliothèques python pourraient faire les calculs différemment? (sur une machine avec python, bien sûr)

Pour avoir la résolution (càd le nombre de bits de la mantisse, ou équivalent), à mon avis il faut tenir compte du codage de l'opérande=355/226=1,57
Si on suppose la mantisse < 1, il faut diviser par 10, soit 1E-13, soit un codage sur ~43 bits?

[critor]

Oui, je teste à la main sur différents modèles de calculatrices (au moins 1 modèle pour chaque signature trigonométrique différente).

[critor]

Je propose également de remplacer le test d'annulation d == 0 par d < 0, afin de gérer également un autre cas particulier (HP Prime avec la vue CAS) :

[Bisam]

Il en est de même sur Nspire (CX II) CAS.
Si on pose f(x):=tan(355/226+x)-tan(355/226) alors calculer une valeur approchée de f(10^-14) donnera 0. mais calculer une valeur approchée de f(1.*10^-14) donnera -1.E-7.

[critor]

En pratique, je ne définis pas de fonction lors des tests, je saisis l'intégralité du calcul sur une seule ligne.
En passant par une fonction, il est possible que le paramètre subisse un pré-traitement par l'évaluateur.

Pas de résultat négatif sur TI-Nspire CAS dans ce cas :

[Bisam]

Je pense surtout que la différence vient du fait que

$mathjax$\frac{355}{226}+10^{-14}$mathjax$

est une fraction qui permet du calcul exact par le CAS alors que

$mathjax$\frac{355}{226}+1.\times 10^{-14}$mathjax$

est un flottant qui oblige la calculatrice à travailler directement avec des flottants.

[critor]

Pour préciser, j'utilise bien systématiquement le raccourci clavier disant d'évaluer avec le moteur flottant, que ce soit sur TI-Nspire CAS ou HP Prime.