Virgule flottante

La virgule flottante s'oppose à la représentation en virgule fixe, qui indique un nombre entier d'un sous-multiple de l'unité : « 1234,567 » est une façon commode d'écrire 1234 et 567 millièmes, soit 1234567 millièmes[1].

La représentation en virgule flottante peut, avec le même nombre de bits, gérer un intervalle numérique plus important.

La représentation en virgule flottante préserve la précision. La mantisse a toujours le même nombre de chiffres significatifs, sans zéro au début.

La virgule flottante permet de définir une limite de l'erreur d'approximation relative ou epsilon d'une machine.

Cet avantage se paie par l'occupation de plus de place, car il est nécessaire d'encoder la position de la virgule (représentée par l'exposant). Il faut aussi plus de calculs pour effectuer les opérations, qui concernent non plus un nombre entier, mais deux, ou trois si on considère le signe.

Bien que la notation scientifique et le type de donnée informatique « nombre en virgule flottante » soient issus de la pratique du calcul, leur particularités ont fait l'objet d'études mathématiques. On doit citer les travaux de William Kahan, parfois surnommé « père de la virgule flottante[2] ».

Le premier ordinateur programmable utilisant des nombres à virgule flottante Z3 (réplique au Deutsches Museum à Munich).

La vitesse des opérations en virgule flottante, communément appelée FLOPS dans les mesures de performances, est une caractéristique importante des machines, en particulier dans les logiciels qui effectuent des calculs mathématiques à grande échelle.

Au fil du temps, un certain nombre de représentations à virgule flottante a vu le jour, ce qui constituait un frein au portage des programmes de calcul scientifique d'une machine à l'autre, en raison des différences de représentations internes et de comportement des nombres flottants. Pour cette raison, l'IEEE a mis en place une norme en 1985, IEEE 754.

Norme IEEE 754

La norme IEEE 754 de 1985[6] (reprise par la norme internationale CEI 60559[7]) spécifie deux formats de nombres en virgule flottante (et deux formats étendus optionnels) en base 2, ainsi que quelques opérations associées : principalement l'addition, la soustraction, la multiplication, la division et la racine carrée. La quasi-totalité des architectures d'ordinateurs actuelles, y compris IA32, PowerPC, et AMD64, incluent une implémentation matérielle des calculs sur flottants IEEE, directement dans le microprocesseur, garantissant une exécution rapide.

Les deux formats fixés par la norme IEEE 754 sont sur 32 bits (« simple précision », renommé binary32 dans la révision de 2008[8]) et 64 bits (« double précision », renommé binary64 dans la révision de 2008). La répartition des bits est la suivante, où 1 ≤ M < 2 :

Précision	Encodage	Signe	Exposant	Mantisse	Valeur d'un nombre	Précision	Chiffres significatifs
Simple précision	32 bits	1 bit	8 bits	23 bits	${\displaystyle (-1)^{S}\times M\times 2^{(E-127)}}$	24 bits	environ 7
Double précision	64 bits	1 bit	11 bits	52 bits	${\displaystyle (-1)^{S}\times M\times 2^{(E-1023)}}$	53 bits	environ 16

Le tableau ci-dessus indique les bits représentés. Le premier bit de la mantisse d'un nombre normalisé étant toujours 1, il n'est représenté dans aucun de ces deux formats : on parle de bit implicite. Pour ces deux formats, les précisions sont donc respectivement de 24 et de 53 bits.

Deux valeurs du champ Exposant sont réservées pour encoder les nombres spéciaux : nombres dénormalisés et zéro signé d'une part, les infinis et les NaN (Not-a-Number) d'autre part. Les autres définissent la dynamique de la représentation : 8 bits permettent de faire varier l'ordre de grandeur sur 256 binades (en) ou 76 décades.

En plus de la représentation, la norme spécifie exactement le comportement des opérations supportées : celles-ci doivent être correctement arrondies dans un des 4 modes d'arrondi choisi.

Cette norme a été révisée dans les années 2000^{[réf. nécessaire]} pour aboutir à la publication d'une nouvelle norme en 2008[8]. De nouveaux formats ont été définis (« quadruple précision » ou binary128, et des formats décimaux), la notion de format étendu a été généralisée, et de nouvelles opérations ont été ajoutées, comme le FMA; les principales fonctions élémentaires sont recommandées.

Plusieurs compilateurs de Fortran et d'autres langages peuvent être appelés avec une option de double précision automatique^{[source insuffisante]} qui force tous les flottants d'un programme à la double précision[9] et dispense d'une revue fastidieuse pouvant entraîner des erreurs.

Les calculs en virgule flottante sont pratiques, mais présentent divers désagréments, notamment :

• leur précision limitée, qui se traduit par des arrondis (dus aux opérations, ainsi qu'aux changements de base implicites) qui peuvent s'accumuler de façon gênante. En particulier, la soustraction de deux nombres très proches et entachés d'erreur provoque une grande perte de précision relative : on parle de cancellation (plus précisément, cancellation catastrophique) ;
• une plage d'exposants limitée, autorisant une certaine dynamique, mais pouvant donner lieu au-delà à des débordements (overflows) lorsque le résultat d'une opération est plus grand, en valeur absolue, que la plus grande valeur représentable, et à des sous-passements (underflows), lorsqu'un résultat est plus petit, en valeur absolue, que le plus petit flottant normalisé positif, puis à des résultats n'ayant plus aucun sens.

Il est par exemple tentant de réorganiser des expressions en virgule flottante comme on le ferait d'expressions mathématiques. Cela n'est cependant pas anodin :

• les calculs en virgule flottante, contrairement aux calculs sur les réels, ne sont pas associatifs. Par exemple, avec une précision relative de 3 chiffres décimaux, on aurait (0,999+0,0004)+0,0004 = 0,999 + 0,0004 = 0,999 mais 0,999+(0,0004+0,0004)=0,999+0,0008 = 1,000 ; on dit qu'il y a absorption lorsqu'un opérande comme 0,999 absorbe ainsi un plus petit non nul ;
• l'évaluation des expressions est parfois faite en précision étendue, avec retour à la précision normale lors du rangement des valeurs ; dans ce cas, on peut avoir une meilleure précision en éliminant certaines variables intermédiaires peu utiles, et les rangements associés.

Dans une série d'additions, comme celle des valeurs d'un tableau, on peut évaluer l'erreur, et la reporter sur la prochaine addition par l'algorithme de sommation de Kahan (en). L'erreur finale est ainsi beaucoup plus petite.

Dès 1914, L. Torres y Quevedo cherchait à mettre au point une version électromécanique de la machine analytique de Charles Babbage et imagina d'exécuter les calculs en virgule flottante[10]^,[11].

Vingt-cinq ans plus tard (en 1938), Konrad Zuse parachevait son premier calculateur mécanique programmable binaire, le Z1[12] ; cet appareil utilisait lui aussi une représentation en virgule flottante sur 24 bits, avec un exposant signé codé sur 7 bits, une mantisse codée sur 16 bits (dont un bit implicite), et un bit de signe. Le calculateur Z3 à relais (1941), plus fiable, introduisait la notion de quantité infinie (positive ou négative) ∞ ; cela permettait de donner des résultats infinis, comme ceux résultant d'opérations telles que ${\displaystyle ^{1}/_{0}=\infty }$, et il interrompait les calculs lorsqu'ils portaient sur des indéterminations, comme ${\displaystyle 0\times \infty }$. Zuse se proposait de gérer tous les calculs arithmétiques faisant intervenir ${\displaystyle \pm \infty }$ et les indéterminations (NaN), anticipant ainsi avec quarante ans d'avance des conventions qui seront intégrées à la norme américaine IEEE[13]. Simultanément, le mathématicien von Neumann s'opposait au contraire à l'introduction du calcul en virgule flottante pour la Machine IAS[13] (1951).

Le premier calculateur commercial disposant d'un organe de calcul en virgule flottante pré-câblé aura été le Z4 de Zuse, développé entre 1942 et 1945. En 1946, Bell Laboratories mit sur le marché le Mark V, qui met en œuvre une arithmétique en virgule flottante décimale[14].

Le Pilot ACE, un prototype britannique développé en 1950 au National Physical Laboratory, disposait d'emblée d'une arithmétique en virgule flottante. 33 de ces ordinateurs furent commercialisés par English Electric sous le nom de DEUCE. Quoique l’arithmétique fût simplement programmée et non pré-câblée, l'existence d'une horloge cadencée à 1 MHz rendit les premières années cette machine plus rapide que ses concurrentes.

L’IBM 704, produit en série, suivit en 1954 ; il amena la notion d'exposant à décalage. Au cours des décennies suivantes, le recours à une unité arithmétique et logique (UAL) à arithmétique en virgule flottante micro-câblée (FPU) ne fut plus qu'une spécification optionnelle : les ordinateurs qui disposaient d'un tel composant étaient dits scientifiques. Le passage des IBM 704 et 7044 aux IBM 360 introduisit de nombreux problèmes numériques, car la virgule flottante simple précision, ramenée de 36 bits binaire à 32 bits hexadécimale, devenait souvent critique.

La série 1100/2200 des ordinateurs UNIVAC, apparue sur le marché en 1962, comportait deux représentations en virgule flottante :

• Simple précision: 36 bits, comprenant un bit de signe, 8 bits d'exposant et une mantisse codée sur 27 bits.
• Double précision: 72 bits, comprenant un bit de signe, 11 bits d'exposant et une mantisse codée sur 60 bits.

Le Burroughs 6500 (en) utilisait quant à lui une virgule flottante en base 8, en 48 et 96 bits.

Le Control Data 6600 utilisait une virgule flottante binaire 60 bits à mantisse entière.

Sur mini-ordinateur, la virgule flottante resta longtemps programmée. Une unité virgule flottante apparaît chez DEC sur le PDP11-34a en 1977, et en 1979 sur les 21MXF (en) de Hewlett-Packard.

Ce n'est qu’avec le lancement par Intel du microprocesseur i486, en 1989, que les ordinateurs individuels furent enfin dotés en standard d'une UAL à virgule flottante micro-câblée (les coprocesseurs mathématiques x87 étaient préalablement optionnels).