Numerical verification of an Industrial code to simulate accurately large scale Hydrodynamics events

Vérification numérique d’un code de calcul industriel pour simuler précisément l’hydrodynamique des écoulements à surface libre à grande échelle

EDF R&D, SINETICS Department
email : Christophe.Denis@edf.fr

Abstract

The use of finite-precision arithmetic generates round-off errors at each arithmetical expression so some mathematical properties are lost during the computing of a numerical code. Consequently, the same numerical code using the same input data could produce different results on different computers. The round-off error propagation is exacerbated in High Performance Computing since trillions of floating arithmetic operations can be performed each second. Moreover, due to the domain decomposition, the floating point arithmetic operations are not performed in the same order. There is therefore a need to detect the effect of round-off error propagation in order to make confidence about the results of the simulation. This paper deals with an overview of the numerical verification activities performed at EDF R&D on the parallel TELEMAC-2D code modelling the 2D free surface hydrodynamics. Firstly, a framework developed at EDF R&D to study the effect of the round-off error propagation on the quality of a simulation is exposed. Then, the xD+P approach which has been proposed to measure the numerical quality of the computed values is presented. Finally, a recent work dealing with the improvement of the floating point summation is discussed.

Résumé

L’arithmétique des ordinateurs génère des erreurs d’arrondi et des pertes de propriétés algébriques. Un même programme peut donc produire des résultats différents selon l’environnement de calcul. Ce phénomène est amplifié dans un environnement de calcul haute performance car un nombre très élevé d’opérations arithmétiques flottantes est exécuté par seconde et l’ordre des opérations arithmétiques diffère. Il est donc nécessaire de détecter l’effet de la propagation des erreurs d’arrondi sur la qualité des résultats d’une simulation à grande échelle. Cet article présente un aperçu des travaux menés à EDF R&D de vérification numérique du code parallèle TELEMAC-2D dédié à la simulation des écoulements bidimensionnels à surface libre. Il est tout d’abord présenté la plateforme logicielle de vérification numérique que nous avons développée. L’approche xD+P proposée pour visualiser la qualité numérique d’un résultat est ensuite décrite et illustrée sur un exemple. La dernière partie de l’article présente les premiers résultats obtenus de nos travaux d’amélioration de la précision de l’addition flottante.