mon-entreprise icon indicating copy to clipboard operation
mon-entreprise copied to clipboard

Explorer le calcul des tests de non-regressions en un clic

Open mquandalle opened this issue 3 years ago • 1 comments

Les tests de non-regressions nous permettent de rejouer quelques centaines de simulations à chaque modification du moteur. Après une modification il y a souvent beaucoup d'erreurs et on peut les interpréter d'un simple coup d’œil sur les résultats. Mais parfois il n'y a que 2 ou 3 situations qui changent de quelque euros, et le lien avec la modification n'est pas évident (exemple).

Pour identifier l'origine du problème il faut alors explorer le détail des calculs en navigant dans la documentation. Aujourd'hui on est obligé de

  1. regarder le nom du test cassé
  2. retrouver la situation testée à partir du nom du test
  3. se rendre sur le bon simulateur
  4. répondre aux questions pour reproduire la situation

Et souvent il faut faire ces 4 étapes deux fois : une fois en production sur mon-entreprise.fr et une fois sur la branche boguée.

L'idée serait de profiter du partage de simulation via URL #552 pour ajouter un lien direct dans la CI permettant d'explorer le détail des calculs en un clic. Idéalement il faudrait afficher un lien vers mon-entreprise.fr (correspondant au snapshot) et un lien vers localhost ou netlify pour explorer le calcul bogué.

mquandalle avatar Jan 05 '21 14:01 mquandalle

J'ai commencé à implémenter mais il n'est pour l'instant pas possible d'afficher un message d'erreur personnalisé lors d'une assertion toMatchSnapshot échouée https://github.com/vitest-dev/vitest/issues/1211

mquandalle avatar Apr 29 '22 14:04 mquandalle