L'étalonnage d'un marégraphe vise à déterminer la position de la référence interne du marégraphe par rapport au repère de marée de l'observatoire. Mais, il a également pour objet de contrôler les performances de l'instrument, notamment sa précision et son bon fonctionnement.
L'opération consiste à mesurer la même grandeur que le marégraphe par un procédé technique indépendant. En l'occurrence, le mesurande est le niveau de la mer au-dessus du plan horizontal imaginaire, choisi arbitrairement comme référence du marégraphe, et défini par une cote fixe sous le repère de marée.
L'étalonnage repose sur la comparaison des indications simultanées de deux systèmes de mesure distincts. Si elles ne concordent pas, deux possibilités peuvent a priori être envisagées: l'un des systèmes est faux ou les deux le sont. De fait, le dispositif instrumental mis en place pour l'occasion est considéré comme étalon, les erreurs sont donc attribuées au marégraphe. L'instrument absolument exact est bien entendu une conception de l'esprit, irréalisable en pratique. Toutefois, l'étalon est jugé comme tel tant qu'aucune erreur systématique n'est connue, et qu'elle échappe aux procédés de mesure disponibles.
On utilise encore les échelles de marée pour contrôler les observations réalisées par les instruments marégraphiques, même les plus sophistiqués. L'intérêt est d'abord qu'elles fournissent une lecture directe du niveau de la mer, et ensuite qu'il s'agit la plupart du temps d'une lecture à l'extérieur du puits de tranquilisation. L'étalonnage porte alors sur l'ensemble puits de tranquilisation et marégraphe. Mais, dès que l'on cherche une précision instrumentale d'ordre scientifique, il est intéressant de pouvoir distinguer l'origine des sources d'erreur: défauts dus au filtrage du puits de tranquilisation ou à l'appareil lui-même ?
Le principal inconvénient de l'échelle de marée est cependant la précision des lectures, notamment à cause des vagues, du clapotis, et d'autres oscillations du niveau de la mer de courte période. Celle-ci est typiquement de quelques centimètres. Mais, l'échelle de marée étant un objet matériel, elle peut jouer le rôle de repère de marée, et fournir de manière simple et rapide des observations directement comparables à celles du marégraphe. D'autant que le zéro du marégraphe est choisi en coïncidence avec le zéro de l'échelle de marée. Par ailleurs, si l'échelle de marée est un instrument exact, seules subsisteront les erreurs d'observation ou erreurs accidentelles. Celles-ci sont a priori de nature aléatoire, autrement dit, elles se produisent tantôt dans un sens, tantôt dans un autre. Sous couvert de certaines hypothèses, à savoir que les erreurs accidentelles sont nombreuses, indépendantes, indifféremment positives ou négatives et où chacune d'elles est petite par rapport à la somme de toutes les autres, on admet qu'elles suivent une loi de probabilité normale de moyenne nulle et d'écart-type [[sigma]]. La mise en application de cette théorie conduit à réaliser un grand nombre de mesures. En outre, l'opération d'étalonnage s'effectue pendant la durée d'un cycle complet de marée, en espaçant les points de sondage sur toute l'amplitude de la marée, d'une part, pour s'assurer l'hypothèse d'indépendance des erreurs, d'autre part, pour explorer une plage de mesure aussi large que possible et contrôler un certain degré de fidélité du marégraphe. L'écart moyen obtenu de la comparaison des observations du marégraphe et de l'échelle de marée est alors attribuable à un biais introduit par le marégraphe, la moyenne des erreurs de l'échelle étant nulle par hypothèses. De plus, la précision de cette moyenne est de l'ordre de [[sigma]] divisé par la racine carrée du nombre de sondages (cf. relation E.II.2). En effectuant un sondage toutes les demi-heures, soit vingt-cinq points, et en évaluant la précision des lectures à trois centimètres, nous obtenons une précision de six millimètres sur la moyenne des erreurs accidentelles de l'échelle, largement suffisante dans la plupart des applications de la marégraphie.
En pratique, il s'avère qu'il existe des sources d'erreurs systématiques qui peuvent affecter le système de l'échelle de marée, et donc qui remettent en cause l'hypothèse d'exactitude. Par exemple, nous avons les erreurs de verticalité, de trait de graduation, ou encore de dilatation thermique du matériel. La moyenne des erreurs ne peut alors plus être considérée comme nulle puisque ce type d'erreur produit un écart systématique entre la valeur de la mesure et celle du mesurande. Cet écart peut se traduire par un simple biais constant, mais il peut aussi avoir un comportement plus complexe, notamment lorsqu'il dépend de nombreux paramètres mal appréhendés par ailleurs. Parmi les erreurs systématiques, quelques unes sont connues et déterminées. Dans ce cas, elles sont corrigées. Mais, certaines sont connues et indéterminées, voire indéterminables, et d'autres sont inconnues, donc a fortiori indéterminées.
Des alternatives à l'échelle de marée ont été imaginées pour réaliser l'étalonnage d'un marégraphe. En particulier, l'IGN a opté pour un système de sonde électrique, que nous verrons en détail plus loin. D'autres ont conçu des systèmes assez complexes afin de s'adapter aux conditions extrêmes de mesure, tel est le cas du prototype de M. van Ruymbeke, de l'Observatoire Royal de Belgique.
Le terme d'étalonnage est ici plus adapté à celui de calibrage dans la mesure où l'action correspond bien à "vérifier, par comparaison avec un étalon, l'exactitude des indications d'un instrument de mesure" [Petit Larousse, 1963], et que "le résultat d'un étalonnage permet soit d'attribuer aux indications les valeurs correspondantes du mesurande, soit de déterminer les corrections à appliquer aux indications" [ISO, 1993]. Quant au terme de calibrage, il est préféré pour "le positionnement matériel de chaque repère d'un instrument de mesure en fonction de la valeur correspondante du mesurande" [ISO, 1993]. Nous refermons cette petite parenthèse terminologique en précisant que "calibration" n'apparaît nulle part dans les dictionnaires de langue française, ce mot correspond simplement à la traduction anglaise d'étalonnage.
Lors d'une communication sur l'activité de son Service au cours de la séance de la Section d'Océanographie Physique du CNFGG, le 26 juin 1962, Charles Van de Casteele, Ingénieur en Chef Géographe de l'IGN, exposa une méthode expérimentale qu'il avait imaginé pour apprécier la qualité et le fonctionnement d'un marégraphe enregistreur. Cette méthode ne fit l'objet d'aucune publication de la part de son auteur, outre sa description dans le procès-verbal de la réunion. Dès lors, on comprend la surprise de l'Ingénieur Hydrographe Général, André Gougenheim, lorsqu'il entendit G.W. Lennon, de l'Université de Liverpool, évoquer cette méthode pendant le Symposium sur les marées, à Monaco, les 28 et 29 avril 1967. Connue à l'étranger sous la désignation de test de Van de Casteele, A. Gougenheim s'empressa de rendre les honneurs dues à son auteur en publiant, avec l'autorisation de ce dernier, le texte de sa note originale pour le CNFGG. Cette méthode apparaît toujours dans le "manuel sur la mesure et l'interprétation du niveau de la mer" de la Commission Océanographique Intergouvernementale de l'UNESCO [1985], preuve supplémentaire de la compétence technique passée des ingénieurs géographes de l'IGN dans le domaine de la marégraphie.
Selon Van de Casteele [1962], la qualité et la marche d'un marégraphe peuvent être appréciées seulement de manière expérimentale en vérifiant avec précision le calage du zéro. Le test s'appuie sur la comparaison, pendant un cycle de marée complet, des relevés simultanés du marégraphe et du dispositif de mesure indépendant mis en place pour l'étalonnage. La différence des valeurs doit rester en théorie constante et égale à zéro si le marégraphe est parfait et bien réglé. En revanche, si la référence interne du marégraphe s'est décalée par rapport à la référence arbitraire de l'observatoire, la différence des sondages sera différente de zéro. Mais elle restera toujours constante, aux incertitudes d'observation près, si le marégraphe ne présente aucun autre défaut. L'ingéniosité du test de Van de Casteele réside dans l'utilisation de ces résultats pour construire un diagramme, dont la forme permettra d'apprécier les travers éventuels du marégraphe.
Le diagramme de Van de Casteele se construit ainsi: en abscisses, on porte les écarts marégraphe-étalon, et en ordonnées, la hauteur d'eau. Un marégraphe parfait donne une courbe réduite à une droite parallèle à l'axe des ordonnées. Mais, plus généralement, les points se répartissent sur deux branches verticales. L'une correspond aux mesures effectuées en marée montante, et l'autre aux mesures effectuées en marée descendante. En ajoutant les points obtenus pendant les marées étales, la courbe complète forme ce que l'on appelle un cycle d'hystérésis. L'écart entre les deux branches verticales témoigne des jeux ou des retards du marégraphe.
L'interprétation de l'allure des diagrammes de Van de Casteele met en évidence un certain nombre d'imperfections, et permet de ce fait d'apprécier la qualité et le fonctionnement du marégraphe. La figure 49 donne l'allure caractéristique de quelques défauts typiques du marégraphe à flotteur: frottements, jeux, retards, erreurs d'échelle ou décalages. Par ailleurs, le centre de la courbe fournit la meilleure valeur de la constante de calage de la référence instrumentale par rapport à la référence externe du marégraphe. Il convient par conséquent d'avoir autant de points de comparaison à marée montante qu'à marée descendante. Les passages à marée étale sont à éviter, car il est difficile d'identifier leur appartenance à la branche ascendante ou à la branche descendante.
Figure 49 : Allures caractéristiques de quelques défauts typiques du marégraphe à flotteur.
Des variantes du test de Van de Casteele ont été mises au point par d'autres personnes. Le manuel de l'UNESCO [IOC, 1985] présente justement une forme légèrement différente. La grandeur a priori constante en abscisses est la somme des mesures du marégraphe, hauteurs du plan d'eau au dessus de sa référence, et des relevés effectués avec une sonde, profondeurs du plan d'eau sous l'index de lecture du sondeur. Elle correspond donc à la hauteur de l'index de lecture au-dessus de la référence du marégraphe, quantité qui est obtenue par ailleurs avec précision à partir du repère de marée. Le principe du test est respecté.