ISO 5436-2:2012

Geometrical product specifications (GPS) — Surface texture: Profile method; Measurement standards — Part 2: Software measurement standards

This part of ISO 5436 defines Type F1 and Type F2 software measurement standards (etalons) for verifying the software of measuring instruments. It also defines the file format of Type F1 software measurement standards for the calibration of instruments used for measuring the surface texture by the profile method defined in ISO 3274. NOTE 1 Throughout this part of ISO 5436, the term "softgauge" is used as a substitute for "software measurement standard Type F1". NOTE 2 Formerly, "measurement standards" were referred to as "calibration specimens". NOTE 3 ISO 3274 only refers to instruments with independent reference datums.

Spécification géométrique des produits (GPS) — État de surface: Méthode du profil; Étalons — Partie 2: Étalons logiciels

La présente partie de l'ISO 5436 définit les étalons logiciels de Type F1 et de Type F2, pour vérifier les logiciels des instruments de mesure. Elle définit également le format de fichier des étalons logiciels de Type F1 pour l'étalonnage d'instruments de mesure de l'état de surface par la méthode du profil telle que définie dans l'ISO 3274. NOTE 1 Tout au long de la présente partie de l'ISO 5436, «calibre virtuel» est utilisé en remplacement d'«étalon logiciel de Type F1». NOTE 2 Précédemment, les «étalons» étaient appelés «échantillons d'étalonnage». NOTE 3 L'ISO 3274 se réfère uniquement à des instruments intégrant leur référence de guidage.

General Information

• Status: Published
• Publication Date: 23-Sep-2012
• ICS: 17.040.30 - Measuring instruments
• Technical Committee: ISO/TC 213 - Dimensional and geometrical product specifications and verification
• Drafting Committee: ISO/TC 213 - Dimensional and geometrical product specifications and verification
• Current Stage: 9093 - International Standard confirmed
• Completion Date: 14-Apr-2023

Relations

• Revises: ISO 5436-2:2001 - Geometrical Product Specifications (GPS) — Surface texture: Profile method; Measurement standards — Part 2: Software measurement standards
• Effective Date: 31-Dec-2011

Standards Content (Sample)

INTERNATIONAL ISO
STANDARD 5436-2
Second edition
2012-10-01
Geometrical product specifications
(GPS) — Surface texture: Profile method;
Measurement standards —
Part 2:
Software measurement standards
Spécification géométrique des produits (GPS) — État de surface:
Méthode du profil; Étalons —
Partie 2: Étalons logiciels
Reference number
ISO 5436-2:2012(E)
©
ISO 2012

---------------------- Page: 1 ----------------------
ISO 5436-2:2012(E)
COPYRIGHT PROTECTED DOCUMENT
© ISO 2012
All rights reserved. Unless otherwise specified, no part of this publication may be reproduced or utilized in any form or by any means,
electronic or mechanical, including photocopying and microfilm, without permission in writing from either ISO at the address below or ISO’s
member body in the country of the requester.
ISO copyright office
Case postale 56 • CH-1211 Geneva 20
Tel. + 41 22 749 01 11
Fax + 41 22 749 09 47
E-mail [e-mail]
Web www.iso.org
Published in Switzerland
ii © ISO 2012 – All rights reserved

---------------------- Page: 2 ----------------------
ISO 5436-2:2012(E)
Contents Page
Foreword .iv
Introduction . v
1 Scope . 1
2 Normative references . 1
3 Terms and definitions . 1
4 Type F software measurement standards . 2
4.1 General . 2
4.2 Type F1 — Reference data . 3
4.3 Type F2 — Reference software . 3
5 File format for Type F1 reference data . 3
5.1 General . 3
5.2 Record 1 — Header . 4
5.3 Record 2 — Other information (optional and non-mandatory) . 6
5.4 Record 3 data . 8
5.5 Record 4 checksum . 9
6 Software measurement standard certificate . 9
Annex A (informative) Example of file format . 11
Annex B (informative) Relation to the GPS matrix model .15
Bibliography .17
© ISO 2012 – All rights reserved iii

---------------------- Page: 3 ----------------------
ISO 5436-2:2012(E)
Foreword
ISO (the International Organization for Standardization) is a worldwide federation of national standards bodies
(ISO member bodies). The work of preparing International Standards is normally carried out through ISO
technical committees. Each member body interested in a subject for which a technical committee has been
established has the right to be represented on that committee. International organizations, governmental and
non-governmental, in liaison with ISO, also take part in the work. ISO collaborates closely with the International
Electrotechnical Commission (IEC) on all matters of electrotechnical standardization.
International Standards are drafted in accordance with the rules given in the ISO/IEC Directives, Part 2.
The main task of technical committees is to prepare International Standards. Draft International Standards
adopted by the technical committees are circulated to the member bodies for voting. Publication as an
International Standard requires approval by at least 75 % of the member bodies casting a vote.
Attention is drawn to the possibility that some of the elements of this document may be the subject of patent
rights. ISO shall not be held responsible for identifying any or all such patent rights.
ISO 5436-2 was prepared by Technical Committee ISO/TC 213, Dimensional and geometrical product
specifications and verification.
This second edition cancels and replaces the first edition (ISO 5436-2:2001), which has been technically revised.
It also incorporates the Technical Corrigenda ISO 5436-2:2001/Cor.1:2006 and ISO 5436-2:2001/Cor.2:2008.
ISO 5436 consists of the following parts, under the general title Geometrical product specifications (GPS) —
Surface texture: Profile method; Measurement standards:
— Part 1: Material measures
— Part 2: Software measurement standards
iv © ISO 2012 – All rights reserved

---------------------- Page: 4 ----------------------
ISO 5436-2:2012(E)
Introduction
This part of ISO 5436 is a geometrical product specification (GPS) standard and is to be regarded as a general
GPS standard (see ISO/TR 14638). It influences chain link 6 of the chain of standards on roughness, waviness
and primary profiles.
The ISO/GPS Masterplan given in ISO/TR 14638 gives an overview of the ISO/GPS system of which this
document is a part. The fundamental rules of ISO/GPS given in ISO 8015 apply to this document and the
default decision rules given in ISO 14253-1 apply to specifications made in accordance with this document,
unless otherwise indicated.
For more detailed information on the relationship of this part of ISO 5436 to other standards and the GPS
matrix model, see Annex B.
This part of ISO 5436, together with ISO 5436-1, introduces two new measurement standards:
— Type E, for calibrating the profile co-ordinate system;
— Type F, for calibrating software.
This part of ISO 5436 is concerned with software measurement standards.
© ISO 2012 – All rights reserved v

---------------------- Page: 5 ----------------------
INTERNATIONAL STANDARD ISO 5436-2:2012(E)
Geometrical product specifications (GPS) — Surface texture:
Profile method; Measurement standards —
Part 2:
Software measurement standards
1 Scope
This part of ISO 5436 defines Type F1 and Type F2 software measurement standards (etalons) for verifying the
software of measuring instruments. It also defines the file format of Type F1 software measurement standards for
the calibration of instruments used for measuring the surface texture by the profile method defined in ISO 3274.
NOTE 1 Throughout this part of ISO 5436, the term “softgauge” is used as a substitute for “software measurement
standard Type F1”.
NOTE 2 Formerly, “measurement standards” were referred to as “calibration specimens”.
NOTE 3 ISO 3274 only refers to instruments with independent reference datums.
2 Normative references
The following referenced documents are indispensable for the application of this document. For dated
references, only the edition cited applies. For undated references, the latest edition of the referenced document
(including any amendments) applies.
ISO 3274:1996, Geometrical Product Specifications (GPS) — Surface texture: Profile method — Nominal
characteristics of contact (stylus) instruments
ISO 5436-1:2000, Geometrical Product Specifications (GPS) — Surface texture: Profile method; Measurement
standards — Part 1: Material measures
ISO 12085:1996, Geometrical Product Specifications (GPS) — Surface texture: Profile method — Motif parameters
ISO 16610-21:2011, Geometrical product specifications (GPS) — Filtration — Part 21: Linear profile filters:
Gaussian filters
ISO 17450-2:2012, Geometrical product specifications (GPS) — General concepts — Part 2: Basic tenets,
specifications, operators, uncertainties and ambiguities
ISO/IEC Guide 98-3:2008, Uncertainty of measurement — Part 3: Guide to the expression of uncertainty in
Measurement (GUM:1995)
ISO/IEC Guide 99:2007, International vocabulary of metrology — Basic and general concepts and
associated terms (VIM)
3 Terms and definitions
For the purposes of this document, the terms and definitions given in ISO 3274, ISO 5436-1, ISO 12085,
ISO 16610-21:2011, ISO/IEC Guide 99 and the following apply.
3.1
software measurement standard
reference data or reference software intended to reproduce the value of a measurand with known uncertainty
in order to verify the software used to calculate the measurand in a measuring instrument
© ISO 2012 – All rights reserved 1

---------------------- Page: 6 ----------------------
ISO 5436-2:2012(E)
3.2
ASCII string
array of ASCII characters terminating in
3.3
integer
2-byte representation of whole number
NOTE 1 Integers have a minimum value of −32 768 and a maximum value of +32 767.
NOTE 2 The less significant bytes are stored in memory addresses lower than those in which are stored the more
significant bytes.
3.4
unsigned integer
2-byte representation of a positive whole number
NOTE 1 Unsigned integers have a minimum value of 0 and a maximum value of 65 535.
NOTE 2 The less significant bytes are stored in memory addresses lower than those in which are stored the more
significant bytes.
3.5
long integer
4-byte representation of a whole number
NOTE 1 Long integers have a minimum value of −2 147 483 648 and a maximum value of [phone].
NOTE 2 The less significant bytes are stored in memory addresses lower than those in which are stored the more
significant bytes.
3.6
single precision float
4-byte representation consisting of a sign bit, an 8-bit excess −127 binary exponent and a 23-bit mantissa
representing numbers between 1,0 and 2,0
NOTE 1 Since the high-order bit of the mantissa is always 1, it is not stored in the number.
−38 +38
NOTE 2 Single precision floats have an approximate range of ±1,17e to ±3,4e .
NOTE 3 The less significant bytes are stored in memory addresses lower than those in which the more significant
bytes are stored.
3.7
double precision float
8-byte representation consisting of a sign bit, an 11-bit excess −1 023 binary exponent, and a 52-bit mantissa,
plus the implied high-order 1 bit
−308 +308
NOTE 1 Double precision floats have an approximate range of ±2,22e to ±2,22e .
NOTE 2 The less significant bytes are stored in memory addresses lower than those in which the more significant
bytes are stored.
4 Type F software measurement standards
4.1 General
Type F software measurement standards are designed to verify the measuring instrument’s software (i.e. filter
algorithms, parameter calculations, etc.).
These measurement standards can contain a form component which it shall be possible to remove.
2 © ISO 2012 – All rights reserved

---------------------- Page: 7 ----------------------
ISO 5436-2:2012(E)
4.2 Type F1 — Reference data
Type F1 measurement standards are computer data files that depict a digital representation of a primary profile
in a suitable recording medium.
Most of the operations between the total profile and primary profile are instrument-specific and, as a result, are
difficult to standardize. The primary profile is currently the first point where all the subsequent operations for
the definition of surface texture measurands are standardized and is thus chosen as the standardized point of
entry for type F1 softgauges.
A non-exhaustive, non-ordered, informative list of operations between the total profile and primary profile may
include the following.
— Adjustment for calibration — There are many different calibration models: gain factor, polynomial
corrections for curvilinear co-ordinates, interpolation method corrections for curvilinear co-ordinates, etc.
— Stylus tip correction — Corrects for the finite size and shape of the stylus.
— Decimation — Reduces the number of the data points for subsequent calculation.
— Equalization of interval of data points — Makes the data by using mathematical interpolation.
— Ls filtering — Convolutes with previous filtering (i.e. an anti-aliasing filter of an A/D convertor) to make a
true Gaussian filter.
— End effects — Removes a portion of the profile at the beginning and at the end to reduce possible end
effects due to, for example, Ls filtering, stylus tip correction, etc.
— Fitting of form by association — Total least squares, linear least squares, Chebychev (minimum zone),
fitting using robust norms (i.e. L1), one-sided fitting, Theil-Sen-type estimators.
— Removal of form from profile — Projection, orthogonal to line normal.
If the entry point for the F1 standard is before the primary profile (e.g. the total profile), the signal flow to
generate the primary profile (by steps like those exemplarily listed above) shall be agreed upon between the
producer and the user of the F1 standard.
NOTE The certified results for mathematically designed synthetic data can often be calculated directly without the
need for certification by Type F2 measurement standards.
4.3 Type F2 — Reference software
Type F2 measurement standards are reference software. Reference software consists of traceable computer
software against which software in a measuring instrument can be compared.
Type F2 measurement standards are used to test software by inputting a common data set into both the
software under test/calibration and the reference software, then comparing the results from the software under
test with the certified results from the reference software.
NOTE Type F2 measurement standards can also be used to certify Type F1 measurement standards.
Reference software values shall be traceable.
5 File format for Type F1 reference data
5.1 General
The file extension of this file protocol is .smd. The file protocol for the softgauge is divided into four separate
sections or records. Each record is composed of lines of information and, within each line, there are various
“fields” in which the information is coded. The file format is in 7-bit ASCII character code. Each line is terminated
by a carriage return () and line feed ().
© ISO 2012 – All rights reserved 3

---------------------- Page: 8 ----------------------
ISO 5436-2:2012(E)
Each record is terminated by an end of record () with a carriage return () and line feed ().
The last record is further terminated by an end of file (). For each field, the separator consists of
at least one space.
An example of a software file format is given in Annex A.
5.2 Record 1 — Header
The first record contains a fixed header that includes the following information:
— revision of the softgauge file format;
— file identifier;
— GPS feature type, number and name of the stored feature — axis information;
— number of data points in the profile;
— scaling of the data points;
— resolution of the data points.
The first line of record 1 contains two fields:
— The_revision_number;
— File_identifier.
Table 1 gives valid options for these fields.
Table 1 — Fields for line 1 of record 1
Field name Valid options/examples Comment
The_revision_number ‘ISO 5436-2 - 2012’ ASCII string
File_identifier ‘XXXXXX’ ASCII string
The second line of record 1 contains three fields:
— Feature_type;
— Feature_number;
— Feature_name.
Table 2 gives valid options for these fields.
Table 2 — Fields for line 2 of record 1
Field name Valid options/Examples Comment(s)
‘PRF’ Profile data {i.e. (X,Z), (R,A), etc.}
Feature_type
‘SUR’ Surface data {i.e. (X,Y,Z), (R,A,Z), etc.}
Feature_number 0 Unsigned integer
Feature_name ‘ISO000’
ASCII string
Each of the remaining lines of record 1 contains at least six fields:
— Axis_name;
— Axis_type;
4 © ISO 2012 – All rights reserved

---------------------- Page: 9 ----------------------
ISO 5436-2:2012(E)
— Number_of_points;
— Units;
— Scale_factor;
— Axis_data_type.
A seventh field, containing the incremental value, is added if the axis type is incremental.
See Figure 1 for an example.
Each axis in the softgauge has a line allocated to it. Thus, for a profile there will be two remaining lines — one
for the X axis and one for the Z axis.
Table 3 gives valid options for these fields.
Table 3 — Fields for the remaining lines of record 1
Field name Valid options/Examples Comments
‘CX’ Cartesian X axis
‘CY’ Cartesian Y axis
Axis_name ‘CZ’ Cartesian Z axis
‘PR’ Polar radius
‘PA’ Polar angle
a
‘A’ Absolute data
b
Axis_type
‘I’ Incremental data
c
‘R’ Relative data
Number of data points
Number_of_points 4003
...

NORME ISO
INTERNATIONALE 5436-2
Deuxième édition
2012-10-01
Spécification géométrique des produits
(GPS) — État de surface: Méthode du
profil; Étalons —
Partie 2:
Étalons logiciels
Geometrical Product Specifications (GPS) — Surface texture: Profile
method; Measurement standards —
Part 2: Software measurement standards
Numéro de référence
ISO 5436-2:2012(F)
©
ISO 2012

---------------------- Page: 1 ----------------------
ISO 5436-2:2012(F)
DOCUMENT PROTÉGÉ PAR COPYRIGHT
© ISO 2012
Droits de reproduction réservés. Sauf prescription différente, aucune partie de cette publication ne peut être reproduite ni utilisée sous
quelque forme que ce soit et par aucun procédé, électronique ou mécanique, y compris la photocopie et les microfilms, sans l’accord écrit
de l’ISO à l’adresse ci-après ou du comité membre de l’ISO dans le pays du demandeur.
ISO copyright office
Case postale 56 • CH-1211 Geneva 20
Tel. + 41 22 749 01 11
Fax + 41 22 749 09 47
E-mail [e-mail]
Web www.iso.org
Publié en Suisse
ii © ISO 2012 – Tous droits réservés

---------------------- Page: 2 ----------------------
ISO 5436-2:2012(F)
Sommaire Page
Avant-propos .iv
Introduction . v
1 Domaine d’application . 1
2 Références normatives . 1
3 Termes et définitions . 1
4 Étalons logiciels de Type F .3
4.1 Généralités .3
4.2 Type F1 — Données de référence .3
4.3 Type F2 — Logiciel de référence .3
5 Format de fichier pour données de référence de Type F1 .4
5.1 Généralités .4
5.2 Enregistrement 1 — En-tête .4
5.3 Enregistrement 2 — Autres informations (optionnelles et non obligatoires) .6
5.4 Enregistrement 3 — Données .9
5.5 Enregistrement 4, somme pour la vérification (checksum) .10
6 Certificat d’étalonnage des étalons logiciels .10
Annexe A (informative) Exemple de format de fichier .12
Annexe B (informative) Relation avec la matrice GPS.16
Bibliographie .18
© ISO 2012 – Tous droits réservés iii

---------------------- Page: 3 ----------------------
ISO 5436-2:2012(F)
Avant-propos
L’ISO (Organisation internationale de normalisation) est une fédération mondiale d’organismes nationaux de
normalisation (comités membres de l’ISO). L’élaboration des Normes internationales est en général confiée aux
comités techniques de l’ISO. Chaque comité membre intéressé par une étude a le droit de faire partie du comité
technique créé à cet effet. Les organisations internationales, gouvernementales et non gouvernementales,
en liaison avec l’ISO participent également aux travaux. L’ISO collabore étroitement avec la Commission
électrotechnique internationale (CEI) en ce qui concerne la normalisation électrotechnique.
Les Normes internationales sont rédigées conformément aux règles données dans les Directives ISO/CEI, Partie 2.
La tâche principale des comités techniques est d’élaborer les Normes internationales. Les projets de Normes
internationales adoptés par les comités techniques sont soumis aux comités membres pour vote. Leur publication
comme Normes internationales requiert l’approbation de 75 % au moins des comités membres votants.
L’attention est appelée sur le fait que certains des éléments du présent document peuvent faire l’objet de droits
de propriété intellectuelle ou de droits analogues. L’ISO ne saurait être tenue pour responsable de ne pas avoir
identifié de tels droits de propriété et averti de leur existence.
L’ISO 5436-2 a été élaborée par le comité technique ISO/TC 213, Spécifications et vérification dimensionnelles
et géométriques des produits.
Cette deuxième édition annule et remplace la première édition (ISO 5436-2:2001), qui a fait l’objet d’une
révision technique. Elle incorpore également les Rectificatifs techniques ISO 5436-2:2001/Cor.1:2006 et
ISO 5436-2:2001/Cor.2:2008.
L’ISO 5436 comprend les parties suivantes, présentées sous le titre général Spécification géométrique des
produits (GPS) — État de surface: Méthode du profil; Étalons:
— Partie 1: Mesures matérialisées
— Partie 2: Étalons logiciels
iv © ISO 2012 – Tous droits réservés

---------------------- Page: 4 ----------------------
ISO 5436-2:2012(F)
Introduction
La présente partie de l’ISO 5436 qui traite de la spécification géométrique des produits (GPS) est considérée
comme une norme GPS générale (voir l’ISO/TR 14638). Elle influence le maillon 6 des chaînes de normes sur
la rugosité, l’ondulation et le profil primaire.
Le schéma directeur ISO/GPS de l’ISO/TR 14638 donne une vue d’ensemble du système ISO/GPS, dont
le présent document fait partie. Les principes fondamentaux du système ISO/GPS donnés dans l’ISO 8015
s’appliquent au présent document et les règles de décision par défaut données dans l’ISO 14253-1 s’appliquent
aux spécifications faites conformément au présent document, sauf indication contraire.
Pour de plus amples informations sur la relation de la présente partie de l’ISO 5436 avec les autres normes et
la matrice GPS, voir l’Annexe B.
La présente partie de l’ISO 5436, conjointement avec l’ISO 5436-1, introduit deux nouveaux étalons:
— Type E, pour étalonner le système de coordonnées de profil;
— Type F, pour étalonner le logiciel.
La présente partie de l’ISO 5436 a pour objet les étalons logiciels.
© ISO 2012 – Tous droits réservés v

---------------------- Page: 5 ----------------------
NORME INTERNATIONALE ISO 5436-2:2012(F)
Spécification géométrique des produits (GPS) — État de
surface: Méthode du profil; Étalons —
Partie 2:
Étalons logiciels
1 Domaine d’application
La présente partie de l’ISO 5436 définit les étalons logiciels de Type F1 et de Type F2, pour vérifier les logiciels
des instruments de mesure. Elle définit également le format de fichier des étalons logiciels de Type F1 pour
l’étalonnage d’instruments de mesure de l’état de surface par la méthode du profil telle que définie dans l’ISO 3274.
NOTE 1 Tout au long de la présente partie de l’ISO 5436, «calibre virtuel» est utilisé en remplacement d’«étalon
logiciel de Type F1».
NOTE 2 Précédemment, les «étalons» étaient appelés «échantillons d’étalonnage».
NOTE 3 L’ISO 3274 se réfère uniquement à des instruments intégrant leur référence de guidage.
2 Références normatives
Les documents de référence suivants sont indispensables pour l’application du présent document. Pour les
références datées, seule l’édition citée s’applique. Pour les références non datées, la dernière édition du
document de référence s’applique (y compris les éventuels amendements).
ISO 3274:1996, Spécification géométrique des produits (GPS) — État de surface: Méthode du profil —
Caractéristiques nominales des appareils à contact (palpeur)
ISO 5436-1:2000, Spécification géométrique des produits (GPS) — État de surface: Méthode du profil;
Étalons — Partie 1: Mesures matérialisées
ISO 12085:1996, Spécification géométrique des produits (GPS) — État de surface: Méthode du profil —
Paramètres liés aux motifs
ISO 16610-21:2011, Spécification géométrique des produits (GPS) — Filtrage — Partie 21: Filtres de profil
linéaires: Filtres gaussiens
ISO 17450-2:2012, Spécification géométrique des produits (GPS) — Concepts généraux — Partie 2: Principes
de base, spécifications, opérateurs, incertitudes et ambiguïtés
Guide ISO/CEI 98-3:2008, Incertitude de mesure — Partie 3: Guide pour l’expression de l’incertitude de
mesure (GUM:1995)
Guide ISO/CEI 99:2007, Vocabulaire international de métrologie — Concepts fondamentaux et généraux et
termes associés (VIM)
3 Termes et définitions
Pour les besoins du présent document, les termes et définitions donnés dans l’ISO 3274, l’ISO 5436-1,
l’ISO 12085, l’ISO 16610-21:2011, le Guide ISO/CEI 99 et les suivants s’appliquent.
© ISO 2012 – Tous droits réservés 1

---------------------- Page: 6 ----------------------
ISO 5436-2:2012(F)
3.1
étalon logiciel
donnée ou logiciel de référence destiné(e) à reproduire la valeur d’un mesurande avec une incertitude connue
afin de vérifier le logiciel utilisé pour calculer le mesurande dans un instrument de mesure
3.2
chaîne de caractères ASCII
ensemble de caractères ASCII se terminant par
3.3
entier
représentation d’un nombre entier codée sur 2 octets
NOTE 1 Les entiers ont une valeur minimale de −32 768 et une valeur maximale de +32 767.
NOTE 2 Les octets de plus faible poids sont stockés dans des adresses mémoires inférieures à celles utilisées pour
les octets de plus fort poids.
3.4
entier non signé
représentation d’un nombre entier positif codée sur 2 octets
NOTE 1 Les entiers non signés ont une valeur minimale de 0 et une valeur maximale de 65 535.
NOTE 2 Les octets de plus faible poids sont stockés dans des adresses mémoires inférieures à celles utilisées pour
les octets de plus fort poids.
3.5
entier long
représentation d’un nombre entier codée sur 4 octets
NOTE 1 Les entiers longs ont une valeur minimale de −2 147 483 648 et une valeur maximale de [phone].
NOTE 2 Les octets de plus faible poids sont stockés dans des adresses mémoires inférieures à celles utilisées pour
les octets de plus fort poids.
3.6
flottant en simple précision
représentation sur 4 octets composée d’un bit de signe, d’un exposant binaire sur les 8 bits suivants de l’octet
concerné (−127) et d’une mantisse sur 23 bits qui représente des nombres compris entre 1,0 et 2,0
NOTE 1 Étant donné que le bit de poids le plus élevé de la mantisse est toujours 1, il n’est pas stocké dans le nombre.
−38 +38
NOTE 2 Les flottants en simple précision se situent approximativement entre ±1,17e et ±3,4e .
NOTE 3 Les octets de plus faible poids sont stockés dans des adresses mémoires inférieures à celles utilisées pour
les octets de plus fort poids.
3.7
flottant en double précision
représentation sur 8 octets composée d’un bit de signe, d’un exposant binaire sur les 11 bits suivants de l’octet
concerné (−1 023) et d’une mantisse sur 52 bits plus le bit ayant implicitement le poids le plus fort
−308 +308
NOTE 1 Les flottants en double précision se situent approximativement entre ±2,22e et ±2,22e .
NOTE 2 Les octets de plus faible poids sont stockés dans des adresses mémoires inférieures à celles utilisées pour
les octets de plus fort poids.
2 © ISO 2012 – Tous droits réservés

---------------------- Page: 7 ----------------------
ISO 5436-2:2012(F)
4 Étalons logiciels de Type F
4.1 Généralités
Ces étalons logiciels sont conçus pour vérifier les logiciels des instruments de mesure (c’est-à-dire les
algorithmes de filtrage, les calculs de paramètres, etc.).
Les étalons peuvent contenir une composante de forme qu’il doit être possible de retirer.
4.2 Type F1 — Données de référence
Ces étalons logiciels sont des fichiers de données informatiques fournissant une représentation numérique de
l’ensemble d’un profil primaire sur un support d’enregistrement adapté.
La plupart des opérations entre le profil total et le profil primaire sont spécifiques à l’instrument et sont par
conséquent difficiles à normaliser. Le profile primaire est actuellement le premier point où toutes les opérations
ultérieures pour la définition des mesurandes de l’état de surface sont normalisées et est ainsi choisi comme
point d’entrée pour les calibres virtuels de type F1.
Une liste informative des opérations non ordonnée et non exhaustive entre le profil total et le profil primaire
peut comprendre:
— Ajustement pour étalonnage — Il existe différents modèles d’étalonnage: facteur de gain, corrections
polynomiales pour coordonnées curvilignes, corrections par méthode d’interpolation pour coordonnées
curvilignes, etc.
— Correction de la pointe du stylet — Correction de la taille et de la forme du stylet.
— Décimation — Réduction du nombre de points de données pour des calculs ultérieurs.
— Rééchantillonnage des points de données — Création de données en utilisant l’interpolation
mathématique.
— Filtrage Ls — Convolution avec un filtrage en amont (par exemple le filtre anti-aliasing d’un convertisseur
A/D) pour obtenir au final un filtre gaussien.
— Effets de bord — Retrait d’une portion du profil au commencement et à la fin du profil pour réduire
d’éventuels effets de bord causés, par exemple par: le filtrage Ls, la correction de la pointe du stylet, etc.
— Association d’une forme nominale — Moindres carrés totaux, moindres carrés linéaires, Tchebychev
(«minimum zone»), association robuste (par exemple norme L1), association unilatérale, estimateurs de
type Theil-Sen.
— Suppression de la forme nominale du profil — Projection verticale ou normale au profil.
Si le point d’entrée pour l’étalon F1 est situé avant le profil primaire (par exemple le profil total), le flux du signal
pour générer le profil primaire (par étapes comme celles énumérées ci-dessus) doit faire l’objet d’un accord
entre le producteur et l’utilisateur de l’étalon F1.
NOTE Les résultats certifiés pour les données synthétiques définies mathématiquement peuvent souvent être
calculés directement sans qu’il y ait besoin d’une certification par les étalons logiciels de Type F2.
4.3 Type F2 — Logiciel de référence
Ces étalons logiciels sont des logiciels de référence. Les logiciels de référence sont des logiciels informatiques
raccordables auxquels les logiciels d’un instrument de mesure peuvent être comparés.
Les étalons de Type F2 sont utilisés pour essayer les logiciels en entrant un ensemble commun de données
dans le logiciel soumis à l’essai/à l’étalonnage et dans le logiciel de référence, puis en comparant les résultats
obtenus avec le logiciel soumis à essai aux résultats certifiés du logiciel de référence.
NOTE Les étalons logiciels de Type F2 peuvent aussi être utilisés pour certifier les étalons logiciels de Type F1.
© ISO 2012 – Tous droits réservés 3

---------------------- Page: 8 ----------------------
ISO 5436-2:2012(F)
La traçabilité des valeurs du logiciel de référence doit être assurée.
5 Format de fichier pour données de référence de Type F1
5.1 Généralités
L’extension de fichier de ce protocole est .smd. Le protocole de fichier pour le calibre virtuel se divise en quatre
sections ou enregistrements distinct(e)s. Chaque enregistrement se compose de plusieurs lignes d’information
et chaque ligne contient des «champs» dans lesquels l’information est codée. Le format de fichier utilise le
codage de caractères ASCII sur 7 bits. Chaque ligne se termine par un retour chariot () et par une nouvelle
ligne ().
Chaque enregistrement se termine par une marque de fin d’enregistrement , un retour chariot
() et une nouvelle ligne (). Le dernier enregistrement se termine en plus par une marque de fin de
fichier . Pour chaque champ, le séparateur consiste en au moins un espace.
Un exemple de format de fichier est donné dans l’Annexe A.
5.2 Enregistrement 1 — En-tête
Le premier enregistrement contient un en-tête défini comprenant les informations suivantes:
— version du format de fichier du calibre virtuel;
— identificateur de fichier;
— type d’élément GPS ainsi que le numéro et le nom de l’élément stocké — information sur l’axe;
— nombre de points de données du profil;
— échelle des points de données;
— résolution des points de données.
La première ligne de l’enregistrement 1 contient deux champs:
— The_revision_number (le numéro de révision),
— File_identifier (identificateur de fichier).
Le Tableau 1 donne des options possibles pour remplir ces champs.
Tableau 1 — Champs de la ligne 1 de l’enregistrement 1
Nom du champ Options possibles/exemples Commentaires
The_revision_number
‘ISO 5436-2 – 2012’ Chaîne de caractères ASCII
(Numéro de révision)
File_identifier
‘XXXXXX’
Chaîne de caractères ASCII
(Identificateur de fichier)
La seconde ligne de l’enregistrement 1 contient trois champs:
— Feature_type (type d’élément);
— Feature_number (numéro d’élément);
— Feature_name (nom de l’élément).
Le Tableau 2 indique des options possibles pour remplir ces champs.
4 © ISO 2012 – Tous droits réservés

---------------------- Page: 9 ----------------------
ISO 5436-2:2012(F)
Tableau 2 — Champs de la ligne 2 de l’enregistrement 1
Nom du champ Options possibles/exemples Commentaires
‘PRF’
Données sur le profil {c’est-à-dire (X,Z),
(R,A), etc.}
Feature_type
(Type d’élément)
‘SUR’
Données sur la surface {c’est-à-dire (X,Y,Z),

(R,A,Z), etc.}
Feature_number
0
Entier non signé
(Numéro d’élément)
Feature_name
‘ISO000’ Chaîne de caractères ASCII
(Nom de l’élément)
Chacune des autres lignes de l’enregistrement 1 contient au moins six champs:
— Axis_name (nom de l’axe);
— Axis_type (type d’axe);
— Number_of_points (nombre de points);
— Units (unités);
— Scale_factor (facteur d’échelle);
— Axis_data_type (type de donnée de l’axe).
Un septième champ contenant la valeur incrémentée est ajouté si le type d’axe est incrémenté.
Pour un exemple d’enregistrement 1, voir Figure 1.
À chaque axe du calibre virtuel correspond une ligne. Pour un profil, il restera ainsi deux lignes dont une pour
l’axe des X et l’autre pour l’axe des Z.
Le Tableau 3 donne des options possibles pour remplir ces champs.
© ISO 2012 – Tous droits réservés 5

---------------------- Page: 10 ----------------------
ISO 5436-2:2012(F)
Tableau 3 — Champs des autres lignes de l’enregistrement 1
Nom du champ Options possibles/Exemples Commentaires
‘CX’ Axe des X dans un repère cartésien
‘CY’
Axe des Y dans un repère cartésien
Axis_name
‘CZ’
Axe des Z dans un repère cartésien
(Nom de l’axe)
‘PR’ Rayon polaire
‘PA’ Angle polaire
a
‘A’ Donnée absolue
Axis_type
b
‘I’ Donnée incrémentée
(Type d’axe)
c
‘R’
Donnée relative
Number_of_points Nombre de points de données
4003
(Nombre de points) (Entier long non signé)
‘m’
mètres
‘mm’
millimètres
Units ‘um’ micromètres
(Unités) ‘nm’ nanomètres
‘rad’
radians
‘deg’
degrés
Scale_factor Échelle dans les unités indiquées
1.0e0
(Facteur d’échelle) (flottant en double précision)
‘I’
Entier
‘L’
...