web-dev-qa-db-fra.com

Échelle contre précision - Pourquoi cette définition?

Depuis le Microsoft Documentation concernant T-SQL/SQL Server:

La précision est le nombre de chiffres dans un nombre. L'échelle est le nombre de chiffres à droite du point décimal d'un certain nombre. Par exemple, le nombre 123.45 a une précision de 5 et une échelle de 2.

Au non-expert naïf (= moi) c'est toujours un peu déroutant. Je m'aurais attendu à ce que l'inverse.

  • Comment le nombre total de chiffres se rapporter au concept quotidien de précision (comment "exactement" quelque chose est mesuré)?
  • Comment puis-je penser au nombre de décimales en termes de Échelle (comment "Big" quelque chose est)?

Juste pour être clair: ce n'est pas une déclaration déguisée comme une question et plus qu'une simple curiosité. Je suis convaincu qu'il y a une bonne raison pour cette terminologie, et je pense que je peux apprendre des bases de données en comprenant la pensée sous-jacente ici. (Si cette question est considérée comme trop basique pour ici, je comprends.)

4
ikweethetniet

La précision et l'échelle sont basées sur le concept mathématique de chiffres significatifs . Vous n'êtes pas seul en ce que la définition/utilisation actuelle pour ces termes est déroutante.

Comment le nombre total de chiffres concerne-t-il le concept quotidien de la précision (comment "exactement" quelque chose est mesuré)?

Tout d'abord, vous devez vous rappeler que tout dans les ordinateurs est représenté en binaire; Cependant, tous les chiffres ne sont pas facilement représentés à l'aide de la syntaxe binaire, en particulier lorsqu'il s'agit de certaines fractions. Une telle fraction, ⅓, est en fait impossible à représenter dans un ordinateur. Même avec la plus grande quantité de mémoire possible, un ordinateur ne sera jamais en mesure de représenter avec précision ⅓ sous forme binaire. Cependant, il peut devenir plus précis (par exemple proche) à ⅓ avec les autres bits (par exemple et donc décimales) qui sont jetés.

PRECISION On peut donc penser comme Comment exactement Un numéro que vous souhaitez représenter. Plus les chiffres sont plus précis que le nombre devient précisé.

Comment puis-je penser au nombre de décimales en termes d'échelle (comment "Big" quelque chose est)?

Puisque la précision est une mesure de Comment exactement Le numéro que vous souhaitez représenter est et nous savons que nous sommes limités dans combien nous pouvons stocker, vous devez sacrifier la précision à l'échelle. Donc, fondamentalement, plus l'échelle est petite, la valeur finale plus grande peut devenir plus grande.

L'échelle peut être expliquée au mieux comment nous examinons les cartes. Une carte d'un état ou d'une province montre une grande échelle de surface moins détaillée, tandis qu'une carte d'une ville montre une zone plus petite à plus en détail.

Échelle peut donc être considérée comme le quantité de détail. Plus nous voulons transmettre des détails avec le coût de la montrage moins de choses réelles.

Je ne sais pas si cela vous aide du tout, mais j'espère que cela contribue à fournir un contexte derrière les définitions de ces termes.

3
John Eisbrener

Comme indiqué dans la liaison Wikipedia de Ypercube, précision est lié au concept de chiffres significatifs (ou chiffres significatifs).

Exemple: si vous avez une échelle qui mesure la masse vers le milligramme, et que vous avez un précision de huit chiffres (trois à droite du point décimal, juste pour l'argument de l'argument), vous pouvez dire Quelque chose a une masse de 12345 000 grammes, 12345,333 grammes, ou 12344.555 grammes. Si, en revanche, vous n'avez qu'une précision de cinq chiffres, toutes ces personnes seraient répertoriées sous forme de 12345 grammes - par conséquent, votre représentation est moins précise.

En ce qui concerne l'échelle - clairement, un nombre avec une précision et une échelle de (8,0) peut représenter un numéro trois ordres de grandeur plus grand que celui d'une échelle de (8,3) (12345678> 12345.678). À ma façon de penser, c'est une définition valide de l'échelle.

1
RDFozz