Az eredmény nagymértékben függ attól, milyen helyiértékre képes a gép, nomeg a szoftverben felhasznált változók deklarálása szerint kerekítve értékes tizedeseket veszíthet, rontva a pontosságot
Integer 2 bytes -32,768 to 32,767
Long (long integer) 4 bytes -2,147,483,648 to 2,147,483,647
Single (single-precision floating-point) 4 bytes -3.402823E38 to -1.401298E-45 for negative values; 1.401298E-45 to 3.402823E38 for positive values
Double (double-precision floating-point) 8 bytes -1.79769313486232E308 to -4.94065645841247E-324 for negative values; 4.94065645841247E-324 to 1.79769313486232E308 for positive values
Decimal 14 bytes +/-79,228,162,514,264,337,593,543,950,335 with no decimal point;
+/-7.9228162514264337593543950335 with 28 places to the right of the decimal; smallest non-zero number is +/-0.0000000000000000000000000001
Erre képes egy átlagos PC, már ez is csoda, ám igazán pontos számításhoz kevés mint "mackósajtban a brummogás", de "közönséges halandónak bõven elég" nevet Anno a fizikaszakkörben örültünk ha a relés összeadógépen kigyulladt a lámpa hogy 1+1=10. De rég vót... Örülök hogy ekkora változásnak voltam a szemtanúja, idõnként tevõleges résztvevõje nevet
Bocs az OFF-ért, jó napot jó kedvet nevet