Die Abkürzung für Gleitkommaeinheit, die FPU ist Teil eines Computers, der speziell für mathematische Gleitkommaoperationen entwickelt wurde. Am 30. Oktober 1994 schickte Professor Thomas Nicely eine E-Mail, in der er darauf hinwies, dass es ein Problem mit den Intel Pentium-Prozessoren gab und wie sie die Fließkomma-Division durchführen.
Alle Intel Pentium-Prozessoren mit 120 MHz und höher sind von diesem Problem nicht betroffen. Wenn Sie dieses Problem dennoch testen möchten, führen Sie die folgende Berechnung in einem Taschenrechner durch.
Correct Answer 962,306,957,033 / 11,010,046 = 87,402.6282027341 Incorrect Answer 962,306,957,033 / 11,010,046 = 87,399.5805831329 Correct Answer 4,195,835 / 3,145,727 = 1.33382044913624100 Incorrect Answer 4,195,835 / 3,145,727 = 1.33373906890203759
Eine andere Möglichkeit, diesen Fehler zu testen, besteht darin, Microsoft Excel zu verwenden und die folgende Formel einzugeben.
=4195835-((4195835/3145727)*3145727)
Bei der Eingabe dieser Formel wird ein Ergebnis von 0 zurückgegeben.
Computer-Akronyme, Koprozessor, Gleitkomma, Gleitkomma-Koprozessor, Gleitkomma-Notationen, Hardware-Begriffe
