total shock! experimentation worked!
authorLuke Kenneth Casson Leighton <lkcl@lkcl.net>
Mon, 29 Apr 2019 14:38:33 +0000 (15:38 +0100)
committerLuke Kenneth Casson Leighton <lkcl@lkcl.net>
Mon, 29 Apr 2019 14:38:33 +0000 (15:38 +0100)
src/add/fsqrt.py

index 3b6d1f239ee19c1ba5f669ade6f55d64e1e897fb..2171646c51a54e7da9284105698ab18b84fe8349 100644 (file)
@@ -96,8 +96,8 @@ def fsqrt_test(x):
     s, e, m = decode_fp32(xbits)
     print("x decode", s, e, m, hex(m))
 
-    m |= 1<<24 # set top bit (the missing "1" from mantissa)
-    m <<= 24
+    m |= 1<<23 # set top bit (the missing "1" from mantissa)
+    m <<= 25
 
     sm, se = main(m, e)
     sm >>= 1