fpmul specialcase, nan x nan returns 0 nan
authorLuke Kenneth Casson Leighton <lkcl@lkcl.net>
Sun, 16 Jun 2019 12:18:28 +0000 (13:18 +0100)
committerLuke Kenneth Casson Leighton <lkcl@lkcl.net>
Sun, 16 Jun 2019 12:18:28 +0000 (13:18 +0100)
src/ieee754/fpmul/specialcases.py

index b7a59b37950a5425497db1a2b5e4d8457265b7ab..0149bb3ba8be6aab26b5970a900b76f49f5a3ebd 100644 (file)
@@ -67,7 +67,7 @@ class FPMulSpecialCasesMod(Elaboratable):
         # if a is NaN or b is NaN return NaN
         with m.If(abnan):
             m.d.comb += self.o.out_do_z.eq(1)
-            m.d.comb += self.o.z.nan(1)
+            m.d.comb += self.o.z.nan(0)
 
         # if a is inf return inf (or NaN)
         with m.Elif(a1.is_inf):