From 1b158610f81ed633d2b5abd703b18b9712a6cd65 Mon Sep 17 00:00:00 2001 From: Jacob Lifshay Date: Mon, 17 Jul 2023 15:49:17 -0700 Subject: [PATCH] update to use new fminmax instruction --- openpower/isa/fptrans.mdwn | 646 +++----------------- openpower/isatables/RM-1P-2S1D.csv | 1 + openpower/isatables/fields.text | 2 +- openpower/isatables/minor_63.csv | 19 +- src/openpower/decoder/power_enums.py | 43 +- src/openpower/test/fptrans/fptrans_cases.py | 489 +++------------ 6 files changed, 165 insertions(+), 1035 deletions(-) diff --git a/openpower/isa/fptrans.mdwn b/openpower/isa/fptrans.mdwn index e6799bb1..0a13b3d7 100644 --- a/openpower/isa/fptrans.mdwn +++ b/openpower/isa/fptrans.mdwn @@ -1442,583 +1442,75 @@ Special Registers Altered: VXSNAN VXISI VXIMZ CR1 (if Rc=1) - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - +# [DRAFT] Floating Minimum/Maximum + +MM-Form + +* fminmax FRT,FRA,FRB,FMM (Rc=0) +* fminmax. FRT,FRA,FRB,FMM (Rc=1) + +Pseudo-code: + + result <- [0] * 64 + a <- (FRA) + b <- (FRB) + abs_a <- 0b0 || a[1:63] + abs_b <- 0b0 || b[1:63] + a_is_nan <- abs_a >u 0x7FF0_0000_0000_0000 + a_is_snan <- a_is_nan & (a[12] = 0) + b_is_nan <- abs_b >u 0x7FF0_0000_0000_0000 + b_is_snan <- b_is_nan & (b[12] = 0) + any_snan <- a_is_snan | b_is_snan + a_quieted <- a + a_quieted[12] = 1 + b_quieted <- b + b_quieted[12] = 1 + if a_is_nan | b_is_nan then + if FMM[2:3] = 0b00 then # min/maxnum08 + if a_is_snan then result <- a_quieted + else if b_is_snan then result <- b_quieted + else if a_is_nan & b_is_nan then result <- a_quieted + else if a_is_nan then result <- b + else result <- a + if FMM[2:3] = 0b01 then # min/max19 + if a_is_nan then result <- a_quieted + else result <- b_quieted + if FMM[2:3] = 0b10 then # min/maxnum19 + if a_is_nan & b_is_nan then result <- a_quieted + else if a_is_nan then result <- b + else result <- a + if FMM[2:3] = 0b11 then # min/maxc + result <- b + else + cmp_l <- a + cmp_r <- b + if FMM[1] then # min/maxmag + if abs_a != abs_b then + cmp_l <- abs_a + cmp_r <- abs_b + if FMM[2:3] = 0b11 then # min/maxc + if abs_a = 0 then cmp_l[0:63] <- 0 + if abs_b = 0 then cmp_r[0:63] <- 0 + if FMM[0] then # max + # swap cmp_* so comparison goes the other way + cmp_l, cmp_r <- cmp_r, cmp_l + if cmp_l[0] = 1 then + if cmp_r[0] = 0 then result <- a + else if cmp_l >u cmp_r then + # IEEE 754 is sign-magnitude, + # so bigger magnitude negative is smaller + result <- a + else result <- b + else if cmp_r[0] = 1 then result <- b + else if cmp_l