compute 2nd svindex dimension using unsignee compare
authorLuke Kenneth Casson Leighton <lkcl@lkcl.net>
Mon, 11 Jul 2022 00:45:09 +0000 (01:45 +0100)
committerLuke Kenneth Casson Leighton <lkcl@lkcl.net>
Mon, 11 Jul 2022 00:45:09 +0000 (01:45 +0100)
openpower/isa/simplev.mdwn

index 745bd11192142d2de1f522c490e7d1bf0f9a3cb9..62f762beba1513f2e1e95c25e51f61aafdffd71d 100644 (file)
@@ -273,11 +273,11 @@ SVI-Form
 
 Pseudo-code:
 
-    # based on MAXVL compute other dimension
+    # based on nearest MAXVL compute other dimension
     MVL <- SVSTATE[0:6]
     d <- [0] * 6
     dim <- SVd+1
-    do while d*dim < ([0]*4 || MVL)
+    do while d*dim <u ([0]*4 || MVL)
        d <- d + 1
     # set up template, then copy once location identified
     shape <- [0]*32