vect: Fix infinite loop while determining peeling amount
authorStefan Schulze Frielinghaus <stefansf@linux.ibm.com>
Wed, 22 Jul 2020 07:27:49 +0000 (09:27 +0200)
committerStefan Schulze Frielinghaus <stefansf@linux.ibm.com>
Wed, 29 Jul 2020 08:44:12 +0000 (10:44 +0200)
This is a follow up to commit 5c9669a0e6c respectively discussion
https://gcc.gnu.org/pipermail/gcc-patches/2020-June/549132.html

In case a type has a lower alignment than its size, ensure that we
advance.  For example, on s390x we have for a long double an alignment
constraint of 8 bytes whereas the size is 16 bytes.  Increasing the loop
variable only by TARGET_ALIGN / DR_SIZE which equals zero in case of a
long double results in an infinite loop.  This is fixed by ensuring that
we advance at least by one.

gcc/ChangeLog:

* tree-vect-data-refs.c (vect_enhance_data_refs_alignment):
Ensure that loop variable npeel_tmp advances in each iteration.

gcc/tree-vect-data-refs.c

index e35a215e042478d11d6545f1f829d816d0c3620f..a78ae61d1b07f0e43367f9b74c4995e0d481cebf 100644 (file)
@@ -1779,7 +1779,7 @@ vect_enhance_data_refs_alignment (loop_vec_info loop_vinfo)
                 {
                   vect_peeling_hash_insert (&peeling_htab, loop_vinfo,
                                            dr_info, npeel_tmp);
-                 npeel_tmp += target_align / dr_size;
+                 npeel_tmp += MAX (1, target_align / dr_size);
                 }
 
              one_misalignment_known = true;