Fix bug in Ada packed array handling
authorTom Tromey <tromey@adacore.com>
Tue, 20 Sep 2022 14:39:09 +0000 (08:39 -0600)
committerTom Tromey <tromey@adacore.com>
Fri, 21 Oct 2022 15:40:58 +0000 (09:40 -0600)
A user found a bug where an array of packed arrays was printed
incorrectly.  The bug here is that the packed array has a bit stride,
but the outer array does not -- and should not.  However,
update_static_array_size does not distinguish between an array of
packed arrays and a multi-dimensional packed array, and for the
latter, only the innermost array will end up with a stride.

This patch fixes the problem by adding a flag to indicate whether a
given array type is a constituent of a multi-dimensional array.

gdb/dwarf2/read.c
gdb/gdbtypes.c
gdb/gdbtypes.h
gdb/testsuite/gdb.ada/packed_array.exp
gdb/testsuite/gdb.ada/packed_array/pa.adb

index 89ba9122e91096ee799ece4277831c7102094e12..7de89dd59235446a901b1f100d8997756ef0de36 100644 (file)
@@ -15690,6 +15690,7 @@ read_array_type (struct die_info *die, struct dwarf2_cu *cu)
        {
          type = create_array_type_with_stride (NULL, type, range_types[i++],
                                                byte_stride_prop, bit_stride);
+         type->set_is_multi_dimensional (true);
          bit_stride = 0;
          byte_stride_prop = nullptr;
        }
@@ -15701,11 +15702,14 @@ read_array_type (struct die_info *die, struct dwarf2_cu *cu)
        {
          type = create_array_type_with_stride (NULL, type, range_types[ndim],
                                                byte_stride_prop, bit_stride);
+         type->set_is_multi_dimensional (true);
          bit_stride = 0;
          byte_stride_prop = nullptr;
        }
     }
 
+  /* Clear the flag on the outermost array type.  */
+  type->set_is_multi_dimensional (false);
   gdb_assert (type != element_type);
 
   /* Understand Dwarf2 support for vector types (like they occur on
index ecccaf77405cbd3f65fd5a020637ef0b6e1f1341..a43d9265ad23c13c1ffcb5cce56de2831115452a 100644 (file)
@@ -1319,6 +1319,7 @@ update_static_array_size (struct type *type)
         wrong size when trying to find elements of the outer
         array.  */
       if (element_type->code () == TYPE_CODE_ARRAY
+         && (stride != 0 || element_type->is_multi_dimensional ())
          && element_type->length () != 0
          && TYPE_FIELD_BITSIZE (element_type, 0) != 0
          && get_array_bounds (element_type, &low_bound, &high_bound)
index 19700a7153e2bf39874360a32169249d45329364..7b10c8448e65b28d1979d18ee69cd8f91785d199 100644 (file)
@@ -927,6 +927,15 @@ struct main_type
 
   unsigned int m_flag_flag_enum : 1;
 
+  /* * For TYPE_CODE_ARRAY, this is true if this type is part of a
+     multi-dimensional array.  Multi-dimensional arrays are
+     represented internally as arrays of arrays, and this flag lets
+     gdb distinguish between multiple dimensions and an ordinary array
+     of arrays.  The flag is set on each inner dimension, but not the
+     outermost dimension.  */
+
+  unsigned int m_multi_dimensional : 1;
+
   /* * A discriminant telling us which field of the type_specific
      union is being used for this type, if any.  */
 
@@ -1350,6 +1359,18 @@ struct type
     this->main_type->m_flag_flag_enum = is_flag_enum;
   }
 
+  /* True if this array type is part of a multi-dimensional array.  */
+
+  bool is_multi_dimensional () const
+  {
+    return this->main_type->m_multi_dimensional;
+  }
+
+  void set_is_multi_dimensional (bool value)
+  {
+    this->main_type->m_multi_dimensional = value;
+  }
+
   /* * Assuming that THIS is a TYPE_CODE_FIXED_POINT, return a reference
      to this type's fixed_point_info.  */
 
index eb857f7e56417423db1fa9717f4ca190d40d6bea..df34f31348a625b103ace6ac364ac5c5237c53cb 100644 (file)
@@ -57,4 +57,10 @@ foreach_with_prefix scenario {all minimal} {
            xfail $test
        }
     }
+
+    set line "(4 => true, false, true, false, true)"
+    gdb_test "print o_var" \
+       [string_to_regexp " = ($line, $line, $line, $line)"]
+    gdb_test "print o2_var" \
+       [string_to_regexp " = ($line, $line, $line, $line)"]
 }
index 2955f986b004f69d0da0a512d4b4a05f623f607e..bb6a2acd388d40b6edc5d9f2d20ecf2d966a9e80 100644 (file)
@@ -27,6 +27,20 @@ procedure PA is
 
    U_Var : Unconstrained_Packed_Array (1 .. Ident (6));
 
+   -- Note that this array is not packed.
+   type Outer_Array is array (1 .. 4) of Packed_Array;
+   O_Var : Outer_Array := ((true, false, true, false, true),
+                           (true, false, true, false, true),
+                           (true, false, true, false, true),
+                           (true, false, true, false, true));
+
+   type Outer_Array2 is array (1 .. 4) of Packed_Array;
+   pragma pack (Outer_Array2);
+   O2_Var : Outer_Array2 := ((true, false, true, false, true),
+                           (true, false, true, false, true),
+                           (true, false, true, false, true),
+                           (true, false, true, false, true));
+
 begin
 
    Var := (True, False, True, False, True);