asan: signed integer overflow in display_debug_frames
authorAlan Modra <amodra@gmail.com>
Wed, 14 Dec 2022 01:44:13 +0000 (12:14 +1030)
committerAlan Modra <amodra@gmail.com>
Wed, 14 Dec 2022 02:37:43 +0000 (13:07 +1030)
commitd0517d6e333c4b6aaae411648628e2923e1f83aa
tree7456c999744e9b20a4d70dfa147dc25868a668e0
parentbd5efa59305b4f84da4d7ece171acf37ee2c99a4
asan: signed integer overflow in display_debug_frames

* dwarf.c (struct Frame_Chunk): Make col_offset an int64_t.
Adjust all places allocating col_offset and col_type to use
the size of the array element rather than the size of a type.
(frame_display_row): Adjust printing of col_offset.
(display_debug_frames): Factor out multiplication by
code_factor and data_factor.  Avoid signed overflow.  Use
64-bit variables.
binutils/dwarf.c