PR18617 - Incorrect expression bytecode generated for narrowing conversions
authorRobert O'Callahan <robert@ocallahan.org>
Wed, 8 Jul 2015 09:53:36 +0000 (10:53 +0100)
committerPedro Alves <palves@redhat.com>
Wed, 8 Jul 2015 09:53:36 +0000 (10:53 +0100)
commitbcf5c1d96b3b5493041002eb2b6d27288d9d160a
treed7267257d9f989850cb58cf7cd06a8ed0d889b04
parente8643a4533a92e011dad97ea53c99d314c06513d
PR18617 - Incorrect expression bytecode generated for narrowing conversions

The existing code preserves 'from' bits, which is incorrect.  E.g.

 (gdb) maint agent-eval (char)255L
 Scope: 0x4008d6
 Reg mask: 00
   0  const16 255
   3  ext 64
   5  end

'ext 64' should be 'ext 8'; this bytecode evaluates to 255 instead of
the correct result of -1.  The fix is simple.  I ran the entire test
suite on x86-64 and there were no new test failures.

gdb/ChangeLog:
2015-07-08  Robert O'Callahan  <robert@ocallahan.org>

PR exp/18617
* ax-gdb.c (gen_conversion): Extend to 'to' bits, not 'from'.

gdb/testsuite/ChangeLog:
2015-07-08  Robert O'Callahan  <robert@ocallahan.org>

PR exp/18617
* gdb.trace/ax.exp: Add test.
gdb/ChangeLog
gdb/ax-gdb.c
gdb/testsuite/ChangeLog
gdb/testsuite/gdb.trace/ax.exp