Fix decoding of ARM VFP instructions
authorTom Tromey <tom@tromey.com>
Sat, 21 Apr 2018 17:51:34 +0000 (11:51 -0600)
committerTom Tromey <tom@tromey.com>
Mon, 7 May 2018 14:47:37 +0000 (08:47 -0600)
commitce887586b48acd02080c36d5495891116f886e8e
tree1e9c2ea9833fbf536b55f56e61de2c4b3ccd0fc3
parent2ceb7719f763b9e541a379d8ac7d53a72794fdd4
Fix decoding of ARM VFP instructions

-Wduplicated-cond pointed out that arm_record_vfp_data_proc_insn
checks "opc1 == 0x0b" twice.  I filed this a while ago as
PR tdep/20362.

Based on the ARM instruction manual at
https://www.scss.tcd.ie/~waldroj/3d1/arm_arm.pdf, I think the
instruction decoding in this function has two bugs.

First, opc1 is computed as:

  opc1 = bits (arm_insn_r->arm_insn, 20, 23);
[...]
  opc1 = opc1 & 0x04;

This means that tests like:

  else if (opc1 == 0x01)

can never be true.

In the ARM manual, "opc1" corresponds to these bits:

    name   bit
    r      20
    q      21
    D      22
    p      23

... where the D bit is not used for VFP instruction decoding.

So, I believe this code should use ~0x04 instead.

Second, VDIV is recognized by the bits "pqrs" being equal to "1000".
This tranlates to opc1 == 0x08 -- not 0x0b.  Note that pqrs==1001 is
an undefined encoding, which is probably why opc2 is not checked here;
this code doesn't seem to really deal with undefined encodings in
general, so I've left that as is.

I don't have an ARM machine or any reasonable way to test this.

ChangeLog
2018-05-07  Tom Tromey  <tom@tromey.com>

PR tdep/20362:
* arm-tdep.c (arm_record_vfp_data_proc_insn): Properly mask off D
bit.  Use correct value for VDIV.
gdb/ChangeLog
gdb/arm-tdep.c