gdb/
authorJan Kratochvil <jan.kratochvil@redhat.com>
Tue, 13 Sep 2011 08:26:11 +0000 (08:26 +0000)
committerJan Kratochvil <jan.kratochvil@redhat.com>
Tue, 13 Sep 2011 08:26:11 +0000 (08:26 +0000)
Fix compatibility with gcc < 4.3 and non-gcc compilers.
* amd64-tdep.c (amd64_skip_xmm_prologue): Convert 0b constants.

gdb/ChangeLog
gdb/amd64-tdep.c

index b49d76c5079bfd88fd556da82607beaaedb02d73..05d523fe7c44250d9e1f47f93fb587d7c4b377d5 100644 (file)
@@ -1,3 +1,8 @@
+2011-09-13  Jan Kratochvil  <jan.kratochvil@redhat.com>
+
+       Fix compatibility with gcc < 4.3 and non-gcc compilers.
+       * amd64-tdep.c (amd64_skip_xmm_prologue): Convert 0b constants.
+
 2011-09-12  Pedro Alves  <pedro@codesourcery.com>
            Matt Rice  <ratmice@gmail.com>
 
index 8f686d140093716982379bfa4edf87bff06ee360..55bedab07acd900555dcbb4aa69ac8bf4a23c91f 100644 (file)
@@ -1962,17 +1962,19 @@ amd64_skip_xmm_prologue (CORE_ADDR pc, CORE_ADDR start_pc)
   offset = 4;
   for (xmmreg = 0; xmmreg < 8; xmmreg++)
     {
-      /* movaps %xmmreg?,-0x??(%rbp) */
+      /* 0x0f 0x29 0b??000101 movaps %xmmreg?,-0x??(%rbp) */
       if (buf[offset] != 0x0f || buf[offset + 1] != 0x29
-          || (buf[offset + 2] & 0b00111111) != (xmmreg << 3 | 0b101))
+          || (buf[offset + 2] & 0x3f) != (xmmreg << 3 | 0x5))
        return pc;
 
-      if ((buf[offset + 2] & 0b11000000) == 0b01000000)
+      /* 0b01?????? */
+      if ((buf[offset + 2] & 0xc0) == 0x40)
        {
          /* 8-bit displacement.  */
          offset += 4;
        }
-      else if ((buf[offset + 2] & 0b11000000) == 0b10000000)
+      /* 0b10?????? */
+      else if ((buf[offset + 2] & 0xc0) == 0x80)
        {
          /* 32-bit displacement.  */
          offset += 7;