2002-04-29 Elena Zannoni <ezannoni@redhat.com>
[binutils-gdb.git] / gdb / x86-64-tdep.c
index 24d464834f600843ea54d76adbc2905c2b1ef755..f30b85e618252e628e1fd9a2e847be220638430a 100644 (file)
@@ -1,6 +1,7 @@
 /* Target-dependent code for the x86-64 for GDB, the GNU debugger.
-   Copyright 2001
-   Free Software Foundation, Inc.
+
+   Copyright 2001, 2002 Free Software Foundation, Inc.
+
    Contributed by Jiri Smid, SuSE Labs.
 
    This file is part of GDB.
 #include "dwarf2cfi.h"
 #include "gdb_assert.h"
 
-
 /* Register numbers of various important registers.  */
 #define RAX_REGNUM 0
-#define RDX_REGNUM 1
+#define RDX_REGNUM 3
 #define RDI_REGNUM 5
 #define EFLAGS_REGNUM 17
-#define XMM1_REGNUM  35
+#define XMM1_REGNUM  39
+
+struct register_info
+{
+  int size;
+  char *name;
+  struct type **type;
+};
 
 /* x86_64_register_raw_size_table[i] is the number of bytes of storage in
    GDB's register array occupied by register i.  */
-int x86_64_register_raw_size_table[X86_64_NUM_REGS] = {
-  8, 8, 8, 8,
-  8, 8, 8, 8,
-  8, 8, 8, 8,
-  8, 8, 8, 8,
-  8, 4,
-  10, 10, 10, 10,
-  10, 10, 10, 10,
-  4, 4, 4, 4,
-  4, 4, 4, 4,
-  16, 16, 16, 16,
-  16, 16, 16, 16,
-  16, 16, 16, 16,
-  16, 16, 16, 16,
-  4
+static struct register_info x86_64_register_info_table[] = {
+  {8, "rax", &builtin_type_int64},
+  {8, "rbx", &builtin_type_int64},
+  {8, "rcx", &builtin_type_int64},
+  {8, "rdx", &builtin_type_int64},
+  {8, "rsi", &builtin_type_int64},
+  {8, "rdi", &builtin_type_int64},
+  {8, "rbp", &builtin_type_void_func_ptr},
+  {8, "rsp", &builtin_type_void_func_ptr},
+  {8, "r8", &builtin_type_int64},
+  {8, "r9", &builtin_type_int64},
+  {8, "r10", &builtin_type_int64},
+  {8, "r11", &builtin_type_int64},
+  {8, "r12", &builtin_type_int64},
+  {8, "r13", &builtin_type_int64},
+  {8, "r14", &builtin_type_int64},
+  {8, "r15", &builtin_type_int64},
+  {8, "rip", &builtin_type_void_func_ptr},
+  {4, "eflags", &builtin_type_int32},
+  {4, "ds", &builtin_type_int32},
+  {4, "es", &builtin_type_int32},
+  {4, "fs", &builtin_type_int32},
+  {4, "gs", &builtin_type_int32},
+  {10, "st0", &builtin_type_i387_ext},
+  {10, "st1", &builtin_type_i387_ext},
+  {10, "st2", &builtin_type_i387_ext},
+  {10, "st3", &builtin_type_i387_ext},
+  {10, "st4", &builtin_type_i387_ext},
+  {10, "st5", &builtin_type_i387_ext},
+  {10, "st6", &builtin_type_i387_ext},
+  {10, "st7", &builtin_type_i387_ext},
+  {4, "fctrl", &builtin_type_int32},
+  {4, "fstat", &builtin_type_int32},
+  {4, "ftag", &builtin_type_int32},
+  {4, "fiseg", &builtin_type_int32},
+  {4, "fioff", &builtin_type_int32},
+  {4, "foseg", &builtin_type_int32},
+  {4, "fooff", &builtin_type_int32},
+  {4, "fop", &builtin_type_int32},
+  {16, "xmm0", &builtin_type_v4sf},
+  {16, "xmm1", &builtin_type_v4sf},
+  {16, "xmm2", &builtin_type_v4sf},
+  {16, "xmm3", &builtin_type_v4sf},
+  {16, "xmm4", &builtin_type_v4sf},
+  {16, "xmm5", &builtin_type_v4sf},
+  {16, "xmm6", &builtin_type_v4sf},
+  {16, "xmm7", &builtin_type_v4sf},
+  {16, "xmm8", &builtin_type_v4sf},
+  {16, "xmm9", &builtin_type_v4sf},
+  {16, "xmm10", &builtin_type_v4sf},
+  {16, "xmm11", &builtin_type_v4sf},
+  {16, "xmm12", &builtin_type_v4sf},
+  {16, "xmm13", &builtin_type_v4sf},
+  {16, "xmm14", &builtin_type_v4sf},
+  {16, "xmm15", &builtin_type_v4sf},
+  {4, "mxcsr", &builtin_type_int32}
 };
 
+/* Number of all registers */
+#define X86_64_NUM_REGS (sizeof (x86_64_register_info_table) / \
+  sizeof (x86_64_register_info_table[0]))
+
+/* Number of general registers.  */
+#define X86_64_NUM_GREGS (22)
+
+int x86_64_num_regs = X86_64_NUM_REGS;
+int x86_64_num_gregs = X86_64_NUM_GREGS;
+
+/* Did we already print a note about frame pointer?  */
+int omit_fp_note_printed = 0;
+
 /* Number of bytes of storage in the actual machine representation for
    register REGNO.  */
 int
 x86_64_register_raw_size (int regno)
 {
-  return x86_64_register_raw_size_table[regno];
+  return x86_64_register_info_table[regno].size;
 }
 
 /* x86_64_register_byte_table[i] is the offset into the register file of the
    start of register number i.  We initialize this from
-   x86_64_register_raw_size_table.  */
+   x86_64_register_info_table.  */
 int x86_64_register_byte_table[X86_64_NUM_REGS];
 
 /* Index within `registers' of the first byte of the space for register REGNO.  */
@@ -83,16 +144,7 @@ x86_64_register_byte (int regno)
 static struct type *
 x86_64_register_virtual_type (int regno)
 {
-  if (regno == PC_REGNUM || regno == SP_REGNUM)
-    return builtin_type_void_func_ptr;
-  if (IS_FP_REGNUM (regno))
-    return builtin_type_i387_ext;
-  if (IS_SSE_REGNUM (regno))
-    return builtin_type_v4sf;
-  if (IS_FPU_CTRL_REGNUM (regno) || regno == MXCSR_REGNUM
-      || regno == EFLAGS_REGNUM)
-    return builtin_type_int32;
-  return builtin_type_int64;
+  return *x86_64_register_info_table[regno].type;
 }
 
 /* x86_64_register_convertible is true if register N's virtual format is
@@ -129,7 +181,8 @@ x86_64_register_convert_to_virtual (int regnum, struct type *type,
   memset (buf + FPU_REG_RAW_SIZE, 0, sizeof buf - FPU_REG_RAW_SIZE);
   /* Convert to TYPE.  This should be a no-op, if TYPE is equivalent
      to the extended floating-point format used by the FPU.  */
-  convert_typed_floating (to, type, buf, x86_64_register_virtual_type (regnum));
+  convert_typed_floating (to, type, buf,
+                         x86_64_register_virtual_type (regnum));
 }
 
 /* Convert data from virtual format with type TYPE in buffer FROM to
@@ -140,8 +193,7 @@ void
 x86_64_register_convert_to_raw (struct type *type, int regnum,
                                char *from, char *to)
 {
-  gdb_assert (TYPE_CODE (type) == TYPE_CODE_FLT
-             && TYPE_LENGTH (type) == 12);
+  gdb_assert (TYPE_CODE (type) == TYPE_CODE_FLT && TYPE_LENGTH (type) == 12);
   /* Simply omit the two unused bytes.  */
   memcpy (to, from, FPU_REG_RAW_SIZE);
 }
@@ -396,7 +448,8 @@ classify_argument (struct type *type,
     case TYPE_CODE_VOID:
       return 0;
     }
-  internal_error (__FILE__, __LINE__, "classify_argument: unknown argument type");
+  internal_error (__FILE__, __LINE__,
+                 "classify_argument: unknown argument type");
 }
 
 /* Examine the argument and return set number of register required in each
@@ -428,7 +481,8 @@ examine_argument (enum x86_64_reg_class classes[MAX_CLASSES],
       case X86_64_X87UP_CLASS:
        break;
       case X86_64_MEMORY_CLASS:
-       internal_error (__FILE__, __LINE__, "examine_argument: unexpected memory class");
+       internal_error (__FILE__, __LINE__,
+                       "examine_argument: unexpected memory class");
       }
   return 1;
 }
@@ -552,17 +606,21 @@ x86_64_push_arguments (int nargs, struct value **args, CORE_ADDR sp,
   int intreg = 0;
   int ssereg = 0;
   int i;
-  static int int_parameter_registers[INT_REGS] = {5 /*RDI*/, 4 /*RSI*/,
-                                                 1 /*RDX*/, 2 /*RCX*/,
-                                                 8 /*R8 */, 9 /*R9 */};
+  static int int_parameter_registers[INT_REGS] = {
+    5 /* RDI */ , 4 /* RSI */ ,
+    3 /* RDX */ , 2 /* RCX */ ,
+    8 /* R8  */ , 9 /* R9  */
+  };
   /* XMM0 - XMM15  */
-  static int sse_parameter_registers[SSE_REGS] = {34, 35, 36, 37,
-                                                 38, 39, 40, 41,
-                                                 42, 43, 44, 45,
-                                                 46, 47, 48, 49};
-  int stack_values_count=0;
+  static int sse_parameter_registers[SSE_REGS] = {
+    XMM1_REGNUM - 1, XMM1_REGNUM, XMM1_REGNUM + 1, XMM1_REGNUM + 2,
+    XMM1_REGNUM + 3, XMM1_REGNUM + 4, XMM1_REGNUM + 5, XMM1_REGNUM + 6,
+    XMM1_REGNUM + 7, XMM1_REGNUM + 8, XMM1_REGNUM + 9, XMM1_REGNUM + 10,
+    XMM1_REGNUM + 11, XMM1_REGNUM + 12, XMM1_REGNUM + 13, XMM1_REGNUM + 14
+  };
+  int stack_values_count = 0;
   int *stack_values;
-  stack_values = alloca (naregs * sizeof (int));
+  stack_values = alloca (nargs * sizeof (int));
   for (i = 0; i < nargs; i++)
     {
       enum x86_64_reg_class class[MAX_CLASSES];
@@ -574,8 +632,8 @@ x86_64_push_arguments (int nargs, struct value **args, CORE_ADDR sp,
          !examine_argument (class, n, &needed_intregs, &needed_sseregs)
          || intreg / 2 + needed_intregs > INT_REGS
          || ssereg / 2 + needed_sseregs > SSE_REGS)
-       {                               /* memory class */
-         stack_values[stack_values_count++]=i;
+       {                       /* memory class */
+         stack_values[stack_values_count++] = i;
        }
       else
        {
@@ -588,7 +646,8 @@ x86_64_push_arguments (int nargs, struct value **args, CORE_ADDR sp,
                case X86_64_NO_CLASS:
                  break;
                case X86_64_INTEGER_CLASS:
-                 write_register_gen (int_parameter_registers[(intreg + 1) / 2],
+                 write_register_gen (int_parameter_registers
+                                     [(intreg + 1) / 2],
                                      VALUE_CONTENTS_ALL (args[i]) + offset);
                  offset += 8;
                  intreg += 2;
@@ -602,7 +661,8 @@ x86_64_push_arguments (int nargs, struct value **args, CORE_ADDR sp,
                case X86_64_SSEDF_CLASS:
                case X86_64_SSESF_CLASS:
                case X86_64_SSE_CLASS:
-                 write_register_gen (sse_parameter_registers[(ssereg + 1) / 2],
+                 write_register_gen (sse_parameter_registers
+                                     [(ssereg + 1) / 2],
                                      VALUE_CONTENTS_ALL (args[i]) + offset);
                  offset += 8;
                  ssereg += 2;
@@ -615,7 +675,7 @@ x86_64_push_arguments (int nargs, struct value **args, CORE_ADDR sp,
                  break;
                case X86_64_X87_CLASS:
                case X86_64_MEMORY_CLASS:
-                 stack_values[stack_values_count++]=i;
+                 stack_values[stack_values_count++] = i;
                  break;
                case X86_64_X87UP_CLASS:
                  break;
@@ -630,7 +690,7 @@ x86_64_push_arguments (int nargs, struct value **args, CORE_ADDR sp,
     }
   while (--stack_values_count >= 0)
     {
-      value_ptr arg = args[stack_values[stack_values_count]];
+      struct value *arg = args[stack_values[stack_values_count]];
       int len = TYPE_LENGTH (VALUE_ENCLOSING_TYPE (arg));
       len += 7;
       len -= len % 8;
@@ -695,27 +755,9 @@ x86_64_store_return_value (struct type *type, char *valbuf)
 static char *
 x86_64_register_name (int reg_nr)
 {
-  static char *register_names[] = {
-    "rax", "rdx", "rcx", "rbx",
-    "rsi", "rdi", "rbp", "rsp",
-    "r8", "r9", "r10", "r11",
-    "r12", "r13", "r14", "r15",
-    "rip", "eflags",
-    "st0", "st1", "st2", "st3",
-    "st4", "st5", "st6", "st7",
-    "fctrl", "fstat", "ftag", "fiseg",
-    "fioff", "foseg", "fooff", "fop",
-    "xmm0", "xmm1", "xmm2", "xmm3",
-    "xmm4", "xmm5", "xmm6", "xmm7",
-    "xmm8", "xmm9", "xmm10", "xmm11",
-    "xmm12", "xmm13", "xmm14", "xmm15",
-    "mxcsr"
-  };
-  if (reg_nr < 0)
-    return NULL;
-  if (reg_nr >= (sizeof (register_names) / sizeof (*register_names)))
+  if (reg_nr < 0 || reg_nr >= X86_64_NUM_REGS)
     return NULL;
-  return register_names[reg_nr];
+  return x86_64_register_info_table[reg_nr].name;
 }
 \f
 
@@ -750,16 +792,75 @@ x86_64_frameless_function_invocation (struct frame_info *frame)
   return 0;
 }
 
-/* On x86_64 there are no reasonable prologs.  */
+/* If a function with debugging information and known beginning
+   is detected, we will return pc of the next line in the source 
+   code. With this approach we effectively skip the prolog.  */
+
+#define PROLOG_BUFSIZE 4
 CORE_ADDR
 x86_64_skip_prologue (CORE_ADDR pc)
 {
+  int i, firstline, currline;
+  struct symtab_and_line v_sal;
+  struct symbol *v_function;
+  CORE_ADDR salendaddr = 0, endaddr = 0;
+
+  /* We will handle only functions beginning with:
+     55          pushq %rbp
+     48 89 e5    movq %rsp,%rbp 
+   */
+  unsigned char prolog_expect[PROLOG_BUFSIZE] = { 0x55, 0x48, 0x89, 0xe5 },
+    prolog_buf[PROLOG_BUFSIZE];
+
+  read_memory (pc, (char *) prolog_buf, PROLOG_BUFSIZE);
+
+  /* First check, whether pc points to pushq %rbp. If not, 
+   * print a recommendation to enable frame pointer.  */
+  if (prolog_expect[0] != prolog_buf[0])
+    {
+      if (!omit_fp_note_printed)
+       {
+         printf_filtered
+           ("NOTE: This function doesn't seem to have a valid prologue.\n"
+            "      Try to add -fno-omit-frame-pointer tou your gcc's CFLAGS.\n");
+         omit_fp_note_printed++;
+       }
+      return pc;
+    }
+  /* Valid prolog continues with movq %rsp,%rbp.  */
+  for (i = 1; i < PROLOG_BUFSIZE; i++)
+    if (prolog_expect[i] != prolog_buf[i])
+      return pc + 1;           /* First instruction after pushq %rbp.  */
+
+  v_function = find_pc_function (pc);
+  v_sal = find_pc_line (pc, 0);
+
+  /* If pc doesn't point to a function with debuginfo, 
+     some of the following may be NULL.  */
+  if (!v_function || !v_function->ginfo.value.block || !v_sal.symtab)
+    return pc;
+
+  firstline = v_sal.line;
+  currline = firstline;
+  salendaddr = v_sal.end;
+  endaddr = v_function->ginfo.value.block->endaddr;
+
+  for (i = 0; i < v_sal.symtab->linetable->nitems; i++)
+    if (v_sal.symtab->linetable->item[i].line > firstline
+       && v_sal.symtab->linetable->item[i].pc >= salendaddr
+       && v_sal.symtab->linetable->item[i].pc < endaddr)
+      {
+       pc = v_sal.symtab->linetable->item[i].pc;
+       currline = v_sal.symtab->linetable->item[i].line;
+       break;
+      }
+
   return pc;
 }
 
 /* Sequence of bytes for breakpoint instruction.  */
 static unsigned char *
-x86_64_breakpoint_from_pc (CORE_ADDR *pc, int *lenptr)
+x86_64_breakpoint_from_pc (CORE_ADDR * pc, int *lenptr)
 {
   static unsigned char breakpoint[] = { 0xcc };
   *lenptr = 1;
@@ -771,6 +872,7 @@ i386_gdbarch_init (struct gdbarch_info info, struct gdbarch_list *arches)
 {
   struct gdbarch *gdbarch;
   struct gdbarch_tdep *tdep;
+  int i, sum;
 
   /* Find a candidate among the list of pre-declared architectures. */
   for (arches = gdbarch_list_lookup_by_info (arches, &info);
@@ -849,10 +951,12 @@ i386_gdbarch_init (struct gdbarch_info info, struct gdbarch_list *arches)
   set_gdbarch_register_raw_size (gdbarch, x86_64_register_raw_size);
   set_gdbarch_max_register_raw_size (gdbarch, 16);
   set_gdbarch_register_byte (gdbarch, x86_64_register_byte);
+
   /* Total amount of space needed to store our copies of the machine's register
      (SIZEOF_GREGS + SIZEOF_FPU_REGS + SIZEOF_FPU_CTRL_REGS + SIZEOF_SSE_REGS) */
-  set_gdbarch_register_bytes (gdbarch,
-                             (18 * 8) + (8 * 10) + (8 * 4) + (16 * 16 + 4));
+  for (i = 0, sum = 0; i < X86_64_NUM_REGS; i++)
+    sum += x86_64_register_info_table[i].size;
+  set_gdbarch_register_bytes (gdbarch, sum);
   set_gdbarch_register_virtual_size (gdbarch, generic_register_virtual_size);
   set_gdbarch_max_register_virtual_size (gdbarch, 16);
 
@@ -869,10 +973,9 @@ i386_gdbarch_init (struct gdbarch_info info, struct gdbarch_list *arches)
   set_gdbarch_fp_regnum (gdbarch, 6);  /* (rbp) */
   set_gdbarch_pc_regnum (gdbarch, 16); /* (rip) Contains program counter.  */
 
-  set_gdbarch_fp0_regnum (gdbarch, 18);        /* First FPU floating-point register.  */
+  set_gdbarch_fp0_regnum (gdbarch, X86_64_NUM_GREGS);  /* First FPU floating-point register.  */
 
   set_gdbarch_read_fp (gdbarch, cfi_read_fp);
-  set_gdbarch_write_fp (gdbarch, cfi_write_fp);
 
 /* Discard from the stack the innermost frame, restoring all registers.  */
   set_gdbarch_pop_frame (gdbarch, x86_64_pop_frame);
@@ -987,7 +1090,7 @@ _initialize_x86_64_tdep (void)
     for (i = 0; i < X86_64_NUM_REGS; i++)
       {
        x86_64_register_byte_table[i] = offset;
-       offset += x86_64_register_raw_size_table[i];
+       offset += x86_64_register_info_table[i].size;
       }
   }