python: Make two functions return gdbpy_ref<>
authorSimon Marchi <simon.marchi@ericsson.com>
Sun, 9 Sep 2018 07:13:17 +0000 (08:13 +0100)
committerSimon Marchi <simon.marchi@ericsson.com>
Sun, 9 Sep 2018 07:13:17 +0000 (08:13 +0100)
I noticed that we release a gdbpy_ref in pretty_print_one_value only to
create it again later.  This patch fills the gap by returning a
gdbpy_ref all the way.

gdb/ChangeLog:

* python/py-prettyprint.c (pretty_print_one_value): Return
gdbpy_ref<>.
(print_string_repr): Adjust.
(apply_varobj_pretty_printer): Return gdbpy_ref<>.
* python/python-internal.h (apply_varobj_pretty_printer): Return
gdbpy_ref<>.
* varobj.c (varobj_value_get_print_value): Adjust.

gdb/ChangeLog
gdb/python/py-prettyprint.c
gdb/python/python-internal.h
gdb/varobj.c

index bf5dcbca34aee45afbdbc12799c4238f6eae90f4..96b28b070269ac6a29cd576269f0eecc0dd4511b 100644 (file)
@@ -1,3 +1,13 @@
+2018-09-09  Simon Marchi  <simon.marchi@ericsson.com>
+
+       * python/py-prettyprint.c (pretty_print_one_value): Return
+       gdbpy_ref<>.
+       (print_string_repr): Adjust.
+       (apply_varobj_pretty_printer): Return gdbpy_ref<>.
+       * python/python-internal.h (apply_varobj_pretty_printer): Return
+       gdbpy_ref<>.
+       * varobj.c (varobj_value_get_print_value): Adjust.
+
 2018-09-08  Tom Tromey  <tom@tromey.com>
 
        PR python/16047:
index df0266b26139a485d1dcc1615a774de151aefc0a..7da0f2d9af2c12269da0a494c727c016ffa9c97b 100644 (file)
@@ -187,7 +187,7 @@ find_pretty_printer (PyObject *value)
    is returned.  On error, *OUT_VALUE is set to NULL, NULL is
    returned, with a python exception set.  */
 
-static PyObject *
+static gdbpy_ref<>
 pretty_print_one_value (PyObject *printer, struct value **out_value)
 {
   gdbpy_ref<> result;
@@ -220,7 +220,7 @@ pretty_print_one_value (PyObject *printer, struct value **out_value)
     }
   END_CATCH
 
-  return result.release ();
+  return result;
 }
 
 /* Return the display hint for the object printer, PRINTER.  Return
@@ -293,7 +293,7 @@ print_string_repr (PyObject *printer, const char *hint,
   struct value *replacement = NULL;
   enum string_repr_result result = string_repr_ok;
 
-  gdbpy_ref<> py_str (pretty_print_one_value (printer, &replacement));
+  gdbpy_ref<> py_str = pretty_print_one_value (printer, &replacement);
   if (py_str != NULL)
     {
       if (py_str == Py_None)
@@ -726,15 +726,13 @@ gdbpy_apply_val_pretty_printer (const struct extension_language_defn *extlang,
    set to the replacement value and this function returns NULL.  On
    error, *REPLACEMENT is set to NULL and this function also returns
    NULL.  */
-PyObject *
+gdbpy_ref<>
 apply_varobj_pretty_printer (PyObject *printer_obj,
                             struct value **replacement,
                             struct ui_file *stream)
 {
-  PyObject *py_str = NULL;
-
   *replacement = NULL;
-  py_str = pretty_print_one_value (printer_obj, replacement);
+  gdbpy_ref<> py_str = pretty_print_one_value (printer_obj, replacement);
 
   if (*replacement == NULL && py_str == NULL)
     print_stack_unless_memory_error (stream);
index c4f0e21f707ddd21d8d1e0c8db331f22dce57de7..3874fdc5e793f257775ec0285d45de1b65d155ec 100644 (file)
@@ -99,6 +99,7 @@
    from including our python/python.h header file.  */
 #include <Python.h>
 #include <frameobject.h>
+#include "py-ref.h"
 
 #if PY_MAJOR_VERSION >= 3
 #define IS_PY3K 1
@@ -691,9 +692,9 @@ int gdbpy_is_value_object (PyObject *obj);
 
 /* Note that these are declared here, and not in python.h with the
    other pretty-printer functions, because they refer to PyObject.  */
-PyObject *apply_varobj_pretty_printer (PyObject *print_obj,
-                                      struct value **replacement,
-                                      struct ui_file *stream);
+gdbpy_ref<> apply_varobj_pretty_printer (PyObject *print_obj,
+                                        struct value **replacement,
+                                        struct ui_file *stream);
 PyObject *gdbpy_get_varobj_pretty_printer (struct value *value);
 gdb::unique_xmalloc_ptr<char> gdbpy_get_display_hint (PyObject *printer);
 PyObject *gdbpy_default_visualizer (PyObject *self, PyObject *args);
index af607963b47b2d44dd66763c2748159aae74aea6..e109926a27d481d7d438150f5a0fff9f8576c416 100644 (file)
@@ -2318,9 +2318,9 @@ varobj_value_get_print_value (struct value *value,
            {
              struct value *replacement;
 
-             gdbpy_ref<> output (apply_varobj_pretty_printer (value_formatter,
-                                                              &replacement,
-                                                              &stb));
+             gdbpy_ref<> output apply_varobj_pretty_printer (value_formatter,
+                                                               &replacement,
+                                                               &stb);
 
              /* If we have string like output ...  */
              if (output != NULL)