Fix infinite recursion when printing static member with typedef
authorWeimin Pan <weimin.pan@oracle.com>
Wed, 28 Mar 2018 19:23:48 +0000 (13:23 -0600)
committerWeimin Pan <weimin.pan@oracle.com>
Mon, 2 Apr 2018 17:53:43 +0000 (12:53 -0500)
commit79f18731714e7f07af6e78b8da8a1ffacf4247b7
tree9a6a543e23425bd7b9bc008b356d4308e48537a8
parent3d6b3b8221c97c58a2496dfc7dfff30ed07d911a
Fix infinite recursion when printing static member with typedef

The original problem was fixed (see related PR 22242). But using a typedef
as the declared type for a static member variable, as commented in this PR,
is still causing gdb to get into infinite loop when printing the static
member's value. This problem can be reproduced as follows:

% cat t.cc
class A {
    typedef A type;
public:
    bool operator==(const type& other) { return true; }

    static const type INSTANCE;
};

const A A::INSTANCE;

int main() {
    A a;
    if (a == A::INSTANCE) {
        return -1;
    }
    return 0;
}
% g++ -g t.cc
% gdb -ex "start" -ex "p a" a.out

The fix is rather trivial - in cp_print_static_field(), should call
check_typedef() to get the static member's real type and use it to
check whether it's a struct or an array.

As Simon suggested, I've added a new test case to the testsuite
and am passing the original type, not the real type, as argument
to both cp_print_value_fields() and val_print().

Re-tested on both aarch64-linux-gnu and amd64-linux-gnu. No regressions.
gdb/ChangeLog
gdb/cp-valprint.c
gdb/testsuite/ChangeLog
gdb/testsuite/gdb.cp/static-typedef-print.cc [new file with mode: 0644]
gdb/testsuite/gdb.cp/static-typedef-print.exp [new file with mode: 0644]