Do not traverse WITNESS for partial substitutions in extended rewriter (#4630)
authorAndrew Reynolds <andrew.j.reynolds@gmail.com>
Wed, 17 Jun 2020 16:26:32 +0000 (11:26 -0500)
committerGitHub <noreply@github.com>
Wed, 17 Jun 2020 16:26:32 +0000 (11:26 -0500)
commitc752258539ddb4c97b4fcbe7481cb1151ad182d0
treefaf7a72b076f5c9e498c6522e06be76b5a7468c4
parent5915a62d767dd8a33dd13be7c6545c6553442878
Do not traverse WITNESS for partial substitutions in extended rewriter (#4630)

Fixes #4620.

The extended rewrite (and A B) ---> (and A (B * { A -> true } ) triggers an unsoundness when B contains witness terms. More generally, contextual substitution into witness terms is unsound since the skolemization of witness terms is added globally whereas the substitution corresponds to a fact that holds locally. This means that A -> true above may be added as a global constraint indirectly through witness skolemization.

A general example of this unsoundness:

(or (and (>= x 0) (P (witness ((z Int)) (=> (>= x 0) (= (* z z) x))))) F)
rewrites to
(or (and (>= x 0) (P (witness ((z Int)) (= (* z z) x)))) F)
preprocesses to
(and (or (and (>= x 0) (P k)) F) (= (* k k) x))
which now implies that (>= x 0) by the last conjunct, whereas this was not implied in the original formula
This PR limits the kinds that can be traversed when applying substitutions in the extended rewriter, including from the rewrite above. In particular, the fix ensures that the partialSubstitute method is used in the extended rewriter when applicable, which now explicitly disallows recursion on WITNESS.

Notice that this fixes contextual substitutions in the extended rewriter, but does not fix the more general issue. In particular, we still should be careful to check if contextual substitutions are applied by any other preprocessing passes.
src/theory/quantifiers/extended_rewrite.cpp
src/theory/quantifiers/extended_rewrite.h
test/regress/CMakeLists.txt
test/regress/regress0/fp/ext-rew-test.smt2
test/regress/regress1/quantifiers/issue4620-erq-witness-unsound.smt2 [new file with mode: 0644]