Reduce recursion in term formula removal (#5052)
authorAndrew Reynolds <andrew.j.reynolds@gmail.com>
Thu, 17 Sep 2020 19:43:24 +0000 (14:43 -0500)
committerGitHub <noreply@github.com>
Thu, 17 Sep 2020 19:43:24 +0000 (14:43 -0500)
commitbd6f48ec9ecdd0547b77e9e8a49d3028f4281fe0
tree5791023f7abd0c3c79d4224d974ae8229847d8c1
parent92cdcc09e9a8bece8053c3aba9e68d0028b41a8e
Reduce recursion in term formula removal (#5052)

This reduces the use of recursion in term formula removal module. The recursion depth is now limited to the number of term positions on a path where a formula must be removed, instead of being limited to the overall formula depth. This PR also fixes some documentation.

Notice for its main cache d_tfCache, this class uses a CDInsertHashMap (instead of a CDHashMap) which does not allow inserting more than once, hence an auxliary "processedChildren" vector had to be introduced to track whether we have processed children. It's not clear to me whether we should just use the more standard CDHashMap, which would simplify this.

One non-linear arithmetic regression went unsat -> unknown, I added --nl-ext-tplanes to fix this.

This should fix #4889. It is possible to further reduce the recursion in this pass, which can be done on a followup PR if needed.
src/smt/term_formula_removal.cpp
src/smt/term_formula_removal.h
test/api/CMakeLists.txt
test/api/issue4889.cpp [new file with mode: 0644]
test/regress/regress0/arith/issue3480.smt2