support/scripts/pkg-stats: clear multiprocessing pools after use
authorTitouan Christophe <titouan.christophe@railnova.eu>
Sun, 1 Mar 2020 21:25:28 +0000 (22:25 +0100)
committerPeter Korsgaard <peter@korsgaard.com>
Mon, 2 Mar 2020 22:35:39 +0000 (23:35 +0100)
commit54645c0b39f1b7dc653957ad16ed04c39b4e7ad2
tree48e9dcf0abbd371eb71716884afe5c5fefa15536
parent304b141a9733fe44ccf5a045cff4aa9d46c7bbed
support/scripts/pkg-stats: clear multiprocessing pools after use

During the CVE checking phase, we can still see a huge amount of
Python processes (actually 128) running on the host, even though
the CVE step is entirely ran in the main thread.

These are actually the worker processes spawned to check for the
packages URL statuses and the latest versions from release-monitoring.
This is because of an issue in Python's multiprocessing implementation:
https://bugs.python.org/issue34172

The problem was already there before the CVE matching step was
introduced, but because pkg-stat was terminating right after the
release-monitoring step, it went unnoticed.

Also, do not hold a reference to the multiprocessing pool from
the Package class, as this is not needed.

Signed-off-by: Titouan Christophe <titouan.christophe@railnova.eu>
Signed-off-by: Peter Korsgaard <peter@korsgaard.com>
support/scripts/pkg-stats