gitextract_dzmg5ry4/ ├── README.md ├── SpiderKeeper.py ├── commands/ │ └── crawlall.py ├── commonUtils.py ├── ghostdriver.log ├── items.py ├── middlewares/ │ └── middleware.py ├── middlewares.py ├── mysqlUtils.py ├── notusedspiders/ │ ├── ContentSpider.py │ ├── ContentSpider_real.py │ ├── DgContentSpider_PhantomJS.py │ ├── DgUrlSpider_PhantomJS.py │ ├── PostHandle.py │ ├── UrlSpider.py │ ├── check_post.py │ ├── contentSettings.py │ ├── params.js │ ├── uploadUtils.py │ └── utils.py ├── pipelines.py ├── settings.py ├── setup.py ├── spiders/ │ ├── UrlSpider_JFSH.py │ ├── UrlSpider_MSZT.py │ ├── UrlSpider_SYDW.py │ ├── UrlSpider_YLBG.py │ ├── UrlSpider_YMYE.py │ └── __init__.py ├── test.py ├── urlSettings.py └── webBrowserPools/ ├── ghostdriver.log └── pool.py