master
潘啟华 5 years ago
parent c70bbf113d
commit 55ad14771d
  1. 4
      config.ini
  2. 7
      main.py

@ -16,8 +16,8 @@ param_name=手机名称,参考价格,电商报价,上市时间,网友综合评
;非空参数个数(从左到右保留指定个数的参数)
param_required_index=8
;达到指定缓冲数据量写入一次报表
data_size=10
data_size=100
;线程池大小
thread_count=5
;采集数据量
max_count=30
max_count=5000

@ -368,8 +368,11 @@ class CnmoCrawler(MobilePhoneCrawler):
raise Exception("列表页:{0}解析失败".format(current_page_url))
def run(self):
self.get_page()
writeInfo('采集数据完毕,开始清洗脏数据')
try:
self.get_page()
writeInfo('采集数据完毕,开始清洗脏数据')
except Exception as e:
writeError("采集数据出现异常,开始清洗脏数据")
self.clear_data()
writeInfo('清洗脏数据完毕')

Loading…
Cancel
Save