这篇文章主要介绍python实战之怎么用爬虫修改发布的招聘内容,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
成都创新互联公司不只是一家网站建设的网络公司;我们对营销、技术、服务都有自己独特见解,公司采取“创意+综合+营销”一体化的方式为您提供更专业的服务!我们经历的每一步也许不一定是最完美的,但每一步都有值得深思的意义。我们珍视每一份信任,关注我们的网站设计、网站建设质量和服务品质,在得到用户满意的同时,也能得到同行业的专业认可,能够为行业创新发展助力。未来将继续专注于技术创新,服务升级,满足企业一站式成都营销网站建设需求,让再小的高端网站设计也能产生价值!
1. 校正发布日期
"time" : "发布于03月31日", "time" : "发布于昨天", "time" : "发布于11:31",
这里拿到的都是这种格式的,所以简单处理下
import datetime from pymongo import MongoClient db = MongoClient('127.0.0.1', 27017).iApp def update(data): return db.jobs_php.update_one({"_id": data['_id']}, {"$set": data}) # 把时间校正过来 def clear_time(): items = db.jobs_php.find({}) for item in items: if not item['time'].find('布于'): continue item['time'] = item['time'].replace("发布于", "2017-") item['time'] = item['time'].replace("月", "-") item['time'] = item['time'].replace("日", "") if item['time'].find("昨天") > 0: item['time'] = str(datetime.date.today() - datetime.timedelta(days=1)) elif item['time'].find(":") > 0: item['time'] = str(datetime.date.today()) update(item) print('ok')
2.校正薪水以数字保存
"salary" : "5K-12K", #处理成下面的格式 "salary" : { "low" : 5000, "high" : 12000, "avg" : 8500.0 }, # 薪水处理成数字,符合 xk-yk 的数据处理,不符合的跳过 def clear_salary(): items = db.jobs_lagou_php.find({}) for item in items: if type(item['salary']) == type({}): continue salary_list = item['salary'].lower().replace("k", "000").split("-") if len(salary_list) != 2: print(salary_list) continue try: salary_list = [int(x) for x in salary_list] except: print(salary_list) continue item['salary'] = { 'low': salary_list[0], 'high': salary_list[1], 'avg': (salary_list[0] + salary_list[1]) / 2 } update(item) print('ok')
这里在处理 Boss直聘的数据时,比较简单正常,但是后续抓到拉勾网的数据,拉勾网的数据有些不太规范。比如有‘20k以上’这种描述
以上是“python实战之怎么用爬虫修改发布的招聘内容”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注创新互联行业资讯频道!