Jack-Cherish /python-spider

:rainbow:Python3网络爬虫实战:淘宝、京东、网易云、B站、12306、抖音、笔趣阁、漫画小说下载、音乐电影下载等

★ 19,859⑂ 5,926👁 630⑃ 46● 82▤ 0
PythonCreated 2017-05-05cuijiahua.com/blog/spider/
+0
Daily
19,859
stars
5,926
forks
630
watchers
46
prs
82
issues
0
releases

README

注:2020年最新连载教程请移步:Python Spider 2020

免责声明:

大家请以学习为目的使用本仓库,爬虫违法违规的案件:https://github.com/HiddenStrawberry/Crawler_Illegal_Cases_In_China

本仓库的所有内容仅供学习和参考之用,禁止用于商业用途。任何人或组织不得将本仓库的内容用于非法用途或侵犯他人合法权益。本仓库所涉及的爬虫技术仅用于学习和研究,不得用于对其他平台进行大规模爬虫或其他非法行为。对于因使用本仓库内容而引起的任何法律责任,本仓库不承担任何责任。使用本仓库的内容即表示您同意本免责声明的所有条款和条件。

 Python Spider

原创文章每周最少两篇,后续最新文章会在【公众号】首发,视频【B站】首发,大家可以加我【微信】进交流群,技术交流或提意见都可以,欢迎Star!


  
  
  
  
  
  
  


 声明

 代码、教程仅限于学习交流,请勿用于任何商业用途!

 目录

 爬虫小工具
     文件下载小助手
 爬虫实战
     笔趣看小说下载
     百度文库免费文章下载助手_rev1
     百度文库免费文章下载助手_rev2
     《帅啊》网帅哥图片下载
     构建代理IP池
     《火影忍者》漫画下载
     财务报表下载小助手
     一小时入门网络爬虫
     抖音App视频下载
     GEETEST验证码识别
     12306抢票小助手
     百万英雄答题辅助系统   
     网易云音乐免费音乐批量下载
     B站免费视频和弹幕批量下载
     京东商品晒单图下载
     正方教务管理系统个人信息查询
 其它

 爬虫小工具

 downloader.py:文件下载小助手

	一个可以用于下载图片、视频、文件的小工具,有下载进度显示功能。稍加修改即可添加到自己的爬虫中。
	
	动态示意图:
	
	!image

 爬虫实战
 
  biqukan.py:《笔趣看》盗版小说网站,爬取小说工具

	第三方依赖库安装:

		pip3 install beautifulsoup4

	使用方法:

		python biqukan.py

  baiduwenku.py: 百度文库word文章爬取
	
	原理说明:http://blog.csdn.net/c406495762/article/details/72331737
	
	代码不完善,没有进行打包,不具通用性,纯属娱乐。
	
  shuaia.py: 爬取《帅啊》网,帅哥图片

	《帅啊》网URL:http://www.shuaia.net/index.html

	原理说明:http://blog.csdn.net/c406495762/article/details/72597755
	
	第三方依赖库安装:
	
		pip3 install requests beautifulsoup4
		
  daili.py: 构建代理IP池

	原理说明:http://blog.csdn.net/c406495762/article/details/72793480
	
	
  carton: 使用Scrapy爬取《火影忍者》漫画

	代码可以爬取整个《火影忍者》漫画所有章节的内容,保存到本地。更改地址,可以爬取其他漫画。保存地址可以在settings.py中修改。
	
	动漫网站:http://comic.kukudm.com/
	
	原理说明:http://blog.csdn.net/c406495762/article/details/72858983
	
  hero.py: 《王者荣耀》推荐出装查询小助手

	网页爬取已经会了,想过爬取手机APP里的内容吗?
	
	原理说明:http://blog.csdn.net/c406495762/article/details/76850843
	
  financical.py: 财务报表下载小助手

	爬取的数据存入数据库会吗?《跟股神巴菲特学习炒股之财务报表入库(MySQL)》也许能给你一些思路。
	
	原理说明:http://blog.csdn.net/c406495762/article/details/77801899
	
	动态示意图:
	
	!image
	
  one_hour_spider:一小时入门Python3网络爬虫。

	原理说明:
	
	  知乎:https://zhuanlan.zhihu.com/p/29809609
	  CSDN:http://blog.csdn.net/c406495762/article/details/78123502
	
	本次实战内容有:
	
	  网络小说下载(静态网站)-biqukan
	  优美壁纸下载(动态网站)-unsplash
	  视频下载
	 
  douyin.py:抖音App视频下载
 
	抖音App的视频下载,就是普通的App爬取。

	原理说明:
	
	  个人网站:http://cuijiahua.com/blog/2018/03/spider-5.html
	
  douyin_pro:抖音App视频下载(升级版)
 
	抖音App的视频下载,添加视频解析网站,支持无水印视频下载,使用第三方平台解析。

	原理说明:
	
	  个人网站:http://cuijiahua.com/blog/2018/03/spider-5.html
	 
  douyin:抖音App视频下载(升级版2)
 
	抖音App的视频下载,添加视频解析网站,支持无水印视频下载,通过url解析,无需第三方平台。
	
	原理说明:
	
	  个人网站:http://cuijiahua.com/blog/2018/03/spider-5.html
	 
	动态示意图:
	
	!image
	
  geetest.py:GEETEST验证码识别
 
 	原理说明:
	
	 无
	
  12306.py:用Python抢火车票简单代码
 
	可以自己慢慢丰富,蛮简单,有爬虫基础很好操作,没有原理说明。
	
  baiwan:百万英雄辅助答题
 
	效果图:
	
	!image
	
	原理说明:
	
	 个人网站:http://cuijiahua.com/blog/2018/01/spider_3.html
	
  	功能介绍:
	
	服务器端,使用Python(baiwan.py)通过抓包获得的接口获取答题数据,解析之后通过百度知道搜索接口匹配答案,将最终匹配的结果写入文件(file.txt)。
	
	手机抓包不会的朋友,可以看下我的早期手机APP抓包教程。
	
	Node.js(app.js)每隔1s读取一次file.txt文件,并将读取结果通过socket.io推送给客户端(index.html)。
	
	亲测答题延时在3s左右。
	
	声明:没做过后端和前端,花了一天时间,现学现卖弄好的,javascript也是现看现用,百度的程序,调试调试而已。

Top issues

Snapshot: 2026-11-16T09:23:14Z · Data license Apache-2.0 · JSON