Jack-Cherish /python-spider
:rainbow:Python3网络爬虫实战:淘宝、京东、网易云、B站、12306、抖音、笔趣阁、漫画小说下载、音乐电影下载等
★ 19,859⑂ 5,926👁 630⑃ 46● 82▤ 0
+0
Daily
19,859
stars
5,926
forks
630
watchers
46
prs
82
issues
0
releases
README
注:2020年最新连载教程请移步:Python Spider 2020
免责声明:
大家请以学习为目的使用本仓库,爬虫违法违规的案件:https://github.com/HiddenStrawberry/Crawler_Illegal_Cases_In_China
本仓库的所有内容仅供学习和参考之用,禁止用于商业用途。任何人或组织不得将本仓库的内容用于非法用途或侵犯他人合法权益。本仓库所涉及的爬虫技术仅用于学习和研究,不得用于对其他平台进行大规模爬虫或其他非法行为。对于因使用本仓库内容而引起的任何法律责任,本仓库不承担任何责任。使用本仓库的内容即表示您同意本免责声明的所有条款和条件。
Python Spider
原创文章每周最少两篇,后续最新文章会在【公众号】首发,视频【B站】首发,大家可以加我【微信】进交流群,技术交流或提意见都可以,欢迎Star!
声明
代码、教程仅限于学习交流,请勿用于任何商业用途!
目录
爬虫小工具
文件下载小助手
爬虫实战
笔趣看小说下载
百度文库免费文章下载助手_rev1
百度文库免费文章下载助手_rev2
《帅啊》网帅哥图片下载
构建代理IP池
《火影忍者》漫画下载
财务报表下载小助手
一小时入门网络爬虫
抖音App视频下载
GEETEST验证码识别
12306抢票小助手
百万英雄答题辅助系统
网易云音乐免费音乐批量下载
B站免费视频和弹幕批量下载
京东商品晒单图下载
正方教务管理系统个人信息查询
其它
爬虫小工具
downloader.py:文件下载小助手
一个可以用于下载图片、视频、文件的小工具,有下载进度显示功能。稍加修改即可添加到自己的爬虫中。
动态示意图:
!image
爬虫实战
biqukan.py:《笔趣看》盗版小说网站,爬取小说工具
第三方依赖库安装:
pip3 install beautifulsoup4
使用方法:
python biqukan.py
baiduwenku.py: 百度文库word文章爬取
原理说明:http://blog.csdn.net/c406495762/article/details/72331737
代码不完善,没有进行打包,不具通用性,纯属娱乐。
shuaia.py: 爬取《帅啊》网,帅哥图片
《帅啊》网URL:http://www.shuaia.net/index.html
原理说明:http://blog.csdn.net/c406495762/article/details/72597755
第三方依赖库安装:
pip3 install requests beautifulsoup4
daili.py: 构建代理IP池
原理说明:http://blog.csdn.net/c406495762/article/details/72793480
carton: 使用Scrapy爬取《火影忍者》漫画
代码可以爬取整个《火影忍者》漫画所有章节的内容,保存到本地。更改地址,可以爬取其他漫画。保存地址可以在settings.py中修改。
动漫网站:http://comic.kukudm.com/
原理说明:http://blog.csdn.net/c406495762/article/details/72858983
hero.py: 《王者荣耀》推荐出装查询小助手
网页爬取已经会了,想过爬取手机APP里的内容吗?
原理说明:http://blog.csdn.net/c406495762/article/details/76850843
financical.py: 财务报表下载小助手
爬取的数据存入数据库会吗?《跟股神巴菲特学习炒股之财务报表入库(MySQL)》也许能给你一些思路。
原理说明:http://blog.csdn.net/c406495762/article/details/77801899
动态示意图:
!image
one_hour_spider:一小时入门Python3网络爬虫。
原理说明:
知乎:https://zhuanlan.zhihu.com/p/29809609
CSDN:http://blog.csdn.net/c406495762/article/details/78123502
本次实战内容有:
网络小说下载(静态网站)-biqukan
优美壁纸下载(动态网站)-unsplash
视频下载
douyin.py:抖音App视频下载
抖音App的视频下载,就是普通的App爬取。
原理说明:
个人网站:http://cuijiahua.com/blog/2018/03/spider-5.html
douyin_pro:抖音App视频下载(升级版)
抖音App的视频下载,添加视频解析网站,支持无水印视频下载,使用第三方平台解析。
原理说明:
个人网站:http://cuijiahua.com/blog/2018/03/spider-5.html
douyin:抖音App视频下载(升级版2)
抖音App的视频下载,添加视频解析网站,支持无水印视频下载,通过url解析,无需第三方平台。
原理说明:
个人网站:http://cuijiahua.com/blog/2018/03/spider-5.html
动态示意图:
!image
geetest.py:GEETEST验证码识别
原理说明:
无
12306.py:用Python抢火车票简单代码
可以自己慢慢丰富,蛮简单,有爬虫基础很好操作,没有原理说明。
baiwan:百万英雄辅助答题
效果图:
!image
原理说明:
个人网站:http://cuijiahua.com/blog/2018/01/spider_3.html
功能介绍:
服务器端,使用Python(baiwan.py)通过抓包获得的接口获取答题数据,解析之后通过百度知道搜索接口匹配答案,将最终匹配的结果写入文件(file.txt)。
手机抓包不会的朋友,可以看下我的早期手机APP抓包教程。
Node.js(app.js)每隔1s读取一次file.txt文件,并将读取结果通过socket.io推送给客户端(index.html)。
亲测答题延时在3s左右。
声明:没做过后端和前端,花了一天时间,现学现卖弄好的,javascript也是现看现用,百度的程序,调试调试而已。Top issues
#116好多代码都失效了,待更新。5 comments · 2022-04-23#111大佬,可否讲一下怎么在python里面运行js找了个小说网站,他原始html里面的是乱序的文字,要用js重新排序才是正确的.4 comments · 2021-08-21#129求更新2 comments · 2024-08-28#119你好 那个py文件里的 xml2ass这个不是第三方模块吧2 comments · 2022-07-18#110你好为啥我run完之后只print了一个文库文件的网址出来什么都么有1 comments · 2021-04-19#131Bilibili排行榜0 comments · 2026-07-18#128反爬虫0 comments · 2024-08-26#127Cryptographic API Misuse Vulnerability : Do not use non-random/static)predictable IVs in CBC0 comments · 2024-01-08