这个项目可以爬取抖音 快手 小红书 B站 微博的视频,图文,作者信息以及评论。
小红书爬虫,抖音爬虫, 快手爬虫, B站爬虫, 微博爬虫...。目前能抓取小红书、抖音、快手、B站、微博的视频、图片、评论、点赞、转发等信息。
原理:利用playwright搭桥,保留登录成功后的上下文浏览器环境,通过执行JS表达式获取一些加密参数 通过使用此方式,免去了复现核心加密JS代码,逆向难度大大降低
功能列表平台
Cookie 登录
二维码登录
手机号登录
关键词搜索
指定视频/帖子 ID 爬取
登录状态缓存
数据保存
IP 代理池
滑块验证码
小红书
✅
✅
✅
✅
✅
✅
✅
✅
✕
抖音
✅
✅
✅
✅
✅
✅
✅
✅
✅
快手
✅
✅
✕
✅
✅
✅
✅
✅
✕
B 站
✅
✅
✕
✅
✅
✅
✅
✅
✕
微博
✅
✅
✕
✅
✅
✅
✅
✅
✕
使用方法创建并激活 python 虚拟环境# 进入项目根目录cd MediaCrawler# 创建虚拟环境python -m venv venv# macos & linux 激活虚拟环境source venv/bin/activate# windows 激活虚拟环境venv\Scripts\activate安装依赖库pip3 install -r requirements.txt安装 playwright浏览器驱动playwright install运行爬虫程序# 从配置文件中读取关键词搜索相关的帖子并爬去帖子信息与评论python main.py --platform xhs --lt qrcode --type search# 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息python main.py --platform xhs --lt qrcode --type detail# 打开对应APP扫二维码登录# 其他平台爬虫使用示例, 执行下面的命令查看python main.py --help数据保存支持保存到关系型数据库(Mysql、PgSQL等)支持保存到csv中(data/目录下)支持保存到json中(data/目录下)项目链接
https://github.com/NanmiCoder/MediaCrawler
