最近需要做一个 Github 的软件（毕业设计），需要大量爬各种 issue、pull request 等的信息，5000 次每小时的 Github API 频率完全不够用。
想问下有没有封装好的有关 Github 的爬虫？谷歌上搜到的都是 Github 上的爬虫库项目
没有的话就去自己写了..
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
This topic created in 2472 days ago, the information mentioned may be changed or developed.
 |
phpfpmJan 28, 2020
1
你写个脚本注册账号生成 api token 不就得了。。
另，我记得如果不登录（没 token ）访问 api 的话有次数限制，有 token 还会有限制吗？ |
 |
JasonEWNLJan 28, 2020 via iPad
2
一个 JS 一个 Ruby 的库，都是 GitHub 上的 GitHub API 库。
https://github.com/github-tools/github https://github.com/piotrmurach/github |
 |
tikazyqJan 28, 2020
3
自己写吧，很简单的，用 scrapy 的 CrawlSpider，注意反爬限制
|
 |
charlieputonJan 28, 2020 via Android
4
github 不是有 api 吗。。不过是 graphql 的。。
|
 |
VDimosJan 28, 2020 via Android
5
github 是公开 api 的吧
|
 |
cmqwanJan 28, 2020 via iPhone
6
github 不让爬，有 robots 协议。
|
 |
iYuJan 28, 2020
7
5000 次每小时的 Github API 频率完全不够用。 确认是毕业设计么？如果是的话，感觉有点厉害啊。 这是需要多少数据啊。爬个几天几夜都不够么。
|
 |
8
你可以从这两个数据源获取数据:
GHTorrent: http://ghtorrent.org/downloads.html GH Archive: https://www.gharchive.org/ 他们提供了丰富的数据信息，较为方便的查询方式，以及简单的归档下载功能。不用自己爬…… |
1 |
10
@charlieputon 也有 RESTful 的，但是次数有点限制
|
 |
sunwei0325Jan 28, 2020
15
有个同事把代码传到 github 上, 公司安全部门很快就发现并通报了, 估计是自己实现的吧
|
 |
everydaystruggleJan 28, 2020
16
楼主或者楼主导师是做 mining software repository 的么？
|
 |
lazygodJan 29, 2020 via Android
17
@sunwei0325 用公司的电脑上床有记录的
|
 |
SampleNaiveJan 29, 2020
18
当然有啊，不然那些动不动几千 star，才几十个 issue 的项目怎么来的？
|
Select Language