原文:Who contributed the most to open source in 2017? Let’s analyze GitHub’s data and find out
作者:Felipe Hoffa
翻译:无阻我飞扬
摘要:作者依据来自GitHub 2017年度的数据,对近百家公司的开源贡献数据进行了分析排名,也对自己的分析方法做了说明,以下是译文。
这篇分析,我们将看到GitHub在2017年度发表的所有的pushevents
。对每个GitHub用户,我们不得不尽最大努力推测他们属于哪个组织。本分析只关注在 2017 年增长超过 20 个 star 的仓库。
下面是我的分析结果,大家可以在我的交互数据仓库报告中修改这些结果。
2017年度GitHub数据:
亚马逊远远落后于微软和谷歌,那处在它们之间的有哪些公司呢? 根据贡献情况排名如下:RedHat,Pivotal,Intel也对GitHub做出了突出贡献。
注意,下面的表格合并了所有的IBM全球的域名(IBM在各个国家的域名都会带有各个国家的域名后缀)——虽然各个区域仍旧出现在接下来的表格中。
Facebook 和 IBM(US) 的 GitHub 用户数量与亚马逊的相似,但它们贡献的项目收获到了更多的 star(尤其是 Facebook):
紧接着是Alibaba, Uber, 和 Wix:
GitHub自己,Apache 和 Tencent:
Baidu, Apple, Mozilla:
Oracle, Stanford, Mit, Shopify, MongoDb, Berkeley, VmWare, Netflix, Salesforce, Gsa.gov:
LinkedIn, Broad Institute, Palantir, Yahoo, MapBox, Unity3d, Automattic, Sandia, Travis-ci, Spotify:
Chromium, UMich, Zalando, Esri, IBM (UK), SAP, EPAM, Telerik, UK Cabinet Office, Stripe:
Cern, Odoo, Kitware, Suse, Yandex, IBM (Canada), Adobe, AirBnB, Chef, The Guardian:
Arm, Macports, Docker, Nuxeo, NVidia, Yelp, Elastic, NYU, WSO2, Mesosphere, Inria
Puppet, Stanford (CS), DatadogHQ, Epfl, NTT Data, Lawrence Livermore Lab:
确定每个GitHub用户隶属于哪个组织并不容易—但是我们可以通过email的域名来确定,域名信息包含在提交的PushEvents里:
#standardSQLWITHperiod AS ( SELECT * FROM `githubarchive.month.2017*` a),repo_stars AS ( SELECT repo.id, COUNT(DISTINCT actor.login) stars, APPROX_TOP_COUNT(repo.name, 1)[OFFSET(0)].value repo_name FROM period WHERE type='WatchEvent' GROUP BY 1 HAVING stars>20), pushers_guess_emails_and_top_projects AS ( SELECT *# , REGEXP_EXTRACT(email, r'@(.*)') domain, REGEXP_REPLACE(REGEXP_EXTRACT(email, r'@(.*)'), r'.*.ibm.com', 'ibm.com') domain FROM (SELECT actor.id , APPROX_TOP_COUNT(actor.login,1)[OFFSET(0)].value login , APPROX_TOP_COUNT(JSON_EXTRACT_SCALAR(payload, '$.commits[0].author.email'),1)[OFFSET(0)].value email , COUNT(*) c , ARRAY_AGG(DISTINCT TO_JSON_STRING(STRUCT(b.repo_name,stars))) reposFROM period aJOIN repo_stars bON a.repo.id=b.idWHERE type='PushEvent'GROUP BY 1HAVING c>3 )) SELECT * FROM ( SELECT domain, githubers, (SELECT COUNT(DISTINCT repo) FROM UNNEST(repos) repo) repos_contributed_to, ARRAY( SELECT AS STRUCT JSON_EXTRACT_SCALAR(repo, '$.repo_name') repo_name , CAST(JSON_EXTRACT_SCALAR(repo, '$.stars') AS INT64) stars , COUNT(*) githubers_from_domain FROM UNNEST(repos) repo GROUP BY 1, 2 HAVING githubers_from_domain>1 ORDER BY stars DESC LIMIT 3 ) top, (SELECT SUM(CAST(JSON_EXTRACT_SCALAR(repo, '$.stars') AS INT64)) FROM (SELECT DISTINCT repo FROM UNNEST(repos) repo)) sum_stars_projects_contributed_to FROM (SELECT domain, COUNT(*) githubers, ARRAY_CONCAT_AGG(ARRAY(SELECT * FROM UNNEST(repos) repo)) reposFROM pushers_guess_emails_and_top_projects#WHERE domain IN UNNEST(SPLIT('google.com|microsoft.com|amazon.com', '|'))WHERE domain NOT IN UNNEST(SPLIT('gmail.com|users.noreply.github.com|qq.com|hotmail.com|163.com|me.com|googlemail.com|outlook.com|yahoo.com|web.de|iki.fi|foxmail.com|yandex.ru', '|')) # email hostersGROUP BY 1HAVING githubers > 30 ) WHERE (SELECT MAX(githubers_from_domain) FROM (SELECT repo, COUNT(*) githubers_from_domain FROM UNNEST(repos) repo GROUP BY repo))>4 # second filter email hosters)ORDER BY githubers DESC
我做了关联过滤,只计算了2017年度的star数。例如,在GitHub上Apache有大于1500个仓库,但在2017年,只有205个收到多于20个star数。
请注意,分析GitHub数据不包括顶级的团体,如Android,Chromium, GNU, Mozilla,也不包括Apache或者Eclipse基金会,还有一些其它项目选择在GitHub之外运行它们的大部分活动。
我只能计算我所能看见的。大家可以质疑我的臆断,告诉我你如何用更好的方式来衡量。工作查询是最好的方法。
例如,当将IBM的基于区域的域名用一个SQL转换语句合并为顶级域名时,看看它们的排名是如何变化的:
SELECT *, REGEXP_REPLACE(REGEXP_EXTRACT(email, r'@(.*)'), r'.*.ibm.com', 'ibm.com') domain
我以前可能错过——错误可能还会再次发生。请看看GitHub所有可用的原始数据,并质疑我所有的臆断——那会很酷,可以看看你会得到什么样的结果。
联系客服