Hugging Face 上的「government」数据集:389 个全量调查

datumoj 要做自己的数据集,先看清这片地里已经有什么:谁在做政府数据、做成了什么样、热度在哪、以及——有没有人已经做过 datumoj 想做的事。

调查日期:2026-10-22 | 数据来源:Hugging Face 官方 API 以 search=government 全量拉取(与网站搜索页显示的 389 个一致),含每个数据集的作者、下载、点赞、许可证、语言、规模与说明全文 | 原始数据与分析脚本同目录存档(datasets.json、analyze.py),口径可复现。

结论先行

全景数字

389数据集总数(91 个发布者)
29,126总下载量(中位数仅 10)
111总点赞(92% 的数据集是 0 赞)
2982026 年新建(占 77%,批量工厂是主因)
216规模不足 1,000 行(占 55%)
0日语数据集(language:ja)
维度分布说明
下载量中位数 10;182 个不足 10 次;仅 14 个 ≥100 次(剔除工厂后)长尾极长,绝大多数数据集事实上无人使用
格式parquet 292(75%)· csv 20 · json 12parquet 占比主要是工厂的统一模板
语言英语 262 · 泰米尔语 8 · 法语 7 · 印地语 7 · 其余零星关键词是英文 government,非英语政府数据被系统性漏检(见口径)
许可证CC-BY-4.0 153 · 未声明 95 · other 81 · CC-BY-SA 25 · Apache 12 · MIT 10 · CC0 3四分之一无许可证;政府数据常用的 ODbL 只有 2 个
任务标签表格回归 224 · 表格分类 202 · 时序预测 81 · 文本类合计不到 60同样是工厂模板的指纹:指标切片天然是表格任务
活跃度近 90 天内有更新的 212 个工厂在持续灌入,独立发布者多为一次性上传
门控18 个 gated(需申请)多为含敏感行政数据的集合

发布者图景:一个工厂 + 一群个人

发布者数据集数总下载画像
electricsheepafrica / asia / europe168 / 43 / 342,591(合计)同一运营方的三个地区号:把国际组织指标库按“一个指标 × 一个地区”切成 ML 就绪的 parquet,指标名含 government 即命中。单个下载 5–40 次,0 赞。是产量王,不是影响力王。
thailevann13低印度泰米尔纳德邦的地方政府数据(医疗设施、政府服务文本块),泰米尔语——地方语言政府数据的孤例。
joey23412低全是 MMLU“高中政府与政治”考试题的变体,关键词搭车,与政府数据无关。
paperswithbacktest6低金融回测向的数据商,把政府合同/支出做成事件研究素材。
vidore / mteb 系约 72,597文档检索基准(BEIR/MTEB):用(合成的)政府报告做文档问答评测集,是“政府文档”被当作评测素材的一支。
其余约 85 人各 1–3—个人与小机构的一次性发布:本国/本邦的某个具体数据集,多数无后续维护。

观察:真正的政府机构官方账号在这一片里几乎缺席——发布者要么是数据工厂、要么是研究者与数据商,政府是“被搬运的对象”而不是发布者。这与 datumoj 在 orbis 层观察到的各国门户格局一致:官方只在自己的门户发数据,HF 上是第三方生态。

内容分类:这 389 个到底装的都是什么

先把 245 个工厂切片单列(它们本质是“国际组织指标库的逐条转售”),其余 144 个按内容主题归类如下(规则分类:以数据集名与说明的关键词计分取最高类,属推导口径,个别会误分):

主题数量代表例子备注
批量指标切片(工厂)245electricsheep* 的 World Bank / SDG / OWID / FAOSTAT 切片指标名带 government 才命中;单集下载 5–40
考试/基准题集31joey234 的 MMLU 政府与政治题变体、vidore/mteb 的政府报告检索基准一半是考试搭车,一半是正经评测集
LLM 训练语料28BAAI IndustryCorpus2 切分、AgentPublic/open_government、加泰罗尼亚政府站点抓取(projecte-aina / bigscience ROOTS)下载量的主引擎在这一类
财政·合同·采购19ZipLime 美国联邦合同、科索沃/阿尔巴尼亚政府合同标题集量化研究(事件研究)是明确买家
公共服务与民生计划15印度政府计划(schemes)汇编、泰米尔纳德邦政府服务文本印度集群的主力
法律·法规·政策文件9韩国法制处 2023 立法集、瑞典政府办公室术语表意外地少——法律语料多在专门的法律数据集里,不带 government 关键词
目录·清单型(注册表)5alea-institute 美国政府出版物 URL 目录(262,901 条 SuDoc 记录)、AndreasThinks 政府 GitHub 仓库清单与 datumoj 注册层最接近的一类,也是最空的一类
统计·指标·指数3阿曼政府统计(两份重复上传)官方统计本体在各国门户,不在这里
卫生·选举·环境等约 6泰米尔纳德邦医疗设施、英国政府博客全集(feregrino)零星
其他/弱相关约 30法语政府对话集、领域自适应训练数据等关键词擦边命中

国家分布(非工厂部分):美国/联邦题材最密(合同、GAO 标准、出版物目录),印度是第二极(19 个、1,731 次下载,含全场赞王),英国、法国、荷兰、瑞典、韩国各有零星单国集。跨国汇编只有 AgentPublic 一家;日本为零——日语数据集为 0,日本政府数据在本片完全缺席。

头部数据集深描

数据集下载赞它到底是什么
BAAI/IndustryCorpus2(时政与行政切分)12,3584智源研究院行业语料 IndustryCorpus2 的一个行业包。government 是语料分类,不是数据产品。它的下载量证明:HF 上最大的“政府数据”需求方是 LLM 预训练。
ZipLime/us-government-contracts3,8930美国联邦合同全量(USAspending/FPDS):1,337 万笔交易、FY2005 至今、4.45 万亿美元,带“公众可见日”的时点语义,专为金融事件研究设计。单题材做到极致的专业数据产品,Apache-2.0。
AgentPublic/open_government2,5645全场与 datumoj 野心最近的一个:约 380B tokens、16 个集合、23 种语言,汇编美/法/欧盟/国际组织的开放数据计划文本(法律与金融两条线)。形态是训练语料而非结构化登记数据;覆盖以欧美为主。
ankitjh4/bharat-government-documents1,04665印度政府公开文档 64,964 篇(源记录 77,526 条),逐篇带源 URL、抓取时间、抽取质量、规则版本与主题标签,SQLite+parquet 双形态。方法论上与 datumoj 证据标准最合拍的一个,也是全场唯一靠手艺拿到大量赞的。
vidore / mteb 合成政府报告基准族约 2,600(族合计)1–2文档检索/问答评测集,内容是合成的政府报告。说明“政府文档”在评测生态里是一个标准测试题材。

纪律与质量:这片地的软肋

与 datumoj 的关系:谁做过类似的事?

问:有人做过“连接各国政府公开数据”的数据集吗?

对 datumoj 做数据集的 5 条建议

  1. 把注册层本身发成数据集。把 orbis 的官方资源注册表(机构、URL、场景、许可、核查时间)以 parquet+SQLite 发布——这是全场确认的空白,且与 Bharat 的成功公式同构:注册表即产品。
  2. 逐条溯源写进 schema。源 URL、抓取时间、数据发布时间(与抓取时间分开)、规则版本、许可——Bharat 拿到 65 赞的字段,正是 datumoj 证据标准(AGENTS.md §3.3)已经在做的事,把它变成数据集的卖点。
  3. 许可证先行。每份发布明确 CC-BY-4.0 或 CC0(视上游许可),并在卡片里写清上游条款。24% 的同行在这里裸奔。
  4. 垂直深度优先于横向广度。工厂模式(245 个浅切片、0 赞)是反面教材;ZipLime(单题材做到全量+时点语义)和 Bharat(单国文档做到逐篇溯源)证明深度才有下载与赞。
  5. 同时服务两类已验证的读者:LLM 构建者(要语料规模、去重与规范化说明)与量化研究者(要时点语义、全量覆盖、稳定版本)。数据集卡片按这两类读者写。

方法与口径

本页数字来自 2026-10-22 通过 Hugging Face API(GET /api/datasets?search=government&limit=1000&full=true)的一次全量拉取,共 389 条,与网站搜索页计数一致;原始响应(datasets.json,692KB)与统计脚本(analyze.py)与本页同目录存档,可复跑复核。注意三点口径:① 关键词是英文 government,靠标题/说明/标签命中,非英语国家的政府数据集会被系统性漏掉(例如各国以本国语言命名的数据集)——本调查反映的是“HF 上以 government 为旗的生态”,不是全球政府数据的全集;② 主题分类为规则计分(推导),个别数据集可能误分,头部数据集的定性描述均已逐个打开核对(已证明);③ 下载/点赞为拉取时点的累计值,会继续变化。Electric Sheep 三个账号是否同一运营方,依据其命名、模板与指标来源的一致性推断(推导,未经该方确认)。

← 返回 DATUMOJ 计划总览 | 相关:orbisdata 资源目录 · 100 个数据融合案例 · 30 个数据失真验证案例