datumoj 要做自己的数据集,先看清这片地里已经有什么:谁在做政府数据、做成了什么样、热度在哪、以及——有没有人已经做过 datumoj 想做的事。
| 维度 | 分布 | 说明 |
|---|---|---|
| 下载量 | 中位数 10;182 个不足 10 次;仅 14 个 ≥100 次(剔除工厂后) | 长尾极长,绝大多数数据集事实上无人使用 |
| 格式 | parquet 292(75%)· csv 20 · json 12 | parquet 占比主要是工厂的统一模板 |
| 语言 | 英语 262 · 泰米尔语 8 · 法语 7 · 印地语 7 · 其余零星 | 关键词是英文 government,非英语政府数据被系统性漏检(见口径) |
| 许可证 | CC-BY-4.0 153 · 未声明 95 · other 81 · CC-BY-SA 25 · Apache 12 · MIT 10 · CC0 3 | 四分之一无许可证;政府数据常用的 ODbL 只有 2 个 |
| 任务标签 | 表格回归 224 · 表格分类 202 · 时序预测 81 · 文本类合计不到 60 | 同样是工厂模板的指纹:指标切片天然是表格任务 |
| 活跃度 | 近 90 天内有更新的 212 个 | 工厂在持续灌入,独立发布者多为一次性上传 |
| 门控 | 18 个 gated(需申请) | 多为含敏感行政数据的集合 |
| 发布者 | 数据集数 | 总下载 | 画像 |
|---|---|---|---|
| electricsheepafrica / asia / europe | 168 / 43 / 34 | 2,591(合计) | 同一运营方的三个地区号:把国际组织指标库按“一个指标 × 一个地区”切成 ML 就绪的 parquet,指标名含 government 即命中。单个下载 5–40 次,0 赞。是产量王,不是影响力王。 |
| thailevann | 13 | 低 | 印度泰米尔纳德邦的地方政府数据(医疗设施、政府服务文本块),泰米尔语——地方语言政府数据的孤例。 |
| joey234 | 12 | 低 | 全是 MMLU“高中政府与政治”考试题的变体,关键词搭车,与政府数据无关。 |
| paperswithbacktest | 6 | 低 | 金融回测向的数据商,把政府合同/支出做成事件研究素材。 |
| vidore / mteb 系 | 约 7 | 2,597 | 文档检索基准(BEIR/MTEB):用(合成的)政府报告做文档问答评测集,是“政府文档”被当作评测素材的一支。 |
| 其余约 85 人 | 各 1–3 | — | 个人与小机构的一次性发布:本国/本邦的某个具体数据集,多数无后续维护。 |
观察:真正的政府机构官方账号在这一片里几乎缺席——发布者要么是数据工厂、要么是研究者与数据商,政府是“被搬运的对象”而不是发布者。这与 datumoj 在 orbis 层观察到的各国门户格局一致:官方只在自己的门户发数据,HF 上是第三方生态。
先把 245 个工厂切片单列(它们本质是“国际组织指标库的逐条转售”),其余 144 个按内容主题归类如下(规则分类:以数据集名与说明的关键词计分取最高类,属推导口径,个别会误分):
| 主题 | 数量 | 代表例子 | 备注 |
|---|---|---|---|
| 批量指标切片(工厂) | 245 | electricsheep* 的 World Bank / SDG / OWID / FAOSTAT 切片 | 指标名带 government 才命中;单集下载 5–40 |
| 考试/基准题集 | 31 | joey234 的 MMLU 政府与政治题变体、vidore/mteb 的政府报告检索基准 | 一半是考试搭车,一半是正经评测集 |
| LLM 训练语料 | 28 | BAAI IndustryCorpus2 切分、AgentPublic/open_government、加泰罗尼亚政府站点抓取(projecte-aina / bigscience ROOTS) | 下载量的主引擎在这一类 |
| 财政·合同·采购 | 19 | ZipLime 美国联邦合同、科索沃/阿尔巴尼亚政府合同标题集 | 量化研究(事件研究)是明确买家 |
| 公共服务与民生计划 | 15 | 印度政府计划(schemes)汇编、泰米尔纳德邦政府服务文本 | 印度集群的主力 |
| 法律·法规·政策文件 | 9 | 韩国法制处 2023 立法集、瑞典政府办公室术语表 | 意外地少——法律语料多在专门的法律数据集里,不带 government 关键词 |
| 目录·清单型(注册表) | 5 | alea-institute 美国政府出版物 URL 目录(262,901 条 SuDoc 记录)、AndreasThinks 政府 GitHub 仓库清单 | 与 datumoj 注册层最接近的一类,也是最空的一类 |
| 统计·指标·指数 | 3 | 阿曼政府统计(两份重复上传) | 官方统计本体在各国门户,不在这里 |
| 卫生·选举·环境等 | 约 6 | 泰米尔纳德邦医疗设施、英国政府博客全集(feregrino) | 零星 |
| 其他/弱相关 | 约 30 | 法语政府对话集、领域自适应训练数据等 | 关键词擦边命中 |
国家分布(非工厂部分):美国/联邦题材最密(合同、GAO 标准、出版物目录),印度是第二极(19 个、1,731 次下载,含全场赞王),英国、法国、荷兰、瑞典、韩国各有零星单国集。跨国汇编只有 AgentPublic 一家;日本为零——日语数据集为 0,日本政府数据在本片完全缺席。
| 数据集 | 下载 | 赞 | 它到底是什么 |
|---|---|---|---|
| BAAI/IndustryCorpus2(时政与行政切分) | 12,358 | 4 | 智源研究院行业语料 IndustryCorpus2 的一个行业包。government 是语料分类,不是数据产品。它的下载量证明:HF 上最大的“政府数据”需求方是 LLM 预训练。 |
| ZipLime/us-government-contracts | 3,893 | 0 | 美国联邦合同全量(USAspending/FPDS):1,337 万笔交易、FY2005 至今、4.45 万亿美元,带“公众可见日”的时点语义,专为金融事件研究设计。单题材做到极致的专业数据产品,Apache-2.0。 |
| AgentPublic/open_government | 2,564 | 5 | 全场与 datumoj 野心最近的一个:约 380B tokens、16 个集合、23 种语言,汇编美/法/欧盟/国际组织的开放数据计划文本(法律与金融两条线)。形态是训练语料而非结构化登记数据;覆盖以欧美为主。 |
| ankitjh4/bharat-government-documents | 1,046 | 65 | 印度政府公开文档 64,964 篇(源记录 77,526 条),逐篇带源 URL、抓取时间、抽取质量、规则版本与主题标签,SQLite+parquet 双形态。方法论上与 datumoj 证据标准最合拍的一个,也是全场唯一靠手艺拿到大量赞的。 |
| vidore / mteb 合成政府报告基准族 | 约 2,600(族合计) | 1–2 | 文档检索/问答评测集,内容是合成的政府报告。说明“政府文档”在评测生态里是一个标准测试题材。 |
问:有人做过“连接各国政府公开数据”的数据集吗?
本页数字来自 2026-10-22 通过 Hugging Face API(GET /api/datasets?search=government&limit=1000&full=true)的一次全量拉取,共 389 条,与网站搜索页计数一致;原始响应(datasets.json,692KB)与统计脚本(analyze.py)与本页同目录存档,可复跑复核。注意三点口径:① 关键词是英文 government,靠标题/说明/标签命中,非英语国家的政府数据集会被系统性漏掉(例如各国以本国语言命名的数据集)——本调查反映的是“HF 上以 government 为旗的生态”,不是全球政府数据的全集;② 主题分类为规则计分(推导),个别数据集可能误分,头部数据集的定性描述均已逐个打开核对(已证明);③ 下载/点赞为拉取时点的累计值,会继续变化。Electric Sheep 三个账号是否同一运营方,依据其命名、模板与指标来源的一致性推断(推导,未经该方确认)。
← 返回 DATUMOJ 计划总览 | 相关:orbisdata 资源目录 · 100 个数据融合案例 · 30 个数据失真验证案例