基础知识 / 大数据平台
大数据分析平台:从开放数据到实时决策
大数据平台的价值在于把数据接入、治理、计算、分析、可视化、API 和应用服务连接起来,让业务人员能持续用数据决策。
学习目标
理解开放数据平台、实时 API、批流计算、指标服务、数据治理和应用生态的整体架构。
数据接入治理建模批流计算服务开放应用生态
开放数据门户
面向公众、开发者和机构,提供数据集搜索、下载、API、许可和更新说明。
实时 API
用于天气、交通、设备、告警等动态场景,要求稳定接口、限流和监控。
数据服务层
把指标、标签、明细查询和权限封装成可复用服务,减少重复开发。
应用生态
开放数据的最终价值在于被看板、地图、应用、研究和业务流程持续使用。
案例分析
Singapore data.gov.sg 与 TfL:开放数据平台的两个学习样本
data.gov.sg 提供大量政府数据集、API 和互动可视化;TfL 明确向开发者释放公共交通数据,用于创新的出行信息服务。两者都说明平台不只是数据库,而是数据产品。
业务问题
| 平台能力 | 为什么重要 |
|---|---|
| 数据目录 | 让用户知道有哪些数据 |
| API | 让系统可以自动调用 |
| 实时数据 | 支持交通、天气等动态服务 |
| 许可说明 | 降低使用风险 |
| 案例展示 | 让数据价值被看见 |
分析设计
平台设计清单:
数据集元数据
API 文档
更新频率
数据质量说明
示例图表
使用案例
反馈渠道输出结果
| 学习点 | 可用于 SmartSG 的设计 |
|---|---|
| 数据目录 | 按智慧城市、建筑、能源、AI 分类 |
| API 示例 | 给 Python/PowerBI 练习用 |
| 案例库 | 展示分析问题、步骤和结果 |
| 指标服务 | 沉淀可复用口径 |
动手练习
- 为 SmartSG 设计一个开放数据目录字段模板。
- 写出一个实时 API 适合服务的业务场景。
- 画出数据从采集到看板的 5 层架构。
- 为一个数据集补充更新频率和质量说明。