离线数仓 (八) --------- 数仓分层
创始人
2024-01-16 16:52:07

目录

  • 一、为什么要分层
  • 二、数据集市和数据仓库区别
  • 三、数仓命名规范
    • 1. 表命名
    • 2. 脚本命名
    • 3. 表字段类型

一、为什么要分层

分层说明：

ODS 层：原始数据层，存放原始数据，直接加载原始日志、数据，数据保持原貌不做处理。

DWD 层：对 ODS 层数据进行清洗 (去除空值，脏数据，超过极限范围的数据)、脱敏等。保存业务事实明细，一行信息代表一次业务行为，例如一次下单。

DIM 层：维度层，保存维度数据，主要是对业务事实的描述信息，例如何人，何时，何地等。

DWS 层：以 DWD 为基础，按天进行轻度汇总。一行信息代表一个主题对象一天的汇总行为，例如一个用户一天下单次数。

DWT 层 ： 以 DWS 为基础，对数据进行累积汇总。一行信息代表一个主题对象的累积行为，例如一个用户从注册那天开始至今一共下了多少次单。

ADS 层 ： 为各种统计报表提供数据。

在这里插入图片描述

仓库为什么要分层?

A、把复杂问题简单化：将复杂的任务分解成多层来完成，每一层只处理简单的任务，方使定位问题。

B、减少重复开发：规范数据分层，通过的中间层数据，能够减少极大的重复计算，增加一次计算结果的复用性。

C、隔离原始数据：不论是数据的异常还是数据的敏感性，使真实数据与统计数据解耦开。

二、数据集市和数据仓库区别

数据集市 (Data Market)，现在市面上的公司和书籍都对数据集市有不同的概念。

数据集市则是一种微型的数据仓库，它通常有更少的数据，更少的主题区域，以及更少的历史数据，因此是部门级的，一般只能为某个局部范围内的管理人员服务。

数据仓库是企业级的，能为整个企业各个部门的运行提供决策支持手段。

在这里插入图片描述

三、数仓命名规范

1. 表命名

  • ODS 层命名为 ods_表名
  • DIM 层命名为 dim_表名
  • DWD 层命名为 dwd_表名
  • DWS 层命名为 dws_表名
  • DWT 层命名为 dwt_表名
  • ADS 层命名为 ads_表名
  • 临时表命名为 tmp_表名

2. 脚本命名

  • 数据源_to_目标_db/log.sh
  • 用户行为脚本以 log 为后缀，业务数据脚本以 db 为后缀

3. 表字段类型

  • 数量类型为 bigint
  • 金额类型为 decimal(16, 2)，表示：16位有效数字，其中小数部分2位
  • 字符串(名字，描述信息等)类型为 string
  • 主键外键类型为 string
  • 时间戳类型为 bigint

上一篇：林黛玉那样的古典美

下一篇：java毕业生设计心灵治愈服务平台计算机源码+系统+mysql+调试部署+lw

相关内容

热门资讯

北京的名胜古迹 北京最著名的景... 北京从元代开始，逐渐走上帝国首都的道路，先是成为大辽朝五大首都之一的南京城，随着金灭辽，金代从海陵王...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙，苗语叫“分送”，距从江县城7.5公里，是世界上最崇拜树木并以树为神的枪手部落...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接：一个人的旅行，据说能看到长白山天池全凭运气，您的运气如何？今日介绍...
demo什么意思 demo版本... 618快到了，各位的小金库大概也在准备开闸放水了吧。没有小金库的，也该向老婆撒娇卖萌服个软了，一切只...
世界上最漂亮的人 世界上最漂亮... 此前在某网上，选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中，人们投票选出了心目中最美...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接：一个人的旅行，据说能看到长白山天池全凭运气，您的运气如何？今日介绍...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用，包括头部穴位图、胸部穴位图、背部穴位图、胳...
猫咪吃了塑料袋怎么办 猫咪误食... 你知道吗？塑料袋放久了会长猫哦！要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...
北京的名胜古迹 北京最著名的景... 北京从元代开始，逐渐走上帝国首都的道路，先是成为大辽朝五大首都之一的南京城，随着金灭辽，金代从海陵王...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙，苗语叫“分送”，距从江县城7.5公里，是世界上最崇拜树木并以树为神的枪手部落...
世界上最漂亮的人 世界上最漂亮... 此前在某网上，选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中，人们投票选出了心目中最美...
应用未安装解决办法 平板应用未... ---IT小技术，每天Get一个小技能！一、前言描述苹果IPad2居然不能安装怎么办？与此IPad不...
我喜欢你韩语怎么说 sikid...
阿西吧是什么意思 阿西吧相当于... 即使你没有受到过任何外语培训，你也懂四国语言。汉语：你好英语：Shit韩语：阿西吧（아，씨발! ）日...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用，包括头部穴位图、胸部穴位图、背部穴位图、胳...
demo什么意思 demo版本... 618快到了，各位的小金库大概也在准备开闸放水了吧。没有小金库的，也该向老婆撒娇卖萌服个软了，一切只...
北京的名胜古迹 北京最著名的景... 北京从元代开始，逐渐走上帝国首都的道路，先是成为大辽朝五大首都之一的南京城，随着金灭辽，金代从海陵王...
我喜欢你韩语怎么说 sikid...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙，苗语叫“分送”，距从江县城7.5公里，是世界上最崇拜树木并以树为神的枪手部落...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接：一个人的旅行，据说能看到长白山天池全凭运气，您的运气如何？今日介绍...