活动简介
5分钟快速使用Hologres实时湖仓能力，加速分析数据湖OSS上Hudi、Delta、Paimon、ORC等格式数据，赢取精美礼品
活动入口： developer.aliyun.com/topic/holog... 或点击文末【阅读全文】参与挑战
活动时间
2024年 1月4日 -2023年 1月30日
活动奖品
- 挑战奖： 小米充电宝15个，非教程代码执行SQL，完成运行速度对比
- 一等奖： LAMY钢笔1个，作品点赞数位列第1名，且点赞数≥20个
- 二等奖： 小米背包20个，作品点赞数位列第2-21名，且点赞数≥10个
- 参与奖： 社区积分，每位参赛者可获得社区100积分
准备工作
本文以上海地域为例开通OSS、DLF和Hologres服务。
- 开通OSS服务并准备测试数据。
-
- 打开OSS开通页面，按照界面指引完成开通操作。说明
-
-
- 若您是新用户，可以免费试用OSS。
-
-
- 上传tpch_10g_orc_3.zip测试数据至Bucket目录。
- 测试数据文件上传后，若存在
.DS_Store等文件需手动删除。 - 考虑到下载速度，这里仅包含本文需要的nation_orc、supplier_orc、partsupp_orc数据表。
- 开通DLF服务并导入OSS测试数据。
| 参数配置 | 字段描述 |
|---|---|
| 抽取任务名称 | 元数据抽取任务的名称，输入为中英文数字和（_）。 |
| OSS路径 | 指定待抽取数据的OSS目录。 |
| 解析格式 | 支持json、csv、parquet、orc、hudi、delta、avro中某一类格式进行抽取，或采用自动识别模式会对数据文件自动解析。 |
| 目标数据库 | 抽取获取的元数据存储的元数据库位置。 |
- 开通Hologres服务并购买Hologres实例。具体操作，请参见购买Hologres。
若您是新用户可以申请免费试用Hologres，为保证使用体验，免费试用请 选择32C配置， 若您没有免费试用规格，可以购买Hologres按量付费
步骤一：配置环境
- 在Hologres实例中开启数据湖加速功能。
访问Hologres实例列表，单击目标实例操作 列中的数据湖加速并确认，开启数据湖加速功能后，Hologres实例将重启。
2. 登录Hologres实例，创建数据库。具体操作，请参见连接HoloWeb。
- （可选）创建Extension。本文以
dlf_fdw为例。
说明
Hologres V2.1版本已默认创建，您无需进行此操作。您可以访问Hologres实例列表，在实例详情页面确认您的实例版本。
sql
CREATE EXTENSION IF NOT EXISTS dlf_fdw;说明
使用Superuser在SQL编辑器-HoloWeb中执行上述语句创建Extension，该操作针对整个DB生效，一个DB只需执行一次。关于Hologres账号授权详情，请参见授权服务账号。
- 在SQL编辑器-HoloWeb，执行以下语句，创建
dlf_server外部服务器并配置Endpoint信息，确保Hologres、DLF和OSS之间的正常访问。关于更多的创建方式和相关参数介绍详情，请参见创建外部服务器。
sql
--创建外部服务器，以上海reigon为例
CREATE SERVER IF NOT EXISTS dlf_server FOREIGN data wrapper dlf_fdw options (
dlf_region 'cn-shanghai',
dlf_endpoint 'dlf-share.cn-shanghai.aliyuncs.com',
oss_endpoint 'oss-cn-shanghai-internal.aliyuncs.com');步骤二：通过Hologres外部表查询OSS数据湖
Hologres外部表保存与OSS数据湖数据的映射关系，数据在OSS数据湖中存储，不占用Hologres存储空间，查询性能一般在秒级至分钟级。
- 创建Hologres外部表，并将OSS数据湖数据映射至Hologres外部表。
sql
IMPORT FOREIGN SCHEMA mydatabase LIMIT TO ----本文以mydatabase为例，创建时需替换为您在DLF元数据管理中的自定义的数据库名称
(
nation_orc,
supplier_orc,
partsupp_orc
)
FROM SERVER dlf_server INTO public options (if_table_exist 'update');- 数据查询。
创建外部表成功后，可以直接查询外部表读取OSS中的数据。示例语句如下。
sql
--TPCH Q11查询语句
select
ps_partkey,
sum(ps_supplycost * ps_availqty) as value
from
partsupp_orc,
supplier_orc,
nation_orc
where
ps_suppkey = s_suppkey
and s_nationkey = n_nationkey
and RTRIM(n_name) = 'EGYPT'
group by
ps_partkey having
sum(ps_supplycost * ps_availqty) > (
select
sum(ps_supplycost * ps_availqty) * 0.000001
from
partsupp_orc,
supplier_orc,
nation_orc
where
ps_suppkey = s_suppkey
and s_nationkey = n_nationkey
and RTRIM(n_name) = 'EGYPT'
)
order by
value desc;步骤三：通过Hologres内部表查询OSS数据湖
Hologres内部表查询是将OSS数据湖数据导入至Hologres中，数据将在Hologres中存储，可获得更好的查询性能和更高的数据处理能力。关于存储费用详情介绍，请参见计费概述。
- 在Hologres中创建与外部表相同表结构的内部表，示例如下。
sql
-- 创建nation表
DROP TABLE IF EXISTS NATION;
BEGIN;
CREATE TABLE NATION (
N_NATIONKEY int NOT NULL PRIMARY KEY,
N_NAME text NOT NULL,
N_REGIONKEY int NOT NULL,
N_COMMENT text NOT NULL
);
CALL set_table_property ('NATION', 'distribution_key', 'N_NATIONKEY');
CALL set_table_property ('NATION', 'bitmap_columns', '');
CALL set_table_property ('NATION', 'dictionary_encoding_columns', '');
COMMIT;
-- 创建supplier表
DROP TABLE IF EXISTS SUPPLIER;
BEGIN;
CREATE TABLE SUPPLIER (
S_SUPPKEY int NOT NULL PRIMARY KEY,
S_NAME text NOT NULL,
S_ADDRESS text NOT NULL,
S_NATIONKEY int NOT NULL,
S_PHONE text NOT NULL,
S_ACCTBAL DECIMAL(15, 2) NOT NULL,
S_COMMENT text NOT NULL
);
CALL set_table_property ('SUPPLIER', 'distribution_key', 'S_SUPPKEY');
CALL set_table_property ('SUPPLIER', 'bitmap_columns', 'S_NATIONKEY');
CALL set_table_property ('SUPPLIER', 'dictionary_encoding_columns', '');
COMMIT;
-- 创建partsupp表
DROP TABLE IF EXISTS PARTSUPP;
BEGIN;
CREATE TABLE PARTSUPP (
PS_PARTKEY int NOT NULL,
PS_SUPPKEY int NOT NULL,
PS_AVAILQTY int NOT NULL,
PS_SUPPLYCOST DECIMAL(15, 2) NOT NULL,
PS_COMMENT text NOT NULL,
PRIMARY KEY (PS_PARTKEY, PS_SUPPKEY)
);
CALL set_table_property ('PARTSUPP', 'distribution_key', 'PS_PARTKEY');
CALL set_table_property ('PARTSUPP', 'bitmap_columns', 'ps_availqty');
CALL set_table_property ('PARTSUPP', 'dictionary_encoding_columns', '');
COMMIT;- 同步Hologres外部表数据至Hologres内部表。
sql
---将Hologres外表数据导入内表
INSERT INTO nation SELECT * FROM nation_orc;
INSERT INTO supplier SELECT * FROM supplier_orc;
INSERT INTO partsupp SELECT * FROM partsupp_orc;- 查询Hologres内部表数据。
sql
--TPCH Q11查询语句
select
ps_partkey,
sum(ps_supplycost * ps_availqty) as value
from
partsupp,
supplier,
nation
where
ps_suppkey = s_suppkey
and s_nationkey = n_nationkey
and RTRIM(n_name) = 'EGYPT'
group by
ps_partkey having
sum(ps_supplycost * ps_availqty) > (
select
sum(ps_supplycost * ps_availqty) * 0.000001
from
partsupp,
supplier,
nation
where
ps_suppkey = s_suppkey
and s_nationkey = n_nationkey
and RTRIM(n_name) = 'EGYPT'
)
order by
value desc;晒出结果：
一等奖、二等奖、参与奖：
将内表查询或外表查询的运行日志截图晒出。
外表查询速度：
内 表查询速度：
分享作品参与点赞排行
- 请使用提交作品账号开通产品并参与挑战，后台会校验产品开通及SQL运行情况。
- 请上传原创数据表及截图，若为抄袭则取消资格；若发现有刷赞行为，立即撤销作品，取消参赛资格。
挑战奖：
基于已有的外表和内表，分别运行2条同样的自定义SQL，附上外表SQL语句、运行日志、运行结果、内表SQL语句、运行日志、运行结果，6个部分合并1张截图上传。
- SQL需要涉及多表查询，单表SQL不支持参与挑战
- 获奖名单按照作品提交时间排序
- 为保证SQL原创性，同样SQL只取第一位
- 挑战奖优先，不与一等奖、二等奖重复获取
挑战奖作品示例：
