当前位置： 移动技术网 > IT编程>脚本编程>Python > python ETL工具 pyetl

python ETL工具 pyetl

2020年06月14日  | 移动技术网IT编程  | 我要评论

非主流图片集,当阳玉泉寺,魂寂魅上龙皇

pyetl是一个纯python开发的etl框架， 相比sqoop, datax 之类的etl工具，pyetl可以对每个字段添加udf函数，使得数据转换过程更加灵活，相比专业etl工具pyetl更轻量，纯python代码操作，更加符合开发人员习惯

安装

pip3 install pyetl

使用示例

数据库表之间数据同步

from pyetl import task, databasereader, databasewriter
reader = databasereader("sqlite:///db1.sqlite3", table_name="source")
writer = databasewriter("sqlite:///db2.sqlite3", table_name="target")
task(reader, writer).start()

数据库表到hive表同步

from pyetl import task, databasereader, hivewriter2
reader = databasereader("sqlite:///db1.sqlite3", table_name="source")
writer = hivewriter2("hive://localhost:10000/default", table_name="target")
task(reader, writer).start()

数据库表同步es

from pyetl import task, databasereader, elasticsearchwriter
reader = databasereader("sqlite:///db1.sqlite3", table_name="source")
writer = elasticsearchwriter(hosts=["localhost"], index_name="tartget")
task(reader, writer).start()

原始表目标表字段名称不同，需要添加字段映射

添加

# 原始表source包含uuid，full_name字段
reader = databasereader("sqlite:///db.sqlite3", table_name="source")
# 目标表target包含id，name字段
writer = databasewriter("sqlite:///db.sqlite3", table_name="target")
# columns配置目标表和原始表的字段映射关系
columns = {"id": "uuid", "name": "full_name"}
task(reader, writer, columns=columns).start()

字段的udf映射，对字段进行规则校验、数据标准化、数据清洗等

# functions配置字段的udf映射，如下id转字符串，name去除前后空格
functions={"id": str, "name": lambda x: x.strip()}
task(reader, writer, columns=columns, functions=functions).start()

继承task类灵活扩展etl任务

import json
from pyetl import task, databasereader, databasewriter

class newtask(task):
  reader = databasereader("sqlite:///db.sqlite3", table_name="source")
  writer = databasewriter("sqlite:///db.sqlite3", table_name="target")
  
  def get_columns(self):
    """通过函数的方式生成字段映射配置，使用更灵活"""
    # 以下示例将数据库中的字段映射配置取出后转字典类型返回
    sql = "select columns from task where name='new_task'"
    columns = self.writer.db.read_one(sql)["columns"]
    return json.loads(columns)
   
  def get_functions(self):
    """通过函数的方式生成字段的udf映射"""
    # 以下示例将每个字段类型都转换为字符串
    return {col: str for col in self.columns}
   
  def apply_function(self, record):
    """数据流中对一整条数据的udf"""
    record["flag"] = int(record["id"]) % 2
    return record

  def before(self):
    """任务开始前要执行的操作, 如初始化任务表，创建目标表等"""
    sql = "create table destination_table(id int, name varchar(100))"
    self.writer.db.execute(sql)
  
  def after(self):
    """任务完成后要执行的操作，如更新任务状态等"""
    sql = "update task set status='done' where name='new_task'"
    self.writer.db.execute(sql)

newtask().start()

目前已实现reader和writer列表

 

reader 介绍
databasereader 支持所有关系型数据库的读取
filereader 结构化文本数据读取，如csv文件
excelreader excel表文件读取

writer 介绍
databasewriter 支持所有关系型数据库的写入
elasticsearchwriter 批量写入数据到es索引
hivewriter 批量插入hive表
hivewriter2 load data方式导入hive表（推荐)
filewriter 写入数据到文本文件

项目地址pyetl

总结

到此这篇关于python etl工具 pyetl的文章就介绍到这了,更多相关python etl工具 pyetl内容请搜索移动技术网以前的文章或继续浏览下面的相关文章希望大家以后多多支持移动技术网！

您可能感兴趣的文章:

如对本文有疑问，请在下面进行留言讨论，广大热心网友会与你互动！！ 点击进行留言回复

相关文章:

验证码：
最近更新的文章
大家感兴趣的文章
移动技术网