|
1、什么是Oozie Apache Oozie是工作流调度用在Hadoop中。它是一个运行相关的作业工作流系统。这里，用户被允许创建向非循环图工作流程，其可以在并列 Hadoop 并顺序地运行。 它由两部分组成： 工作流引擎：一个工作流引擎的职责是存储和运行工作流程，由 Hadoop 作业组成：MapReduce, Pig, Hive. 协调器引擎：它运行基于预定义的时间表和数据的可用性工作流程作业。 Oozie可扩展性和可管理及时执行成千上万的工作流程(每个由几十个作业)的Hadoop集群。 Oozie 也非常灵活。人们可以很容易启动，停止，暂停和重新运行作业。Oozie 可以很容易地重新运行失败的工作流。可以很容易重做因宕机或故障错过或失败的作业。甚至有可能跳过一个特定故障节点。 2、Oozie三大功能模块  3、为什么要使用 Oozie ? 使用Oozie的主要目的是为了管理不同类型的作业在Hadoop系统中处理。 作业之间的依赖关系是由用户向无环图的形式指定。Oozie 的消费信息以及在工作流中指定负责其执行的顺序正确。这样，用户同时管理保存整个工作流程。此外 Oozie 有指定执行特定工作频率规定。 4、Oozie的特点 （1）Oozie 客户端 API 以及命令行界面可以用来启动，控制和监视Java应用程序作业 （2）使用其Web服务的API可以从任何位置控制作业 （3）Oozie有规定执行这些计划定期来运行作业 （4）Oozie 有规定作业完成后可发送电子邮件通知 5、课程简介 （1）本课程主要内容：你将学习到，Oozie的原理、安装配置、使用Oozie实现调度Shell脚本、逻辑调度多个Shell脚本、直接调度MapReduce任务以及定时逻辑调度多个任务。 （2）学习完本课程可以掌握：调度概念、调度流程、项目调度工作和CDH中oozie的使用等。 （3）本课程视频适合人群：所有了解或者系统学习过hadoop生态圈相关组件的人群。若对大数据没有相关了解，能听懂概念，很多操作不能关联。 （4）本课程视频所涉及软件版本： centos 6.5 maven 3.3.9 pig 0.17 apach oozie 5.1.0 CDH 5.13.2 cdh-5.13.2-oozie-4.3.0 6、本期课程目录 01 oozie介绍 02 oozie的架构 03 oozie的编译准备 04 oozie的源码编译 05 oozie的server端安装 06 oozie的server测试 07 client端安装 08 oozie的常用命令 09 oozie的shell案例 10 oozie的map-reduce案例 11 oozie的fork和join 12 oozie的定时任务 |
|
|
