趣文网 > 作文大全

大数据开发工程师的具体职责

2022-11-26 05:53:13
相关推荐

大数据开发工程师的具体职责

大数据开发工程师的具体职责1

职责:

1、 负责公司大数据平台数据处理工具ETL、流处理平台等建设,功能规划,平台演进,维护调优等;

2、 结合公司业务特征,负责公司数据仓库规划、数据仓库建设、数仓管理等;

3、 负责大数据处理技术研究及新技术引进,参与超大规模实时/离线数据计算框架,存储、查询、可视化解决方案的设计,研发;

4、 负责公司业务数据仓库模型建设及全业务数据域打通;

5、 负责BI报表和可视化项目,和客户深度沟通,理解客户的业务挑战,提供解决方案,制定开发计划并执行,支持各单位日常数据需求和任务;

任职资格:

1、 熟练掌握关系型数据库,例如:Oracle、Mysql、Vertica等;熟悉NoSql数据库,例如HBase、Redis、MongodDB等;具备丰富的数据库管理和运维调优经验;

2、 熟悉数据仓库领域知识和技能者优先,包括但不局限于:元数据管理、数据开发测试工具与方法、数据质量、主数据管理,数据打通等;

3、 有从事分布式数据存储与计算平台应用开发经验,熟悉Hadoop生态相关技术并有相关实践经验着优先,如Hdfs、Mapreduce、Hive、Hbase、Spark、Storm;

4、 精通数据预处理、检验、清洗、分析方法,精通各种常用统计检验方法;熟练掌握一门或多门编程语言,并有大型项目建设经验者优先,如Java、Python、Shell和scala等;

5、精通Linux,熟悉日常运维、搭建常见服务器、定位解决日常问题的能力,具备ETL开发经验优先;

6、 良好的语言沟通与表达能力,有丰富的数据开发经验,较强的数据、平台、技术理解能力;

7、 具备数学类、计算机类等相关专业统招本科及以上学历,具有3年及以上大数据开发工作经验,有互联网行业背景优先。

大数据开发工程师的具体职责2

职责

1. 负责大数据分析需求设计和开发工作,包括数据存储、预处理、查询、统计、实时分析、数据优化及配置等功能;

2. 对大数据分析系统存在的问题进行跟踪和定位并及时解决;

3. 负责上级交办的其他相关工作。

岗位要求:

1. 本科以上学历,2年以上工作经验;

2. Java基础扎实,熟练使用Java IDE 进行代码编写和调试,熟悉JUnit单元测试框架;

3. 熟悉Linux操作系统,能在Linux上完成开发、调试工作;

4. 熟悉网络IO、多线程并发编程、集合等基础框架,精通数据结构和数据算法;

5. 参与过分布式高性能服务的设计开发过程,有大规模分布式系统的实践经验;

6. 熟悉数据库操作和使用的基本技能,熟练一种关系型数据库的使用;

7. 能独立编写详细设计文档;

8. 有大数据分析工具Hadoop、spark使用开发经验优先;

9. 具有团队精神与敬业精神,学习钻研能力强,具有良好的协调沟通能力。

大数据开发工程师的具体职责3

职责:

1、大数据的分布式采集与环境搭建和测试;

2、大数据存储、处理和分析工作;

3、大数据相关产品线的改进和相关核心开发工作;

4、其他大数据相关工作。

任职要求:

1、本科及以上学历,计算机相关专业;

2、2年以上Java开发及大数据相关开发经验,java基础扎实,熟练掌握多线程、集合、缓存、序列化、nio等技术;

3、熟悉Linux环境,熟悉Linux shell/python/perl任一脚本;

4、熟悉Hadoop、Spark、ZooKeeper等主流的大数据处理架构,并有1年以上Hadoop相关的实际开发、架构及调优经验;

5、使用过阿里云;

6、熟悉架构;

7、具有较好的"学习能力、沟通表达能力及团队合作能力。

大数据开发工程师的具体职责4

职责:

1、本岗位培养方向为证券基金行业数据架构师;

2、辅助大数据架构师制定项目开发流程、规范,辅助数据模型设计人员进行模型设计;

3、辅助技术架构师进行大数据平台调优(业务逻辑角度);

4、负责大数据平台开发,包括数据抽取、转换和加载;

5、负责控制数据需求、管理项目开发进度,配合QA完成项目质量管理;

职位要求:

1、2年以上证券或者基金行业数据中心、大数据平台建设经验;

2、具备较强的学习能力,对数据模型和大数据技术有浓厚的兴趣;

3、熟练掌握基于ORACLE或MPP数据库或Hadoop等开发技术;

4、至少掌握一种ETL开发工具。如:Informatica、DataStage、SSIS、Kettle等;

5、良好的团队合作精神、公司提供优厚待遇。

大数据开发工程师的具体职责5

职责:

1、在hadoop平台进行hive/hbase/spark开发;

2、处理公司大数据平台产品的技术工作,包括存储、处理、分析、挖掘、架构设计、研发工作;

3、熟悉设计、构建和优化基于hadoop/Hbase的存储平台架构;

4、熟悉整体提升hadoop/Hbase/Storm/Spark集群的高可用性、高性能、高扩展特性;

5、部门相关工作。

岗位要求:

1、计算机等相关专业大专及以上学历;

2、3年以上软件开发经验,精通Java开发,至少2年以上Hadoop相关开发经验;

3、熟悉分布式系统、分布式计算系统的工作机制,具有大规模数据平台,高并发大型系统,大数据等架构设计和开发经验;

4、熟悉sqoop、Hive、hbase、spark等大数据生态组件;

5、精通linux shell和sql脚本;

6、有java web开发经验者优先;

7、良好的团队精神和沟通能力,很强的逻辑思维能力和学习能力。

阅读剩余内容
网友评论
相关内容
延伸阅读
小编推荐

大家都在看

全神贯注的作文 陕西高考作文题目 小学生作文范例 十一见闻作文 2021高考作文题目 父母的爱作文600字 王俊凯写的作文 泰山游记作文 雨中的故事作文 成功是成功之母作文 包饺子作文600字 缅怀革命先烈作文 母爱话题作文 关于写雨的作文 改变自己英语作文 秋天的快乐作文 写童年趣事的作文 安全伴我行作文 回忆往事的作文 中国梦英语作文 高考满分作文大全 有关雨的作文 五一见闻作文 2022高考英语作文 感恩祖国的作文 作文素材高考版 初中作文网 六级作文模板万能 关于六一的作文 社会公德作文