大数据开发工程师的工作职责模板(通用14篇)
大数据开发工程师的工作职责模板 篇1
职责:
1、 参与ODS系统或Hadoop 系统数据库相关开发,包括数据仓库的数据模型设计(ODS层设计、基础数据层设计、汇总层设计等);
2、 参与ETL Mapping设计及开发工作;
3、 参与客户/用户画像、经营管理、产品画像、营销活动等主题域建设工作。
资质要求:
1.计算机相关专业本科及以上学历,优秀者放宽至大专;
2.有大型数据库(ORALCE/MSSQL SERVER等)开发经验,有Sybase IQ\HIVE\Spark SQL开发经验者优先;
3、有较强的SQL编程能力,熟练编写存储过程,能设计各种复杂的业务处理、统计分析语句,精通sql性能优化;
4、具有数据仓库、ods、BI商务智能项目经验者优先,具有金融行业项目背景者优先;
5、较好的沟通理解能力,态度踏实,积极上进。
大数据开发工程师的工作职责模板 篇2
职责
1、负责公司大数据平台建设工作,完成Hdaoop/Spark搭建部署,根据业务需要进行开发;
2、开发实现网络爬虫并爬取所需数据,有效存储到大数据平台;
3、对平台数据做预处理,满足数据展现及后续机器学习等系统使用;
4、根据业务需要,应用大数据实时分析技术、可视化技术等,并对平台发展规划进行设计。
任职资格
1、本科及以上学历,计算机相关专业;
2、熟悉数据仓库和数据建模相关技术细节,有编程经验,熟悉SQL/Hadoop/Hive/Hbase/Spark等大数据工具;
3、具备海量数据处理经验,或有互联网行业数据挖掘工作经验;
4、1年以上岗位经验优先,本科应届有意向的,可优先培养。
大数据开发工程师的工作职责模板 篇3
职责:
1.负责金融银行大数据系统相关模块的数据架构及研发实施工作
2.依据业务场景、分析需求提供技术解决方案并加以实现;
3.与客户业务部门对接,解决数据建模、报表和报告在系统开发遇到的问题;
任职资格:
1.具备3年以上DW系统建设经验,了解BI系统,有数据管理经验,有维度建模相关经验,了解数据仓库建设过程中的挑战与问题
2.精通多系统数据融合、清洗、转换、整合,具备海量数据加工处理相关经验
3.熟悉业界数据仓库建模方法、元数据管理、数据质量体系管理
4.掌握大型数据库开发技术(ORACLE/DB2等),有丰富的数据库模型设计和优化经验
5.熟练掌握Unix/Linux常规命令、工具及Shell编程
6.掌握一门或多门编程语言优先,如Java、Python、scala等
7.熟悉Hadoop、spark、kafka等大数据生态相关技术,有相关实践经验着优先8.良好的语言沟通与表达能力和自我驱动动力9.具备银行项目设计、开发、优化等经验者加分
大数据开发工程师的工作职责模板 篇4
职责:
1、独立负责工作小组,并对下级成员进行监督;
2、具备资源整合以及对软件项目全局把控的能力;
3、负责软件项目的系统设计和需求分析;
4、制定软件项目开发计划,并按时完成功能模块的设计、开发以及编程任务;
5、积极配合并完成主管下达的任务,并能够对软件部门的发展规划提出意见;
任职条件
1、大数据相关开发经验3年以上,至少具备2年以上java开发经验;
2、有基于hadoop的数据抽取、转换、加载的开发相关经验;
3、熟练掌握hadoop生态的相关知识,如hive,hbase,flume.kafka,storm,spark,mapreduce等;
4、熟悉Linux操作系统。熟悉linux各项基本操作,至少掌握一门脚本语言;
5、熟练数据仓库,对多维数据建模有深入理解;
6、有BI数据平台、数据仓库、日志采集、多维数据仓库设计、开发、架构经验者优先;
7、思维敏捷,有较强的钻研学习能力,较好的沟通能力、团队合作;
大数据开发工程师的工作职责模板 篇5
1、负责数据仓库和大数据处理模块的架构设计和开发;
2、负责实现基于Spark框架的分布式计算框架的设计和开发工作;
3、负责Spark技术研究和通用数据平台的性能调优;
4、负责大数据项目中,基于kafka、flume、spark streaming、Spark SQL等相关技术的海量数据的处理、分析、统计、挖掘工作。
5、熟悉Scala/Java语言,对Scala/Java原理、底层技术有深入研究者优先;
6、有过海量数据系统开发经验者优先;
7、熟悉Hadoop/Spark生态系统组件的使用,至少有2年以上的Spark开发经验;
8、写过推荐系统的优先考虑
大数据开发工程师的工作职责模板 篇6
职责:
1、根据工作安排和设计要求,完成相对应模块的开发和单元测试,参与系统需求分析;
2、配合进行集成测试、系统测试以及用户测试;
3、进行软件维护,解决软件漏洞、优化软件、实现变更需求;
4、对系统运行提供技术支持,协助解决运行维护中的问题;
5、参与编写软件开发与系统维护相关技术文档等。
任职条件
1、本科(含)以上学历,计算机相关专业,3年Java开发经验,熟悉软件开发流程。
2、精通java,具备OOA/OOD编程理念,熟悉设计模式。
3、熟悉Struts、Spring、Hiberate 等主流开源框架, 熟悉Weblogic、Tomcat等应用服务器的部署与配置优先;
4、熟悉HMTL,XHTML,Xml,CSS,Javascript,AJAX等网络技术者优先;
5、了解SQL语法,会java数据库编程,熟悉Oracle或其他主流数据库者优先;
6、责任心强,工作积极主动,有耐心,能承受一定工作压力;有良好的学习能力,乐于学习研究新技术
7、有保险行业经验者优先
大数据开发工程师的工作职责模板 篇7
1.熟悉Oracle数据库和Windows/Linux 系统,具有一定的数据库操作能力和oracle DBA OCP认证优先;
2.熟悉各厂网络设备,有相关网络认证、CCNP、CCIE优先;
3.具备较强的客户沟通能力,能够耐心、迅速的分析并理解客户提出的问题和需求;
4.具备良好的团队合作精神、高度的责任感,对工作积极严谨;
5.注重细节,工作细心,有良好的规范化文档书写能力;
6.有大型数据库维护经验的优先;
7.了解AIX等Unix系统优先;
8.日语口语熟练者N3~可以对接我司JPN项目(有JPN出差机会);
大数据开发工程师的工作职责模板 篇8
职责:
1、 负责社交产品业务的后台架构设计开发等;
2、 负责社交产品的后台poss系统架构设计开发;
3、 负责产品的内部财务系统开发;
4、 负责DB设计和大数据处理。
任职资格:
1.计算机或相关专业本科以上学历,5年以上相关工作经验;
2.精通java编程语言,扎实的编程基础,熟悉spring,mybatis等主流开发框架使用及原理;熟悉Linux/Unix系统、多线程编程技术,熟悉MQ,精通高并发处理;
3.熟悉oracle、mysql、mongodb等数据库;熟悉memcached/redis等nosql;
4.有golang语言和高并发开发经验优先;
5.精通高并发,有tomcat和jvm优化,互联网应用架构设计经验者优先;
6.具备优秀的逻辑思维能力,对解决挑战性问题充满热情,善于解决问题和分析问题;
7. 有强烈的上进心和求知欲,善于学习新事物;良好的团队合作精神,较强的沟通能力和学习能力
8. 有大型互联网公司核心部门工作经验者,和有外企和名校背景者优先。
大数据开发工程师的工作职责模板 篇9
1、参与基站储能电池PACK方案的制定与实施;
2、参与新产品开发计划的编制;
3、配合营销、商务部门,进行电池产品相关工作的支持;
4、配合交付线,与工艺、测试进行对接,协助解决电池产品生产中出现的相关问题;
5、负责项目开发工作,与电芯工程师、结构工程师对接,提出技术指标、可制造性指标和开发关键节点;
6、按时完成上级领导交办的其他工作。
大数据开发工程师的工作职责模板 篇10
职责:
协助项目经理完成相应功能模块的业务分析、系统设计及数据库结构设计;
负责相应功能模块的代码编写;
负责编写相应功能模块的技术文档;
配合完成测试和部署工作。
任职资格:
计算机科学与技术、软件工程等计算机软件相关专业,本科及以上学历;
熟练使用安全检测工具Burp Suite、Fiddler、Fortify SCA、drozer等,进行安全测试;
具有web端和APP端渗透性测试手动测试经验;
熟悉常见的web安全漏洞TOP10,会进行手工漏洞挖掘:如SQL注入、 XSS跨站脚本、跨站伪造请求、 XML注入、越权访问、目录遍历、敏感信息泄露、CSRF、越权、用户枚举及猜解(暴力破解)、明文密码传输、数据加密传输、任意URL重定向、授权绕过、JAVA反序列化等;
具有一定的测试环境部署,数据库环境部署能力;
具有一定的APP开发、web开发能力;
有责任心、团队协作能力、沟通能力以及良好的抗压能力。
大数据开发工程师的工作职责模板 篇11
职责:
1、负责自动化运维平台的开发
2、负责自动化运维平台与运维工具的整合与优化
3、负责跟进运维平台的需求收集、反馈、优化和落地实现
4、研究新运维技术,持续优化系统架构
任职资格:
1、3年或以上PHP/Python/Golang开发经验
2、熟悉LNMP的配置、管理及优化,熟悉devops工具链优先
3、有自动化运维,Docker、Kubernetes开发经验者优先
4、责任心强,有良好的沟通能力、协作能力、学习能力、英文阅读能力
大数据开发工程师的工作职责模板 篇12
1.负责互联网系统后端模块的开发和测试;
2.与前端开发、运营、测试团队合作完成整个项目开发;
3.编写及维护软件功能规格说明书,设计及开发过程中产生的系列文档;
4.参与系统架构设计和核心代码的编写,可指导初级开发人员参与工作;
5.参与网站性能优化、产品体验优化以及产品功能迭代;与前端开发团队紧密配合,确保代码有效对接,优化前端性能。
大数据开发工程师的工作职责模板 篇13
1.根据产品需求开发IOS客户端产品;
2.验证和修正测试中发现的问题 ;
3.学习和研究新技术以满足产品的需求;
4.根据开发过程中的体验对产品提出改进建议。
大数据开发工程师的工作职责模板 篇14
职责:
1.结合项目或产品涉及的具体业务场景,对数据进行清洗、计算与加工;
2.思路清晰,可快速响应数据处理的需求,评估并给出合理的解决方案,并采用合理的方式处理需求;
3.积极主动,能够与团队成员进行有效沟通,并完成数据处理结果的核对与对接;
4.完成上级交办的工作或任务。
岗位要求
1.计算机相关专业大专以上学历;
2.2年以上大数据产品或项目开发经验,精通Hadoop生态圈,熟练使用Spark,HBase、Hive、Kafka、Redis等;
3.精通SQL,熟练使用HSQL实现复杂数据处理逻辑,并具备数据处理调优的能力;
4.熟悉Linux开发环境,熟悉Linux的shell命令。
5.具有良好的逻辑思维能力和严谨的程序开发思想,具备独立问题排查与处理的能力;
6.良好的团队精神和合作意识,强烈的责任心,对工作有激情,良好的沟通能力,能吃苦耐劳;
7.有大数据项目或产品背景者优先;
8.有使用Spark SQL进行数据处理,并具有Spark SQL优化经验者优先。
9.有Python或者Shell脚本开发经验优先