大数据架构师的具体职责（精选18篇）

大数据架构师的具体职责 篇1

职责：

1、负责大数据基础平台的整体规划和架构设计，参与需求分析、技术决策以及详细设计;

2、为现有大数据集群Hadoop、hive平台提供性能调优、架构优化重组，解决系统中的关键问题和技术难题;

3、把握基础业务复杂系统的设计，确保系统的架构质量，编写核心部分代码;

4、持续挑战新的技术方向，攻克大数据量，高并发，稳定性等各种技术难点。

任职资格:

1、计算机或相关专业本科及以上学历;

2、5年以上hadoop的应用开发经验，5年以上数据仓库开发实践经验，至少一个企业级数据仓库项目开发经验或者大数据处理项目经验;

3、良好的编程开发能力，精通PHP及其他开发语言;

4、熟悉mysql等数据库经验，具备优秀的SQL编写、调优能力;

5、熟练掌握Linux常规命令与工具，精通shell, perl, python等脚本语言至少一种;

6、软件基础理论知识扎实，具有良好的数据结构、算法功底;

7、对新技术敏感，学习能力强，乐于接受挑战，具有良好的团队合作精神;

大数据架构师的具体职责 篇2

职责：

1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;

4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;

5. 深入研究大数据相关技术和产品，跟进业界先进技术;

任职要求：

1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;

2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;

3. 具备良好的系统分析能力、故障诊断能力;

4 有大数据策略、算法、可视化经验优先。

大数据架构师的具体职责 篇3

职责：

1、数据分析软件平台架构搭建

2、负责深度学习核心框架或高性能后台服务系统的架构设计工作，包括系统总体规划、架构设计、系统分析、软件实现、性能优化;

3、指导开发人员开发，并解决系统出现的问题，理解物业需求;

4、制定开发计划和控制开发进度，负责指导研发团队开展设计工作;

任职要求：

1、硕士以上，计算机或先关专业;

2、5年左右软件开发经验，含3年以上系统分析、设计经验，有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理经验，

3、 具备良好的组件级建模能力，熟悉HTTP、TCP等协议

4、熟练使用UML进行软件架构设计，至少精通EA，RATIONAL， VISIO等一种设计工具.

5、精通至少一种编程语言，熟悉 Linux 相关技术，能独立在上面进行开发、测试和部署

6、深入理解数据库、数据仓库、大数据、分布式体系架构和关键技术

大数据架构师的具体职责 篇4

职责：

负责大数据平台架构的规划和设计，主导系统的架构设计和核心模块开发，确保项目质量和关键性能指标达成;

负责大数据平台技术框架的选型与技术难点攻关,指导开发大数据平台的开发，保证大数据产品的上线运行;

负责深入理解业务需求，对业务建模，设计系统架构，满足业务需求;

负责协助策略和算法工作,保障数据挖掘建模和工程化;

负责根据业务需求整合优化数据架构，保证产品的可靠性、稳定性;

负责指导开发人员完成数据模型规划建设、分析模型构建及分析呈现;

负责研发技术发展方向，新技术领域的探索，将新技术应用到公司大数据平台，提升公司效能

任职要求：

本科及以上学历，拥有5年以上大数据平台产品或分布式系统设计经验,6年以上的开发经验;

精通Hadoop，熟悉大数据生态技术，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等，有大规模集群架构、开发及运维经验;

熟练掌握java/Scala语言,实现面向对象开发思想OOA,OOD,OOP;

熟悉linux操作系统,熟练掌握脚本言语Shell/Perl/Python等编码语言;

熟练掌握数据仓库设计，开发工作。能够根据业务设计并开发数据仓。

具备源码级问题解决和集群优化改造能力者优先;

能快速的学习新的开源框架和知识体系，并应用到现有架构体系中;

逻辑清晰，快速的学习能力，良好的沟通能力、团队协调能力。

具备良好的团队合作精神，较强的沟通交流能力，具备良好的技术领导能力;

具备良好的文档撰写能力和技术团队管理能力

大数据架构师的具体职责 篇5

职责：

1、负责企业大数据平台的基础建设、管理及制定拓展规划;

2、负责大数据平台相关自动化服务工具的设计、开发;

3、参与Hadoop、Hbase、Spark等核心平台组件的开发、优化;

4、对平台特殊场景化的数据应用制定相关实践方案;

5、大数据团队的搭建。

任职资格:

1、统招本科以上学历，计算机等相关专业，5年以上工作经验;

2、具有Hadoop等大规模集群管理经验、海量(PB)数据处理经验;

3、精通Hadoop、Hive、Hbase等离线平台相关组件的原理机制;

4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系统;

5、熟悉高并发、分布式开发等相关知识，具有后端服务优化相关经验;

6、熟悉爬虫常用框架以及反爬技术;

7、具有良好的沟通能力、分析问题与攻关问题的能力;

8、有责任心，工作积极，对新领域新技术有热情。

大数据架构师的具体职责 篇6

职责：

1、负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

2、负责公司项目的整体评估、设计、架构及关键模块的开发;

3、负责架构优化，协助团队解决开发过程中遇到的技术难题;

4、负责新技术的调研和大数据相关开源组件的研究，并能在团队进行推广应用;

5、参与数据分析、数据建模、项目核心模块及核心框架的开发;

6、负责大数据平台的性能条有和问题诊断。

任职要求：

1、计算机相关专业，本科及以上学历，3-5年以上工作经验，2-3年大数据相关经验;

2、具有扎实的大数据和数据仓库理论功底，负责过大数据平台或数据仓库设计;

3、对基于Hadoop的大数据体系有深入的认识，具备相关产品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)项目应用研发经验，有Hadoop集群搭建和管理经验，度过Hadoop和Spark源码;

4、熟悉Linux和Python语言，了解Scala原理和底层技术;

5、熟悉分布式系统的架构及对其进行设计和优化，对海量数据的清晰、分析处理及存储有相关的实战经验;

6、算法基础扎实，熟悉常见的数据结构，深入理解分布式算法和以上提到的分布式系统，

7、必须有一线coding的能力;

8、有统计学、数学知识，海量数据处理、分析和挖掘，大型互联网公司从业经历着优先。

大数据架构师的具体职责 篇7

职责：

1.负责整个大数据平台架构的设计和构建;

2.负责构建大数据平台的数据交换、任务调度等通用平台;

3.制定开发、测试、实施、维护的标准和规范，指导和培训工程师，不断提升团队能力。

4.参与系统需求分析、架构设计、技术选型、应用设计与开发以及测试与部署，负责编写核心部分代码。

5.持续挑战新的技术方向，攻克大数据量、高并发、高可用、可扩展等技术难点。

任职要求：

1.3年以上大数据架构经验，丰富的数据仓库、数据挖掘、机器学习项目经验

2.大规模数据处理的架构和设计实战经验

3.精通Spark、MR，熟练HDFS、Yarn、Hbase、Hive、MongoDB，熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等，并具有丰富的大型数据平台工程经验

4.深刻理解大数据处理(流计算，分布式计算，分布式文件系统，分布式存储等)相关技术和实现方法

5.熟悉主数据、元数据、数据质量等企业数据管理相关的体系和方法，熟练Linux/Unix平台上的开发环境

6.本科或以上学历，计算机软件或相关专业，丰富的java开发经验和互联网背景优先。

7.具有比较强的问题分析和处理能力，有比较优秀的动手能力，热衷技术，精益求精

大数据架构师的具体职责 篇8

职责：

1.负责过多个大数据项目的架构;

2.精通Hadoop、Spark, HBase等主流的大数据平台、精通各组件优化设计原理;

3.精通大数据实时流式处理的设计和应用;

3.熟悉大数据平台调优，具备大数据生产平台调优经验;

4.金融行业，运营商行业大数据架构经验更优;

5.研究大数据技术的最新发展，并引入到公司技术架构;

6.指导大数据工程师的日常工作，并培养技术骨干。

任职资格：

1.计算机相关专业本科或以上学历;

2.具有5年以上大数据相关开发经验;

3.具有2年以上带团队经验

4.对Hadoop/Hive/Spark/HBase/ES等等大数据常用技术有深刻理解，能够带领团队进行技术攻坚，完成中间件的实施、改造、调优;

5.精通海量数据和实时数据的分析处理，能对线上的数据处理性能问题做调优;

6.精通数据仓库以及维度建模原理，有大型数据仓库建设经验;

7.精通关系型数据库和NoSQL数据库的使用，熟悉相关理论;

8.沟通顺畅，重点突出，高效。

大数据架构师的具体职责 篇9

1. 负责数澜大数据平台的架构设计和研发，建立数据生态服务，解决海量数据面临的挑战;

2. 管理和优化Hadoop、Spark等集群，计算作业的调优，保证集群和平台的高效和稳定;

3. 负责Hadoop、Spark、Flink的功能、性能和扩展，解决并实现业务需求;

4. 负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发;

5. 调研和把握当前的最新技术，将其中的先进技术引入到自己的平台中，改善产品，提升竞争力;

大数据架构师的具体职责 篇10

职责：

1.能够带领技术人员基于hadoop平台进行海量数据应用系统开发;

2.负责结构化和非结构化数据的解析和清洗,海量数据查询和报表展现;

3.负责超大规模数据平台的搭建、维护和优化;

4.负责大数据采集、存储框架研究，参与在线或离线数据存储模型设计;

5.负责大数据平台新技术的开发使用和性能优化，测试。

任职资格：

1.计算机相关专业本科及以上学历;

2. 熟悉hadoop相关各种开源项目，比如HDFS/Hive/Hbase等有实际应用。(5年以上开发经验者优先);

3.两年以上熟练编写mapreduce代码经验，有三年以上网络日志分析、ETL经验。熟悉日志分析框架chukwa,flume,scribe者优先;

4.两年以上海量数据存储的安装部署、优化、二次开发经验，对大规模数据存储、传输、处理等有丰富的经验;

5.在数据挖掘、数据密集型处理、分布式计算、网格计算领域有深入理论基础;

6.具有较强的文档撰写能力，较强的团队精神和合作精神，对工作有热情，能承受压力。

大数据架构师的具体职责 篇11

职责：

1、负责公司的大数据平台的数仓架构、系统架构设计;

2、负责带领团队完成舆情分析相关的挖掘方案设计;

3、负责大数据研发组团队管理;

4、负责带领团队完成舆情平台的方案文档撰写、迭代开发;

5、负责研发规范制定，研究行业前沿技术;

6、参与产品规划及设计讨论。

任职要求：

1、本科五年工作经验及以上，有至少五年的大数据技术实践经验，有NLP或AI相关经验;

2、有很强的架构设计能力和良好的表达能力;

3、有一定的项目管理及团队管理能力;

4、精通Hadoop、Spark生态圈中的常用组件原理及应用;

6、理解媒体业务，精通数据仓库的规划和设计;

5、精通掌握Java或Python编程，有性能调优能力;

4、熟悉NLP算法原理及应用;

6、对新生事物或者新技术有浓厚兴趣，学习能力强。

大数据架构师的具体职责 篇12

职责：

1.负责企业数据中心建设，设计数据逻辑模型和物理模型，并完成相关开发

2.梳理公司各业务线常用的指标和维度，统一指标定义口径

3.根据数据应用开发和数据分析需求，设计数据仓库信息层模型，提高数据开发的效率

4.负责数据模型的运营和优化，及时响应业务逻辑变更，保证模型的数据质量和稳定性

5.负责公司数据标签体系的建设，并推动标签体系在实际业务场景中落地

岗位要求：

1.5年以上DW/BI数据架构设计、模型设计和性能调优等相关经验

2.有较强的数据分析能力，精通数据仓库架构，熟悉Erwin或PowerDesigner建模工具

3.精通一种主流关系数据库(如mysql等)，熟悉Hive开发

4.有电商业务经验，元数据管理，数据质量管理或标签体系搭建经验者优先

5.优秀的协调沟通与团队协作能力，极强的责任心，能承受一定的工作压力，认同企业文化和团队价值

大数据架构师的具体职责 篇13

职责：

1、负责DMP技术架构设计与构建，根据业务规划及技术规划制定应用架构方案;

2、负责设计构建DMP数据采集、存储及分析框架，设计数据处理的技术流程和规范;

3、负责核心功能的架构与代码模板编写，开发与维护系统公用核心模块;

4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。

岗位要求：

1、计算机或相关专业本科以上学历，三年以上的开发经验，二年以上大数据相关软件架构的实际经验;

2、精通大数据处理技术，熟悉Hadoop/Storm技术体系，有Hadoop、Hive、Hbase项目经验;

3、具有较强的架构能力，具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;

4、对数据敏感，洞察力强，了解国内外广告发展趋势;

5.、擅长系统分析与设计，精通常用的设计模式，擅长性能调优;

6、熟悉DMP/RTB技术原理，了解用户的行为分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等广告行业从业经历。

大数据架构师的具体职责 篇14

职责：

1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;

2、研究大数据领域前沿数据挖掘技术，并引入相应技术在数据中心的使用;

3、进行大数据系统框架设计、模型算法开发;

4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ;

5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;

任职资格：

1、本科以上学历(持有学士学位)(985，211优先)，计算机相关专业，五年工作经验;

2、二年以上数据挖掘项目经验，完整参与过数据挖掘大数据平台的架构开发过程，具备互联网行业背景优先;

3、精通分布式计算框架(hadoop、spark、Storm等)及相关经验，熟练掌握Hive/SQL，Python，熟悉Python、R相关数值科学计算库(NumPy,SciPy等);

4、了解传统的BI/DW 理论，能结合传统BI实践设计大数据平台;

5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理，具备应用场景经验，如用户画像、商品关联度分析、舆情分析;

6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法;

7、具备较强的逻辑思维能力、数据敏感度，擅于利用数据发现问题及解决问题;

大数据架构师的具体职责 篇15

职责：

1、负责大数据平台架构的规划与设计;

2、负责大数据平台技术框架的选型与技术难点攻关;

3、参与企业级大数据产品和应用规划;

4、研究跟进大数据架构领域新技术并分享;

5、大数据处理和分析应用平台的设计指导。

任职资格：

1、 具备深厚的分布式系统或数据库系统的理论基础，熟悉分布式计算系统的工作机制，具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;

2、熟悉BI平台架构及相关项目标准，大数据解决方案包括Hadoop、Spark、Storm、机器学习等大数据平台解决方案;

3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流数据数据库;

4、 精通Linux/Unix环境，精通J java、scala、python、R中的一种或多种语言;

5、 具备优秀的团队意识和沟通能力，学习能力和主动性强，具有钻研精神，充满激情，乐于接受挑战;

6、大专及以上学历，3年及以上工作经验。

大数据架构师的具体职责 篇16

职责：

1、正确理解业务需求，对需求进行工作量评估;

2、参与项目相关的需求、设计、投产手册等文档的编写;

3、根据进度计划，完成所承担功能模块的设计、开发、单元测试、联调测试;

4、配合测试组修复代码缺陷，确保功能实现与代码质量;

5、负责所承担功能模块投产、部署，及上线后的日常维护;

6、完成项目经理或者架构师安排的其他工作;

任职资格：

1、本科以上学历，计算机相关专业，两年以上大数据开发经验;

2、熟悉Linux 环境，掌握shell或python;

3、熟练使用hadoop，hive，HBase，YARN，kafka，spark等大数据开发组件;

4、精通 ETL，数据仓库的设计和开发;

5、有大数据处理实战经验，熟悉整个大数据的完整处理流程，包括数据的采集、清洗、存储;

6、较强的动手能力和学习能力，良好的沟通能力、团队协调能力;

7、具有银行、金融行业从业背景者优先。

大数据架构师的具体职责 篇17

职责：

1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;

4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;

5. 深入研究大数据相关技术和产品，跟进业界先进技术。

任职要求：

1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;

2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;

3. 具备Java/C++/Scala等开发经验，熟悉数据挖掘和分析的策略与算法;

4. 具备良好的系统分析能力、故障诊断能力;

5. 有大数据策略、算法、可视化经验优先;

6、211/985 重点学校毕业优先。

大数据架构师的具体职责 篇18

职责：

1、负责大数据平台架构的评估、规划和设计 ;负责海量数据采集、处理及存储、应用方案的技术选型及架构实现;

2、开发大数据平台的核心代码，负责大数据平台的搭建，完成系统调试、集成与实施，技术难题的解决，保证大数据产品的上线运行 ;

3、根据业务需求持续优化数据架构，保证产品的可靠性、稳定性 ;

4、指导开发人员完成数据模型规划建设，分析模型构建及分析呈现 ，分享技术经验;

5、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;

6、深入研究大数据相关技术和产品，跟进业界先进技术;

任职资格：

1.本科及以上学历，数学或计算机相关专业毕业，不少于5年的工作经验，具有扎实的计算机基础理论知识;

2.有3年以上Hadoop、Spark、Hbase平台性能调优经验;熟悉sparkstreaming等实时计算技术

3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等，具备实际项目设计及开发经验;

4.熟悉sparkstreaming等相关的实时计算技术;

5.熟悉大规模数据挖掘、机器学习、自然语言处理、分布式计算中一项或多项技术，并具备多年的实际工作经验;

6.熟悉主流关系型数据库(Oracle、MySql)、NoSql数据库，熟悉pl/sql编程;精通Linux操作系统，熟练使用Java;熟悉常用框架.如Spring、MyBatis等;

7.具有较强的执行力，高度的责任感、很强的学习、沟通能力，能够在高压下高效工作;