大数据平台架构师岗位职责（精选23篇）

大数据平台架构师岗位职责 篇1

1、建设大数据平台，主要技术为k8s, docker;

2、跟进开源社区的更新，阅读文档，验证feature;

3、阅读容器生态圈各组件的开源项目代码，开发新功能;

4、持续提升平台的性能和稳定性。

大数据平台架构师岗位职责 篇2

1. 负责大数据项目整体架构规划，包括应用架构、技术架构、物理架构和数据架构等;

2. 负责指导工程师进行技术验证与实现，核心技术问题的攻关，解决项目开发过程中的技术难题;

3. 负责项目对外技术沟通，具有较强的沟通，表达和文档撰写能力;

4. 根据公司项目和业务发展特点，负责研究相关大数据前沿技术;

5. 推动技术能力的沉淀。

大数据平台架构师岗位职责 篇3

1、负责公司大数据处理框架研发工作，设计与开发分布式存储、数据处理与分析架构。

2、负责大数据平台与产品和相关技术的追踪及研究。

3、负责大数据的处理工作，以及业务数据提取、加载、转换处理流程的开发和优化。

4、利用大数据平台工具对数据维护。

5、负责相关项目的技术支持和服务。

6、持续对系统的技术架构进行改进和优化。

大数据平台架构师岗位职责 篇4

1. 负责数澜大数据平台的架构设计和研发，建立数据生态服务，解决海量数据面临的挑战;

2. 管理和优化Hadoop、Spark等集群，计算作业的调优，保证集群和平台的高效和稳定;

3. 负责Hadoop、Spark、Flink的功能、性能和扩展，解决并实现业务需求;

4. 负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发;

5. 调研和把握当前的最新技术，将其中的先进技术引入到自己的平台中，改善产品，提升竞争力;

大数据平台架构师岗位职责 篇5

1、负责大数据平台资源规划、权限控制、运维架构设计，为各产品业务提供稳定、高效、安全的运行环境;

2、负责实时，离线数据分析处理及实时平台的建设和搭建

3、熟悉 Flink 流式计算引擎的使用以及源码原理，并且有相关的流式处理平台的经验。

4、Java基础扎实，熟练掌握垃圾回收，网络，多线程编程，了解 python 或 scala

5、负责大数据平台技术架构、数据架构的分析与设计;

大数据平台架构师岗位职责 篇6

职责

1、负责大数据架构设计，包括定义数据的存储、集成(ETL)、应用，支撑业务运营和数据分析类需求实现;

2、制定数据治理领域的数据体系化管理措施，包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作，确保数据可信与安全;

3、基于行业数据积累，满足业务的数据挖掘需求，实现从数据到资产的转变，根据目标行业建立具有前瞻性的数据模型;

4、对各产品的数据安全负责，主导制定和实施数据库系统安全策略，保证整体方案数据安全;

岗位要求

业务技能要求：

1、深入理解云化、数据仓库，在参与过的系统设计中，必须涉及这两项关键技术;

n2、精通或者熟悉Hadoop体系架构，以及HDFS/HBase/Hive/MapReduce/Spark等技术，了解体系架构各组件的优缺点，有直接的产品设计与开发、部署、调优的经验;

3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发，了解各数据库优缺点， 熟悉与架构设计相关的数据存储、性能调优等相关领域知识，有相关项目经验尤佳;

4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案，具有数据分析或数据挖掘相关经验者优先;

n5、熟悉数据治理相关流程，包括数据接入、数据处理、数据治理、数据组织、数据服务等。

专业知识要求：

1、具备数据治理的知识与体系方案，包含政策、组织、角色、流程、规范等，以及规划相应的支撑方案。了解业界的数据管理方法论;

2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别，将业务需求转化为数据的需求，完成数据用例的设计和开发;

3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。

大数据平台架构师岗位职责 篇7

职责：

1.负责过多个大数据项目的架构;

2.精通Hadoop、Spark, HBase等主流的大数据平台、精通各组件优化设计原理;

3.精通大数据实时流式处理的设计和应用;

3.熟悉大数据平台调优，具备大数据生产平台调优经验;

4.金融行业，运营商行业大数据架构经验更优;

5.研究大数据技术的最新发展，并引入到公司技术架构;

6.指导大数据工程师的日常工作，并培养技术骨干。

任职资格：

1.计算机相关专业本科或以上学历;

2.具有5年以上大数据相关开发经验;

3.具有2年以上带团队经验

4.对Hadoop/Hive/Spark/HBase/ES等等大数据常用技术有深刻理解，能够带领团队进行技术攻坚，完成中间件的实施、改造、调优;

5.精通海量数据和实时数据的分析处理，能对线上的数据处理性能问题做调优;

6.精通数据仓库以及维度建模原理，有大型数据仓库建设经验;

7.精通关系型数据库和NoSQL数据库的使用，熟悉相关理论;

8.沟通顺畅，重点突出，高效。

大数据平台架构师岗位职责 篇8

职责：

1、数据分析软件平台架构搭建

2、负责深度学习核心框架或高性能后台服务系统的架构设计工作，包括系统总体规划、架构设计、系统分析、软件实现、性能优化;

3、指导开发人员开发，并解决系统出现的问题，理解物业需求;

4、制定开发计划和控制开发进度，负责指导研发团队开展设计工作;

任职要求：

1、硕士以上，计算机或先关专业;

2、5年左右软件开发经验，含3年以上系统分析、设计经验，有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理经验，

3、 具备良好的组件级建模能力，熟悉HTTP、TCP等协议

4、熟练使用UML进行软件架构设计，至少精通EA，RATIONAL， VISIO等一种设计工具.

5、精通至少一种编程语言，熟悉 Linux 相关技术，能独立在上面进行开发、测试和部署

6、深入理解数据库、数据仓库、大数据、分布式体系架构和关键技术

大数据平台架构师岗位职责 篇9

职责:

1、对业务需求深入分析，从而进行大数据平台核心应用的架构设计、开发和技术支持;

2、规划业务应用系统和基础平台的技术架构，参与需求分析、建模、架构设计、技术决策以及详细设计;

3、把握复杂系统的设计，确保系统的架构质量，编写核心部分代码;

4、带领团队攻克例如大数据量、高并发、高稳定性等带来的各种挑战及技术难关;

5、在大数据平台建设路线图指导下，进行架构实施和交付物投递，同时确保研发质量和方向的准确性;

6、进行团队技术的培训和梯队建设岗位要求;

任职条件:

1、本科或以上学历，计算机相关专业，8年以上研发经验，3年以上大数据平台相关工作经验;

2、精通Java开发技术，熟悉Shell、Scala语言和PYTHON优先;

3、编程基础扎实，熟悉I/O、多线程、集群等基础框架和原理，熟悉分布式、缓存、消息等机制;

4、熟悉常用设计模式，代码评审规则，单元测试，持续集成;

5、熟悉AWS云服务或阿里云服务;

6、熟悉容器技术原理、生态系统，熟悉Docker、Mesos、Kubernetes等容器系统、大规模容器资源调度系统、分布式应用生命周期。

大数据平台架构师岗位职责 篇10

职责：

1、负责公司大数据平台架构的技术选型和技术难点攻关工作;

2、依据行业数据现状和客户需求，完成行业大数据的特定技术方案设计与撰写;

3、负责研究跟进大数据架构领域新兴技术并在公司内部进行分享;

4、参与公司大数据项目的技术交流、解决方案定制以及项目的招投标工作;

5、参与公司大数据项目前期的架构设计工作;

任职要求：

1、计算机及相关专业本科以上，5年以上数据类项目(数据仓库、商务智能)实施经验，至少2年以上大数据架构设计和开发经验，至少主导过一个大数据平台项目架构设计;

2、精通大数据生态圈的技术，包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive，具备数据统计查询性能优化能力。熟悉星环大数据产品线及有过产品项目实施经验者优先;

3、优秀的方案撰写能力，思路清晰，逻辑思维强，能够根据业务需求设计合理的解决方案;

4、精通ORACLE、DB2、mySql等主流关系型数据库，熟悉数据仓库建设思路和数据分层架构思想;

5. 熟练掌握java、R、python等1-2门数据挖掘开发语言;

6. 熟悉云服务平台及微服务相关架构思想和技术路线，熟悉阿里云或腾讯云产品者优先;

7、有烟草或制造行业大数据解决方案售前经验者优先;

8、能适应售前支持和项目实施需要的短期出差;

大数据平台架构师岗位职责 篇11

职责：

1.负责公司大数据底层框架的整体架构设计，结合公司实际业务情况进行技术选型及大数据战略规划;

2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发，不断提升系统的稳定性和效率;

3.负责架构优化及系统关键模块的设计开发，协助团队解决开发过程中的技术难题;

4.建立良好的公司内外的业界技术影响力;有效辅导团队，提升数据研发能力;

任职要求：

1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力，善于从复杂的数据问题中找到关键路径;

3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于：hadoop、storm、spark、等;

4. 良好的逻辑思维能力，良好的业务解读能力，懂电力或通信业务优先;

5.具有钻研精神，乐于接受挑战;

大数据平台架构师岗位职责 篇12

职责：

1.能够带领技术人员基于hadoop平台进行海量数据应用系统开发;

2.负责结构化和非结构化数据的解析和清洗,海量数据查询和报表展现;

3.负责超大规模数据平台的搭建、维护和优化;

4.负责大数据采集、存储框架研究，参与在线或离线数据存储模型设计;

5.负责大数据平台新技术的开发使用和性能优化，测试。

任职资格：

1.计算机相关专业本科及以上学历;

2. 熟悉hadoop相关各种开源项目，比如HDFS/Hive/Hbase等有实际应用。(5年以上开发经验者优先);

3.两年以上熟练编写mapreduce代码经验，有三年以上网络日志分析、ETL经验。熟悉日志分析框架chukwa,flume,scribe者优先;

4.两年以上海量数据存储的安装部署、优化、二次开发经验，对大规模数据存储、传输、处理等有丰富的经验;

5.在数据挖掘、数据密集型处理、分布式计算、网格计算领域有深入理论基础;

6.具有较强的文档撰写能力，较强的团队精神和合作精神，对工作有热情，能承受压力。

大数据平台架构师岗位职责 篇13

职责：

1、大数据平台的规划、设计、实施，并优化数据库;

2、对数据库进行管理，负责数据库应用系统的运营及监控;

3、对数据库性能分析与调优，排错，保证数据正确率;

4、配合其他部门进行的数据处理、查询，统计和分析工作;

5、完成公司下达的项目开发任务。

任职要求：

1、计算机及相关专业本科以上学历，5年以上软件开发从业经验，其中包括至少2年以上的大数据开发工作经验;

2、熟悉hive,hadoop/spark,hbase等大数据相关技术架构，有管理或优化大型分布式集群经验;

3、熟悉linux基本命令，精通SQL脚本的编写，有丰富的数据库管理、运维调优经验;

4、熟悉C++、Java、C#等开发语言;

5、有互联网电商行业大数据分析处理和大型数据仓库的设计和实施经验;

6、有分布式系统分析及架构设计经验和大型计算集群的基础设施开发维护经验;

7、快速处理系统突发事件的能力，较强的学习和创新能力;

8、良好的沟通能力和团队合作精神。

大数据平台架构师岗位职责 篇14

职责：

1、负责规划大数据平台及应用产品的需求和技术方案设计;

2、负责数据对接和对外服务设计、开发和维护，并能保证质量和性能;

3、负责基于大数据平台的应用设计、开发和维护;

4、能从系统全局和各子系统的角度思考可能存在的问题，并提出改进方案建议;

任职要求：

1、大学本科6年以上工作经验，计算机相关专业。

2、至少4年以上的Java开发经验，3年以上大数据应用系统的开发和设计经验。

3、熟悉Hadoop生态圈技术体系， 对离线计算、内存计算和流式计算均有深刻理解， 如Hadoop、Storm、Spark三个中的任意二个， 能进行平台和组件优化。

4、精通Hive、HBase仓库设计，深刻理解MR运行原理和机制，能进行以提供高任务执行效率的优化。

5、精通Java开发，熟悉JVM调优， 对GC有深刻理解。

6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相关技术， 能进行hbase可靠性诊断和维护。

7、快速研究和学习技术能力。

大数据平台架构师岗位职责 篇15

职责:

1)负责公司软件产品整体架构的设计和关键功能实现

2)负责公司架构长期看护以及优化;

3)负责软件部门各模组间的协调配合;

4)提高巩固软件代码质量;

5)负责大数据流式框架的设计、优化及部署;

6)规划研发部门员工的技术发展路线并提供必要的帮助和指导

任职资格:

1)本科及以上学历，计算机相关专业，5年以上工作经验;

2)频繁换工作，比如一年一个公司，请绕路;

3)3年以上产品架构经验，主导过产品的成功上线;

4)对底层设备通讯协议，B/S系统，手机APP开发等都有一定的了解;

5)对各种主流语言C#JavaPathon有一定的了解

5)精通各种大数据架构，并深入研究过其中一种，有stormkafka等流式实时处理经验为佳

6)能够承担较强的工作压力，有良好的自我驱动能力和责任感;

7)具备优秀的逻辑思维能力、表达能力、沟通协调能力。

大数据平台架构师岗位职责 篇16

职责：

1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;

4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;

5. 深入研究大数据相关技术和产品，跟进业界先进技术;

任职要求：

1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;

2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;

3. 具备良好的系统分析能力、故障诊断能力;

4 有大数据策略、算法、可视化经验优先。

大数据平台架构师岗位职责 篇17

职责：

(1) 负责公司大数据平台搭建，相关的设计和技术开发工作，负责大数据存储系统、分布式计算系统、数据集成、挖掘算法等的设计、研发以及维护、优化工作;

(2) 通过数据分析技术，挖掘有利于营销中各业务场景的变量或规则类标签，以提升模型效果，为文旅、教育业务提供数学模型理论及编程支撑;

(3) 对接沟通业务系统研发团队和产品部门，提供数据驱动方面的专业咨询方案，并对业务的大数据应用场景提出建设性意见;

(4) 配合部门领导进行项目需求分析、设计开发工作。

任职要求：

(1) 计算机、统计学，数学等相关专业本科以上学历，5年以上大数据或文旅、教育数据产品设计开发经验，高效高质量产出需求和技术文档;

(2) 精通Hadoop，熟悉大数据生态技术，如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等，有大规模集群架构、开发及运维经验;熟悉HDFS/MapReduce等;

(3) 熟悉Java，能够独立应用python、R、SAS或类似分析工具进行数据分析;

(4) 熟悉大数据挖掘、可视化分析，各种BI算法和产品等，在计算广告、搜索引擎、推荐系统、用户画像等有一个或多个算法领域的研发经验，能够运用数据作为产品解决业务方运营及决策问题;

(5) 有互联网行业工作经验者优先，有海量数据的机器学习算法实践经验优先;

(6) 工作认真、负责，有良好的团队合作精神，良好的分析能力、沟通技巧。

大数据平台架构师岗位职责 篇18

职责：

负责公司大数据产品架构的设计与实现;

配合大数据产品经理完成产品的快速研发与交付;

负责大数据产品架构的持续优化设计;

负责大数据产品核心组件设计;

负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;

为应用开发团队提供技术支撑。

及时向上级反馈工作进度、遇到的问题或者对现有工作的建议等;

完成上级领导交办的其它各项工作。

任职资格：

985/211本科及以上学历，3年以上的大数据开发经验、

2年以上大数据架构设计经验;

丰富的JAVA研发经验，精通JAVA，熟悉Python Scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础，熟悉分布式计算系统的工作机制，具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;

熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);

精通各种大数据相关技术体系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

有数据挖掘、机器学习相关应用或研究背景;

沟通能力较好，积极主动意识较强，责任心较强。

具备优秀的逻辑思维能力，对解决挑战性问题充满热情，善于解决问题和分析问题;

良好的团队合作精神，较强的沟通能力和学习能力 ;

大数据平台架构师岗位职责 篇19

职责：

1. 规划设计大数据平台整体架构，规划各种组件，并且指导技术团队完成相关系统验证、安装、部署、配置;

2. 负责制定大数据平台技术规范和接口规范，指导研发团队按照规范进行系统开发;

3. 配合商务人员完成售前技术支持工作;

4. 完成其他与数据应用有关的技术工作;

任职要求：

1. 计算机相关专业本科学历，5年以上工作经验;

2. 对大数据技术栈有非常深刻的了解;具备架构设计的实际经验;

3. 对信息安全架构设计及实施有一定的经验;

4. 熟悉Linux、Windows等操作系统的安装配置;

5. 熟悉互联网应用的安装配置;熟悉常见大数据技术栈组件的安装配置;熟悉Visio等绘图工具的使用;

6. 有卫生信息化建设经验者优先;有容器安装部署经验者优先。

大数据平台架构师岗位职责 篇20

职责：

1. 负责设计企业级大数据平台的整体架构，从技术层面制定清晰的大数据产品与系统技术架构，并负责实现关键技术和产品。

2. 负责设计具有创新价值的大数据底层平台、大数据上层应用系统等，带领团队完成有质变的技术解决方案。

3. 负责组织同事研究行内最前沿的技术发展方向，突破现有的技术难题。

4. 负责研究院对外项目合作协调与支持，编写项目建设方案及后期项目建设支持。

任职要求：

1. 硕士及以上学历，计算机相关专业。

2. JAVA基础扎实,不少于8年的一线开发经验，精通Spring boot/MyBatis/Restful API的开发与管理. 熟悉ReactJS/Angular/Vue之一前端开发技术，熟悉Maven或Ant.，熟悉Python语言开发加分。

3. 不少于4年大数据的直接研发经验，精通Hadoop/Spark系统，有hands-on的架构设计、性能调优、开发经验。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系统的开发经验。

4. 掌握分布式系统原理，对分布式存储、流式计算、消息队列中的一项或多项有深入的理解和认识。

5. 熟悉分布式系统的监控、运维、故障恢复，高可用原理和设计理念。

6. 算法基础扎实，熟悉常见的数据结构，掌握大规模高并发访问、大数据开发等处理经验;熟练的Linux系统, 网络, 内存和存储等方面知识。

7. 必须要有千万级别的项目管理经验，包括但不限于前期需求沟通，建设方案编写，中期项目实施，进度汇报，后期项目维护。

大数据平台架构师岗位职责 篇21

职责：

1、 基于公司大数据基础和数据资产积累，负责大数据应用整体技术架构的设计、优化，建设大数据能力开放平台;负责大数据应用产品的架构设计、技术把控工作。

2、 负责制定大数据应用系统的数据安全管控体系和数据使用规范。

3、 作为大数据技术方案到产品实现的技术负责人，负责关键技术点攻坚工作，负责内部技术推广、培训及知识转移工作。

4、 负责大数据系统研发项目任务规划、整体进度、风险把控，有效协同团队成员并组织跨团队技术协作，保证项目质量与进度。

5、 负责提升产品技术团队的技术影响力，针对新人、普通开发人员进行有效辅导，帮助其快速成长。

任职资格：

1、 计算机、数学或相关专业本科以上学历，5-20xx年工作经验，具有大型系统的技术架构应用架构数据架构相关的实践工作经验。

2、 有分布式系统分析及架构设计经验，熟悉基于计算集群的软件系统架构和实施经验。

3、 掌握Hadoop/Spark/Storm生态圈的主流技术及产品，深入了解Hadoop/Spark/Storm生态圈产品的工作原理及应用场景。

4、 掌握Mysql/Oracle等常用关系型数据库，能够对SQL进行优化。

5、 熟悉分布式系统基础设施中常用的技术，如缓存(Varnish、Memcache、Redis)、消息中间件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有实践经验者优先。

6、 熟悉Linux，Java基础扎实，至少3-5年以上Java应用开发经验，熟悉常用的设计模式和开源框架。

大数据平台架构师岗位职责 篇22

职责：

1、负责公司的大数据平台的数仓架构、系统架构设计;

2、负责带领团队完成舆情分析相关的挖掘方案设计;

3、负责大数据研发组团队管理;

4、负责带领团队完成舆情平台的方案文档撰写、迭代开发;

5、负责研发规范制定，研究行业前沿技术;

6、参与产品规划及设计讨论。

任职要求：

1、本科五年工作经验及以上，有至少五年的大数据技术实践经验，有NLP或AI相关经验;

2、有很强的架构设计能力和良好的表达能力;

3、有一定的项目管理及团队管理能力;

4、精通Hadoop、Spark生态圈中的常用组件原理及应用;

6、理解媒体业务，精通数据仓库的规划和设计;

5、精通掌握Java或Python编程，有性能调优能力;

4、熟悉NLP算法原理及应用;

6、对新生事物或者新技术有浓厚兴趣，学习能力强。

大数据平台架构师岗位职责 篇23

职责：

1. 负责产品级业务系统架构(如业务数据对象识别，数据实体、数据属性分析，数据标准、端到端数据流等)的设计与优化。协助推动跨领域重大数据问题的分析、定位、解决方案设计，从架构设计上保障系统高性能、高可用性、高安全性、高时效性、分布式扩展性，并对系统质量负责。

2.负责云数据平台的架构设计和数据处理体系的优化，推动云数据平台建设和持续升级，并制定云数据平台调用约束和规范。

3. 结合行业应用的需求负责数据流各环节上的方案选型，主导云数据平台建设，参与核心代码编写、审查;数据的统计逻辑回归算法、实时交互分析;数据可视化方案等等的选型、部署、集成融合等等。

4. 对云数据平台的关注业内技术动态，持续推动平台技术架构升级，以满足公司不同阶段的数据需求。

任职要求：

1. 熟悉云计算基础平台，包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基础环境，熟悉控制、计算、存储和网络;

2. 掌握大型分布式系统的技术栈，如：CDN、负载均衡、服务化/异步化、分布式缓存、NoSQL、数据库垂直及水平扩容;熟悉大数据应用端到端的相关高性能产品。

3. 精通 Java，Python，Shell 编程语言，精通 SQL、NoSQL 等数据库增删改查的操作优化;

4. PB 级别实战数据平台和生产环境的实施、开发和管理经验;

5. 熟悉 Docker 等容器的编排封装，熟悉微服务的开发和日常调度;

6.计算机、软件、电子信息及通信等相关专业本科以上学历，5 年以上软件工程开发经验，2 年以上大数据架构师工作经验。