无论是世界范围内还是在中国,大数据浪潮正在深刻改变着各行各业,而各行各业对大数据人才的需求,以及技术从业者希望跻身大数据高级人才的需求也变得越来越强烈。
但想要成为一名合格的大数据工程师,必须具备一定的技术,大数据相关的技能,从数据本身来说,大概需要从数据获取、数据处理、数据分析、数据存储和数据挖掘来说,千锋做了简单的总结:
数据获取:日志收集Scribe、Flume和爬虫等
数据处理:流式计算的storm,sparkstreaming、Hadoop、消息队列相关的如Kafka等
数据分析:HIVE、SPARK、基本算法、数据结构等
数据存储:HDFS等
数据挖掘:机器学习相关算法,聚类、时间序列、推荐系统、回归分析、文本挖掘、贝叶斯分类、神经网络等
一个优秀的大数据工程师要具备一定的逻辑分析能力,并能迅速定位某个商业问题的关键属性和决定因素。
学习能力能帮助大数据工程师快速适应不同的项目,并在短时间内成为这个领域的数据专家;沟通能力则能让他们的工作开展地更顺利,因为大数据工程师的工作主要分为两种方式:由市场部驱动和由数据分析部门驱动,前者需要常常向产品经理了解开发需求,后者则需要找运营部了解数据模型实际转化的情况。
按字母顺序浏览:A B C D E F G H I J K L M N O P Q R S T U V W X Y Z
→我们致力于为广大网民解决所遇到的各种电脑技术问题 如果您认为本词条还有待完善,请 编辑词条
上一篇百万级数据库优化方案
下一篇大数据的10个未来发展趋势