五分钟轻松了解Hbase面向列的存储

[置顶] 五分钟轻松了解Hbase面向列的存储

说明:从严格的列式存储的定义来看,Hbase并不属于列式存储,有人称它为面向列的存储,请各位看官注意这一点。 行式存储 传统的数据库是关...

OpenTSDB/HBase的调优过程整理

[置顶] OpenTSDB/HBase的调优过程整理

背景 过年前,寂寞哥给我三台机器,说搞个新的openTSDB集群。机器硬件是8核16G内存、3个146G磁盘做数据盘。 我说这太抠了,寂寞哥说之前的TS...

亿级 ELK 日志平台构建部署实践

[置顶] 亿级 ELK 日志平台构建部署实践

本篇主要讲工作中的真实经历,我们怎么打造亿级日志平台,同时手把手教大家建立起这样一套亿级 ELK 系统。日志平台具体发展历程可以参考上篇 「从 ELK 到...

HBase数据压缩编码探索

[置顶] HBase数据压缩编码探索

摘要: 本文主要介绍了hbase对数据压缩,编码的支持,以及云hbase在社区基础上对数据压缩率和访问速度上了进行的改进。前言你可曾遇到这种需求,...

Ambari2.7.3 和HDP3.1.0搭建Hadoop集群

[置顶] Ambari2.7.3 和HDP3.1.0搭建Hadoop集群

一、环境及软件准备 1、集群规划...

Ambari2.6.2 HDP2.6.5 大数据集群搭建

[置顶] Ambari2.6.2 HDP2.6.5 大数据集群搭建

Ambari 2.6.2 中 HDFS-2.7.3 YARN-2.7.3 HIVE-1.2.1 HBASE-1.1.2 ZOOKEEPER-3.4.6 SP...

hadoop-2.7.7 HA完全分布式集群部署详解

[置顶] hadoop-2.7.7 HA完全分布式集群部署详解

1.Hadoop HA简介及工作原理Hadoop NameNode官方开始支持HA集群默认是从2.0开始,之前的版本均是不支持NameNode HA的高可用...

可怕的黑暗料理之暗黑谷歌搜索神器

[置顶] 可怕的黑暗料理之暗黑谷歌搜索神器

1.暗黑谷歌的由来 有这么一款搜索引擎,它一刻不停的在寻找着所有和互联网关联的PLC、摄像头、红绿灯、打印机、路由器、交换机、服务器、数据库等等各种软硬件...

Oracle12c跨平台迁移之linux至windows

[置顶] Oracle12c跨平台迁移之linux至windows

近期应朋友邀请协助处理一起oracle数据库跨平台迁移的项目,需求为迁移centos 7.2 linux的oracle12.2数据库至windo...

高通量计算框架HTCondor(一)——概述

高通量计算框架HTCondor(一)——概述

目录 1. 正文 2. 目录 3. 参考 4. 相关 1. 正文 HTCondor是威斯康星大学麦迪逊分校构建的分布式计算...

虚拟机ifconfig 没有IP地址显示

虚拟机ifconfig 没有IP地址显示

虚拟机centos 找不到IP地址     -----------------下图解决后有ip地址--------------...

Linux命令(自己工作常用)

Linux命令(自己工作常用)

添加用户--root角色才有权限 useradd -d主目录 -m username useradd -d /home/hadoop2 -m hadoop2...

构建企业级数据湖?Azure Data Lake Storage Gen2实战体验(下)

构建企业级数据湖?Azure Data Lake Storage Gen2实战体验(下)

相较传统的重量级OLAP数据仓库,“数据湖”以其数据体量大、综合成本低、支持非结构化数据、查询灵活多变等特点,受到越来越多企业的青睐,逐渐成为了现代数据平台...

Kafka集群环境配置

Kafka集群环境配置

Kafka集群环境配置 1 环境准备 1.1 集群规划 Node02 Node03 Node04...

寻觅Azure上的Athena和BigQuery (二):神奇的PolyBase

寻觅Azure上的Athena和BigQuery (二):神奇的PolyBase

    前情回顾 在“数据湖”概念与理论逐渐深入人心的今天,面向云存储的交互式查询这个需求场景显得愈发重要。这是因为原生的云存储(...

Kafka 配置文件说明

Kafka 配置文件说明

kafka的配置文件说明     Server.properties配置文件说明 #broker的全局唯一编号,不能重复...

hadoop基础shell命令2

hadoop基础shell命令2

hdfs示意图 这里面有好多hadoop给我们写好的yarn的mapreduce的例子 跑成功了 hadoop...

1.18-1.21 Oozie Coordinator调度

1.18-1.21 Oozie Coordinator调度

一、时区问题 1、修改系统时区 ## [root@hadoop-senior hadoop-2.5.0-cdh5.3.6]# rm -rf /etc/...

详细讲解MapReduce二次排序过程

详细讲解MapReduce二次排序过程

我在15年处理大数据的时候还都是使用MapReduce, 随着时间的推移, 计算工具的发展, 内存越来越便宜, 计算方式也有了极大的改变. 到现在再做大数据...

如何向map和ruduce方法中传递外部参数

如何向map和ruduce方法中传递外部参数

经常会有这样的需求: 在MR程序中,map,reduce等方法中需要传入一些外部参数,比如我们要编写MR程序访问页面访问的Top n,其中的n就是我们需要...

ZooKeeper是什么?

ZooKeeper是什么?

Zookeeper简介 Zookeeper是一个分布式的,高效的,开放源码的分布式应用程序协调服务,可以提供配置信息管理、命名、分布式同步、集群管理、数据...

User Login