docker安装卸载与常用命令
1.在线安装1、先安装yum-utils包,它提供了yum-config-manager 工具:1yum -y install yum-utils device-mapper-persistent-data lvm2
2.通过yum-config-manager 添加阿里云仓库(该仓库中有docker-ce软件包):1yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
3.更新yum缓存1yum makecache fast
4.安装最新版的docker-ce引擎以及containerd:1yum -y install docker-ce docker-ce-cli containerd.io
安装之后会创建 docker 组,但该组中没有添加任何用户。可以将普通用户加入到docker组,该用户后续不用加sudo就可以执行docker相关命令。
1usermod ...
hive日期字符串类函数及一些特殊处理记录
1.两个日期相减精确到秒:12345select unix_timestamp('2022-12-22 14:00:00') - unix_timestamp('2022-12-22 13:00:00')_c03600
如果是年月日和时分秒两个string类型拼起来即:
1unix_timestamp(concat(trim(wc.operatedate ),' ', trim(wc.operatetime))) - unix_timestamp(concat(trim(wc.receivedate ),' ', trim(wc.receivetime))) operating_duration
2.将用字符串拼起来的时间转换为timestamp类型以插入表(字段建表给的timestamp类型)1from_unixtime(to_unix_timestamp(concat(trim(wrb.lastoperatedate),' ', trim(wrb.lastoperatetime)),'yyyy- ...
VMware虚拟机硬盘扩容
缘由:今天进行doris的Star-Schema-Benchmark测试的时候,发现虚拟机内存不够,计划将已分配硬盘30G扩容到100G,全程步骤如下:
1.1 在VMware中,找到要扩容的操作系统,点击虚拟机设置,点击扩展。
1.2 输入要扩大到多少G,点击扩展
1.3 提醒你去客户端操作系统重新分区以及扩展文件系统,点击确定。
注:前面的步骤是都需要做的,如果是windows系统磁盘扩容就不需要步骤2.x了,下面进入centos后续扩展步骤。
2.1 首先,打开虚拟机,可使用Xshell或其他终端模拟软件连接,便于复制命令,然后输入“df -h”命令,并回车,在终端界面中可以看到原本30G的磁盘,并未扩容。1df -h
如图:
2.2 接着,在终端界面中输入“fdisk -l”命令,查看新磁盘的分区信息。1fdisk -l
如图:
2.3 然后,在终端界面中输入“fdisk /dev/sda”命令,对新加的磁盘进行分区操作(选择新增的磁盘),并回车。1fdisk /dev/sda
如图:
2.4 在让你“请三思”下面输入“p”命令,回车,查看已分 ...
HDFS常用shell命令
HDFS 常用 shell 命令1. 显示当前目录结构
123456# 显示当前目录结构hadoop fs -ls <path># 递归显示当前目录结构hadoop fs -ls -R <path># 显示根目录下内容hadoop fs -ls /
2. 创建目录
1234# 创建目录hadoop fs -mkdir <path> # 递归创建目录hadoop fs -mkdir -p <path>
3. 删除操作
1234# 删除文件hadoop fs -rm <path># 递归删除目录和文件hadoop fs -rm -R <path>
4. 从本地加载文件到 HDFS
123# 二选一执行即可hadoop fs -put [localsrc] [dst] hadoop fs - copyFromLocal [localsrc] [dst]
5. 从 HDFS 导出文件到本地
123# 二选一执行即可hadoop fs -get [dst] [localsrc] hadoop f ...
Hadoop分布式文件系统——HDFS
Hadoop分布式文件系统——HDFS一、介绍HDFS (Hadoop Distributed File System)是 Hadoop 下的分布式文件系统,具有高容错、高吞吐量等特性,可以部署在低成本的硬件上。
二、HDFS 设计原理
2.1 HDFS 架构HDFS 遵循主/从架构,由单个 NameNode(NN) 和多个 DataNode(DN) 组成:
NameNode : 负责执行有关 文件系统命名空间 的操作,例如打开,关闭、重命名文件和目录等。它同时还负责集群元数据的存储,记录着文件中各个数据块的位置信息。
DataNode:负责提供来自文件系统客户端的读写请求,执行块的创建,删除等操作。
2.2 文件系统命名空间HDFS 的 文件系统命名空间 的层次结构与大多数文件系统类似 (如 Linux), 支持目录和文件的创建、移动、删除和重命名等操作,支持配置用户和访问权限,但不支持硬链接和软连接。NameNode 负责维护文件系统名称空间,记录对名称空间或其属性的任何更改。
2.3 数据复制由于 Hadoop 被设计运行在廉价的机器上,这意味着硬件是不可靠的,为了保证容错 ...
GitFlow
GitFlow 协同工作流其实GitFlow并非什么技术,而是一种代码开发合并管理流程的思维模式或者是管理方法。大家一起开发的一种软约定。
GitFlow中分支角色们
Master 分支: 稳定版本代码分支,用作发布环境,上面的每次提交都是可以发布的,这个分支只能从其他分支合并,不能在这个分支直接修改。
Developer 分支: 主开发分支,包含所有要发布到下一个Release的代码, 一旦Feture分支内功能开发完成就将Feture中的代码合并到Developer分支中,合并完成后,删除该功能分支。这个分支对应的是集成测试环境。
Feature 分支: 功能分支,用于开发新功能(需求),一旦开发完成,我们合并回Develop分支进入下一个Release。
Release 分支:预发分支,做发布前的准备工作,对应的是预发环境。这个分支可以确保我们开发继续向前,不会因为要发布而被停滞住,当你需要发布一个新Release的时候,我们基于Develop分支创建一个Release分支,完成Release后。一旦Release分支达到了可发布的状态,我们需要把Release分支同时向Mas ...
PageHelper分页失效问题(已解决)
做mybatis-demo2时遇到pagehelper分页失效情况,记录一下:
1.首先,最关键的问题是依赖以及版本。
因为**里面有好几个都包含pagehelper,例如:
12345<dependency> <groupId>com.github.pagehelper</groupId> <artifactId>pagehelper</artifactId> <version>5.2.1</version></dependency>
但是这个是不会生效的!
应该导这个依赖:
12345<dependency> <groupId>com.github.pagehelper</groupId> <artifactId>pagehelper-spring-boot-starter</artifactId> <version> ...
序列化与反序列化
为什么要序列化或反序列化? 当两个进程在进行远程通信时,彼此可以发送各种类型的数据。无论是何种类型的数据,都会以二进制序列的形式在网络上传送。发送方需要把这个对象转换为字节序列,才能在网络上传送;接收方则需要把字节序列接收再恢复为对象。
对象序列化:把对象转换为字节序列的过程对象的反序列化:把字节序列恢复为对象的过程将对象存入文件或者数据库叫做持久化,在持久化前需要先序列化。
序列化的含义:将层次的有空间的数据(一个对象包含很多字段,如果字段本身是对象,它还包含字段,这个结构类似一棵树)变成扁平的字节序列。无论是写文件还是网络传输,都必须将数据变成一串,或者说一个序列,这就是序列化的含义。
序列化的实现:将需要被序列化的类实现Serializable接口,该接口没有需要实现的方法,implements Serializable只是为了标注该对象是可被序列化的,然后使用一个输出流(如:FileOutputStream)来构造一个ObjectOutputStream(对象流)对象,接着,使用ObjectOutputStream对象的writeObject(Obj ...
对不起我也掉坑了————IDEA省电模式(Power Save Mode)
今天下午在做一个微服务项目的时候,不知道自己在什么时候点了什么不该点的,结果重启IDEA,pom文件全部变成普通的了,没有Maven的M标志,然后所有的注解全部都没颜色了。。。除了打开IDEA时没有初始化好项目以外重来没遇到过!
状况如下:
根据我的经验,没错,绝对是Maven出了问题,我尝试了各种办法,更改Maven仓库版本,修改JDK版本…甚至听信了一句江湖流传已久的话:”重启能解决绝大部分的问题!”。ran bing luan 0.0
搞了一个小时,查了百度也没搞明白,很多人都说右键Pom,点击add as maven project,但是!!!根本就没有啊。
1.网上的: 2.实际的:
什 ...
关于Maven中jstl依赖不起作用的问题
今天在进行ssm整合的一个案例的时候遇到一个问题,我要进行一个数据库查询操作显示到页面,在服务端已经显示查询成功了,但浏览器报500错误(jstl的jar包问题),详细如下:
1.首先Maven中已经添加了jstl和taglibs的包,但似乎没用!
2.服务端已经查询成功了
3.但在页面报500,一眼可见是jstl没有生效!
4.查阅了一些博客,最终找到正确解决方案,去Apache Tomcat官网把那4个jar包下载下来,放到tomcat的lib里,再运行即可。有点坑,不知道的一直在Maven里面下功夫,绕不出来!
附上下载连接:http://tomcat.apache.org/download-taglibs.cgi
4.再次启动tomcat,刷新页面,就可以正常显示出来了!
5.数据库中信息如下:
6.最后,给出Global Libraries中的依赖,作为参考,因为有些时候控制台提示找不到类的时候需要将Libraries添加到Global全局中(此处的第4个和最后一个可能不是必要的,因为解决办法是下载那4 ...