0390-如何通过CM升级CDSW1.2.2至1.4

admin 2025-01-27 251人围观 ,发现126个评论

1.文档编写目的

在前面的文章《

的新功能

》和《

如何通过CM将CDSW从1.3升级至1.4

》Fayson介绍了CDSW的新功能及升级至1.4的操作,本篇文章Fayson还是介绍CDSW的升级,有部分用户的CDSW版本为1.2.2升级至最新的会出现一些问题,也顺便填个坑。

内容概述

1.升级准备

2.配置的Parcel库及激活

3.功能验证及总结

测试环境说明

1.CM和CDH版本为5.13.1

2.CDSW版本为1.2.2

3.集群未启用Kerberos

4.

2.升级准备

1.准备CDSW最新的Parcel安装包

(可左右滑动)

2.将下载好的Parcel包部署在本地的apache服务器的/var/www/html/目录下

[root@cdh05~]ll

(可左右滑动)

3.验证本地Parcel部署是否成功

3.CM配置的Parcel库

1.使用管理员登录ClouderaManager,进入Pacel主界面

3.保存更改后回到Parcel界面查看加载在的版本

完成下载

如上步骤完成了的分配.

4.CDSW升级

在前面的步骤已完成了版本安装包的分发,在激活前需要进行如下操作:

1.通过CM停止CDSW服务

2.服务停止成功后,登录CDSW的master节点备份/var/lib/cdsw数据目录

[root@cdsw~]systemctlrestartcloudera-scm-server

(可左右滑动)

启动成功后,登录CM控制界面,根据提示重启CMS服务

4.进入到CM的Parcel配置界面将的Parcel激活

只激活先暂时不用重启

5.激活成功后,回到CDSW服务界面进行“PrepareNode”操作

命令执行成功

6.通过CM启动CDSW服务

执行完启动命令后,需要等待一段时间,CDSW会启动docker、kubernetes(Master角色)服务,基础服务启动成功后,还会将application(即对外提供服务的cdswweb界面)所有的镜像发布到kubernetes中,直到所有镜像发布并启动成功,CDSW才可以正常提供服务。

7.CDSW服务启动成功界面显示如下:

同样也可以在CDSW服务器上使用cdswstatus命令查看

5.CDSW升级验证

验证CDSW服务的可用性以及升级后平台的账号、配置、工程信息未丢失

1.使用管理员账号登录CDSW服务,进入主页面

可用看到升级后多了Experiments和Models功能,在后面的文章Fayson会介绍这两个功能的详细使用。

2.运行一个示例

6.踩坑经过

在将升级至1.4版本后,会导致用户无法正常启动Session,但新注册的用户又可以正常使用,报如下错误:

:object(proto3fieldwithoutfieldpresencecannotbenull)

(可左右滑动)

解决问题:

1.猜测可能是由于升级CDSW到至镜像版本不兼容,将的镜像删除问题依然存在。

2.proto3版本不兼容问题,在CDSW宿主机上安装最新的问题依然存在

3.google搜索到在proto3中对null消息处理导致的,根据旧用户不可以启动Session,但新用户可以启动Session再结合这个原因分析可能是用户数据中有“null”导致

登录CDSW的数据库将用户数据导出进行对比分析,具体如何登录CDSW数据库可以参考Fayson前面的文章《

后台查找CDSW中用户的审计日志

》,新注册用户与就用户数据存在差异的地方为表中的name字段,新注册用户都有该字段,但老用户这个字段为“null”。这个数据对应到cdsw上用户的信息配置界面字段为“FullName”配置

7.总结

1.在升级的过程中主要是这个Session启动失败的问题,如果遇到该问题则需要在用户的个人信息配置界面将“FullName”字段更新下。

2.升级CDSW前需要对进行数据备份,CDSW的用户、工程等数据均在/var/lib/cdsw目录下。

原创文章,欢迎转载,转载请注明:转载自实操

猜你喜欢
    不容错过