1.文档编写目的
在前面的文章《
的新功能
》和《
如何通过CM将CDSW从1.3升级至1.4
》Fayson介绍了CDSW的新功能及升级至1.4的操作,本篇文章Fayson还是介绍CDSW的升级,有部分用户的CDSW版本为1.2.2升级至最新的会出现一些问题,也顺便填个坑。
内容概述
1.升级准备
2.配置的Parcel库及激活
3.功能验证及总结
测试环境说明
1.CM和CDH版本为5.13.1
2.CDSW版本为1.2.2
3.集群未启用Kerberos
4.
2.升级准备
1.准备CDSW最新的Parcel安装包
(可左右滑动)
2.将下载好的Parcel包部署在本地的apache服务器的/var/www/html/目录下
[root@cdh05~]ll
(可左右滑动)
3.验证本地Parcel部署是否成功
3.CM配置的Parcel库
1.使用管理员登录ClouderaManager,进入Pacel主界面
3.保存更改后回到Parcel界面查看加载在的版本
完成下载
如上步骤完成了的分配.
4.CDSW升级
在前面的步骤已完成了版本安装包的分发,在激活前需要进行如下操作:
1.通过CM停止CDSW服务
2.服务停止成功后,登录CDSW的master节点备份/var/lib/cdsw数据目录
[root@cdsw~]systemctlrestartcloudera-scm-server
(可左右滑动)
启动成功后,登录CM控制界面,根据提示重启CMS服务
4.进入到CM的Parcel配置界面将的Parcel激活
只激活先暂时不用重启
5.激活成功后,回到CDSW服务界面进行“PrepareNode”操作
命令执行成功
6.通过CM启动CDSW服务
执行完启动命令后,需要等待一段时间,CDSW会启动docker、kubernetes(Master角色)服务,基础服务启动成功后,还会将application(即对外提供服务的cdswweb界面)所有的镜像发布到kubernetes中,直到所有镜像发布并启动成功,CDSW才可以正常提供服务。
7.CDSW服务启动成功界面显示如下:
同样也可以在CDSW服务器上使用cdswstatus命令查看
5.CDSW升级验证
验证CDSW服务的可用性以及升级后平台的账号、配置、工程信息未丢失
1.使用管理员账号登录CDSW服务,进入主页面
可用看到升级后多了Experiments和Models功能,在后面的文章Fayson会介绍这两个功能的详细使用。
2.运行一个示例
6.踩坑经过
在将升级至1.4版本后,会导致用户无法正常启动Session,但新注册的用户又可以正常使用,报如下错误:
:object(proto3fieldwithoutfieldpresencecannotbenull)
(可左右滑动)
解决问题:
1.猜测可能是由于升级CDSW到至镜像版本不兼容,将的镜像删除问题依然存在。
2.proto3版本不兼容问题,在CDSW宿主机上安装最新的问题依然存在
3.google搜索到在proto3中对null消息处理导致的,根据旧用户不可以启动Session,但新用户可以启动Session再结合这个原因分析可能是用户数据中有“null”导致
登录CDSW的数据库将用户数据导出进行对比分析,具体如何登录CDSW数据库可以参考Fayson前面的文章《
后台查找CDSW中用户的审计日志
》,新注册用户与就用户数据存在差异的地方为表中的name字段,新注册用户都有该字段,但老用户这个字段为“null”。这个数据对应到cdsw上用户的信息配置界面字段为“FullName”配置
7.总结
1.在升级的过程中主要是这个Session启动失败的问题,如果遇到该问题则需要在用户的个人信息配置界面将“FullName”字段更新下。
2.升级CDSW前需要对进行数据备份,CDSW的用户、工程等数据均在/var/lib/cdsw目录下。
原创文章,欢迎转载,转载请注明:转载自实操