Alodi:为了保密我开发了一个系统

  • 2019 年 10 月 3 日
  • 筆記

每天都在愉快的造轮子,这次可以一键创建测试环境

咖啡君维护了几十个不同类型项目,其中有相当一部分项目是对保密性有很高要求的,也就是说下个版本要上线的内容是不能提前泄露的,就像苹果新产品的介绍网站决不允许在产品发布之前流出一样,这种保密内容除了在制度上加以约束外,还需要一些技术手段来保障

本次要介绍的Aloid系统就对保密有着一定的作用,这个系统的主要作用是快速生成临时环境,这个临时环境会有一定的有效期,过期自动清除,当然你也可以手动清除,同时这个环境会有唯一的随机访问地址,只有知道这个随机地址的人才能访问

涉及技术

整个项目基于Django构建,前后端框架代码可以通过这篇文章获取,通过框架代码可以快速构建项目,添加自己需要的功能,需要说明的是框架代码并非这个项目源码

subprocess

编译部署难免要跟系统命令打交道,在调研了几种python执行系统命令的方法后选择了subprocess,subprocess作为os.systemos.popen的替代模块,功能更为强大,且为python自带模块,不需额外安装,使用方便

在需要频繁执行系统命令的情况下,可以写一个类似下边这样的方法封装命令执行和返回输出,使代码简洁易读

import shlex, subprocess    def runCmd(tid, msg, cmd):      try:          p = subprocess.Popen(shlex.split(cmd), stdin=subprocess.PIPE, stdout=subprocess.PIPE, stderr=subprocess.STDOUT)          while p.poll() == None:              out = p.stdout.readline().strip()              if out:                  print('---->' + out.decode())            res = ' 失败 ~_~' if p.returncode else ' 完成 ^_^'          print('---->' + msg + res)            return p.returncode      except Exception as e:          print('---->Shell Exec Error:%s' % str(e))          return 999

kubernetes-api

所有环境跑在kubernetes之上,创建或销毁临时环境都需要与kubernetes做交互,我选择了使用kubernetes python sdk来完成

from kubernetes import client, config    class KubeApi:      def __init__(self, namespace='alodi'):          config.load_kube_config("/ops/coffee/kubeconfig.yaml")          self.namespace = namespace        def create_deployment(self, RAND, PROJ, ENVT):          api_instance = client.AppsV1Api()          body = client.V1Deployment(              api_version="apps/v1",              kind="Deployment",              metadata=client.V1ObjectMeta(name=RAND),              spec=client.V1DeploymentSpec(                  replicas=1,                  selector={'matchLabels': {'app': RAND}},                  template=client.V1PodTemplateSpec(                      metadata=client.V1ObjectMeta(labels={"app": RAND}),                      spec=client.V1PodSpec(                          containers=[client.V1Container(                              name=RAND,                              image="k8s-harbor.blz.netease.com/alodi/" + RAND,                              env=[{"name": "ENVT", "value": ENVT}, {"name": "PROJ", "value": PROJ}],                              ports=[client.V1ContainerPort(container_port=80)],                          )]                      )                  ),              )          )            try:              r = api_instance.create_namespaced_deployment(                  namespace=self.namespace, body=body              )                return True, "Deployment created: %s" % r          except Exception as e:              return False, 'Deployment created: ' + str(e)        def delete_deployment(self, RAND):          api_instance = client.AppsV1Api()          body = client.V1DeleteOptions(              propagation_policy='Foreground',              grace_period_seconds=5)            try:              r = api_instance.delete_namespaced_deployment(                  namespace=self.namespace,                  name=RAND,                  body=body              )                return True, "Deployment deleted. %s" % r          except Exception as e:              return False, 'Deployment deleted: ' + str(e)

load_kube_config加载的配置文件为kubernetes主服务器上的~/.kube/config文件,这个文件内包含了集群相关信息,通过这个配置文件可以免认证操作集群修改资源,要妥善保管这个配置文件,当然也可以通过token的方式自己实现认证

另外需要特别注意的是sdk的版本与kubernetes的版本有对应关系,且不同资源的操作对kubernetes的api版本要求也不同,使用时多参考官方文档

介于篇幅原因这里只贴了两个deployment的操作示例,其他更多示例可以单独找我获取

界面展示

整个项目除了用户管理之类的常规页面外,主要有三个页面构成,由这三个页面完成了主要流程的执行和展示

项目管理页:在这个页面内可以新建、编辑和删除项目

同时也可以在项目管理页创建临时环境,这里主要选择使用的数据环境和代码TAG

当填写相关信息点击Build & Deploy按钮后会跳转到任务详情页,这个页面实时展示部署过程的日志输出,右上角有个爬虫的按钮,可以终止部署

部署列表页:可以在部署列表页查看到部署历史记录,当这个环境正在运行时可以点击销毁按钮来销毁项目,清除kubernetes的资源占用

写在最后

  1. 我们写了很多项目,也造了很多轮子,目的都是为了让我们的工作更轻松,达到“一杯咖啡、轻松运维”的愿景
  2. 项目代码暂不开源,但项目里边用到的技术大都有专门的文章介绍,文章都附带有代码,有些甚至提供有Demo,完全可以快速搞定自己的需求
  3. 如果有任何问题欢迎与我联系,一起沟通交流,共同成长,期待加我好友~

扫码关注公众号查看更多实用文章

相关文章推荐阅读: