星环科技TDS 2.4.0 发布: 数据开发、数据治理、数据运营套件能力再次升级
近日,星环科技大数据开发工具 Transwarp Data Studio 2.4.0版本重磅发布,新版本中数据开发、数据治理、数据运营三大套件能力全部升级,让数据开发更便捷、数据治理更高效、数据运营更智能。本次升级的核心能力如下:
数据开发套件,助力企业完成数据统一化
数据开发套件包含了大数据整合工具 Transporter、数据库在线开发与协同工具 SQLBook 和任务调度软件 Workflow ,该套件作为星环科技大数据基础平台 Transwarp Data Hub 的生态开发应用工具,针对数据开发场景,提供数据集成、SQL 开发和任务调度的能力,帮助企业将数据归集到数据湖仓,完成数据统一化的过程。
在 2.4.0 版本中数据开发套件进行了如下更新:
- 任务流调度模块新增了 Python , JAVA , R , Scala 类型任务调度能力支持;增加自定义日历能力,任务可以在日历下进行调度执行;增强参数能力,新增工作区参数,加密参数,临时参数,支持参数跨服务、任务流引用和传递;支持非容器化部署执行器;
- 数据集成模块新增支持文本文件、Excel文件的离线数据加载;对接告警中心,支持添加告警规则,并支持邮件,站内信,短信发送;支持在目标端配置自动创建分区表等;
- SQL 开发模块新增函数管理能力以及 SQL 参数能力。
数据开发套件的三大核心优势:
- 分布式架构设计,可支持PB级别的数据平台建设,支持日均十万级任务调度,性能可扩展;
- 支持 SQ L关键词和 SQL 片段推荐,数据开发知识积累,智能化持续优化开发体验和开发效率;
- 基于大数据平台计算能力提供数据转换能力,避免传统ETL工具本身的计算瓶颈。
数据治理套件,完成数据资产化
数据治理套件,针对企业过去信息系统烟囱式的构建方式以及数据开发和管理过程不规范的问题,提供数据治理能力,帮忙企业进行数据资产盘点、数据标准统一和解决数据质量问题,完成数据资产化的过程。
TDS 的数据治理套件作是基于星环数据治理咨询方法论的、一站式的面向企业各类信息系统的数据管控平台,集成元数据管理、数据标准管理、数据质管理量等模块,提供全生命周期数据治理能力。
在 2.4.0 版本中数据治理套件进行了如下更新:
- 数据治理模块新增数据模型管理能力,提供逻辑模型和物理模型的开发和管理能力;
- 元数据模块增强元数据自动采集范围,新增支持 KunDB、达梦、SAP HANA 等数据源类型;支持批量订阅元数据;
- 数据标准模块新增主数据标准类别;优化质量检查报告和落标检查报告,提供维护人员和治理人员两种视角的报告内容和入口;数据质量模块新增支持在质量任务中自定义配置质量参数值功能;
- 数据治理套件各模块各类型任务接入通知中心,支持多种通知渠道以及通知触发条件配置;
数治理套件的核心优势
- 可以事前通过 TDS 内置知识库,对行业文献、企业内部知识文档以及已有的数据标准、标规则内容,进行智能解析和知识沉淀,扩大数据标准对标的支撑业务主题范围,提高推荐准确率。同时,可以根据用户对推荐结果的判定行为对智能推荐算法进行自动化迭代和优化;
- TDS 数据治理套件是一站式产品架构,由完整的数据治理功能模块组成,并集成至统一平台中,各功能模块根据数据治理方法论有机的形成功能联动和流程,提供一站式工具应用体验;
- TDS 数据治理套件提供基于星环大数据技术的数据治理任务执行能力,高效完成数据治理作业。
数据运营套件,助力数据运营平台建设
数据运营套件包含:数据服务平台 Midgard、标签平台 Starviewer、数据商城 Foresight。提供数据标签体系构建和自助取数,直接对接数字化转型应用的 API 开发和管理,并能将上述套件产生的数据产品在统一的共享门户中进行企业内部共享交换,将企业各类型数据资产以分析、服务和共享的方式提供服务,发挥资产价值,最终支撑数字化转型相关应用,完成数据业务化的过程,并提供数据资产共享交互,构建企业数据生态化,助力数据运营平台建设。
在 2.4.0版本中数据运营套件进行了如下更新:
- 数据服务模块新增 SQL 模式创建 API,支持查询类 SQL 和非查询类 SQL;支持管理业务分组,对 API 资源进行隔离和管控;新增API路由配置;
- 数据商城模块新增支持对资源编目进行可见范围控制,支持按照机构粒度选择可见范围;支持的资源类型扩展,新增数据标签、非结构化文件两类资源;支持配置资源的共享类型(有条件共享/无条件共享);
- 新增数据标签开发平台模块,提供多种类型标签的开发、管理、发布、下线等生命周期管理能力,提供基本的标签数据分析能力;提供将发布后的标签数据在数据商城提供对外共享的能力;
目前,星环科技 TDS 已经在金融、能源、政府、医疗等多个行业落地,海洋石油富岛公司借助 TDS,建设了大数据技术平台及体系化的数据资产管理平台,实现技术业务化、数据业务化,实现化工生产过程的降本增效,推进公司数字化转型;某医学大数据研究平台通过 TDS 的数据资产定义、资产目录建立、数据溯源、数据全程监控及资产评估改进工具,实现数据资产的全生命管理,为研究所构建了高性能、高可靠性、高安全性及可扩展性的医学大数据研究平台,实现了医疗数据的规范化、流程化、质量化,帮助研究所专业的医学数据分析团队高效挖掘病历样本等科研数据的价值,落地科研业务,保障科研进度的稳步推进;华夏基金基于TDS,融合了 TA(Transfer Agent开放式基金登记过户)系统、OTS(Online Trading System 网上交易)系统、反洗钱系统、会计系统、资讯系统、交易系统及直销和代销数据,为营销数据中心、反洗钱系统、投研指标系统、数据分析等业务应用建立了数仓、数集及专用库,对投研指标系统相关数据进行了迁移与整合,为华夏基金构建基于大数据等技术的统一分析数仓打下了平台基础。