SSIS 主要功能

用户头像
JackWangGeek
关注
发布于: 2020 年 08 月 12 日
SSIS主要功能

SSIS是Microsoft SQL Server Integration Services的简称,是生成高性能数据集成解决方案(包括数据仓库的提取、转换和加载(ETL)包)的平台。SSIS提供一系列支持业务应用程序开发的内置任务、容器、转换和数据适配器。您无需编写一行代码,就可以创建SSIS解决方案来使用ETL和商业智能解决复杂的业务问题,管理SQL Server数据库等。

SSIS的主要功能有:

(1)合并来自异类数据存储区的数据

数据通常存储在很多个不同的数据存储系统中,从所有源中提取数据并将其合并到单个一致的数据集中确实有一定的难度。这种情况的出现有多个原因。例如:许多单位要对存储在早期数据存储系统中的信息进行归档。这些数据在日常操作中可能不重要,但对于需要收集过去很长一段时间内的数据的趋势分析来说很重要。

单位的各个部门可能会使用不同的数据存储技术来存储操作数据。包可能需要先从电子表格以及关系数据库中提取数据,然后才能合并数据。

数据可能存储在对相同数据使用不同架构的数据库中。包可能需要先更改列的数据类型或将多个列的数据组合到一列中,然后才能合并数据。

Integration Services可以连接到各种各样的数据源,包括单个包中的多个源。包可以使用.NET和OLE DB访问接口连接到关系数据库,还可以使用ODBC驱动程序连接到多个早期数据库。包还可以连接到平面文件、Excel文件和Analysis Services项目。Integration Services包含一些源组件,这些组件负责从包所连接的数据源中的平面文件、Excel电子表格、XML文档和关系数据库中的表及视图提取数据。

然后,通常要用Integration Services包含的转换功能对数据进行转换。数据转换为兼容格式后,就可以将其物理合并到一个数据集中。数据在合并成功且应用转换后,通常会被加载到一个或多个目标。Integration Services包含将数据加载到平面文件、原始文件和关系数据库时所用的目标。数据也可以加载到内存中的记录集中,供其他包元素访问。

(2)填充数据仓库和数据集市

数据仓库和数据集市中的数据通常会频繁更新,因此数据加载量通常会很大。  Integration Services包含一个可直接将数据从平面文件大容量加载到SQL Server表和视图中的任务,还包含一个目标组件,该组件可以在数据转换过程的最后一步将数据大容量加载到SQL Server数据库中。

SSIS包可配置为可重新启动。这意味着可以从某个预先确定的检查点(包中的某个任务或容器)重新运行包。重新启动包这一功能可节省很多时间,尤其是包需要处理来自一大批源的数据时。可以用SSIS包加载数据库中的维度表和事实数据表。如果维度表的源数据存储在多个数据源中,包可以将该数据合并到一个数据集中,并在单个进程中加载维度表,而不是为每个数据源使用单独的进程。

更新数据仓库和数据集市中的数据可能很复杂,因为这两种类型的数据存储区通常都包含可能难以通过数据转换过程管理的渐变维度。由于能够动态创建用于插入和更新记录、更新相关记录以及向表添加新列的SQL语句,因此,渐变维度向导可自动支持渐变维度。

此外,Integration Services包中的任务和转换可以处理Analysis Services多维数据集和维度。包更新了建立多维数据集所基于的数据库中的表后,您可以使用Integration Services任务和转换来自动处理多维数据集和维度。自动处理多维数据集和维度有助于使以下两种环境中的用户始终获得最新的数据:访问多维数据集和维度中信息的用户和访问关系数据库中数据的用户。

Integration Services还可以在数据加载到其目标之前计算函数。如果数据仓库和数据集市存储了聚合信息,那么SSIS包可以计算SUM、AVERAGE和COUNT之类的函数。SSIS转换还可以透视关系数据,并将其转换为不太规范的格式,以便更好地与数据仓库中的表结构相兼容。

(3)清除数据和将数据标准化

无论数据是加载到联机事务处理(OLTP)、联机分析处理(OLAP)数据库、Excel电子表格还是加载到文件,都需要在加载前将数据进行清理和标准化。数据可能由于下列原因而需要更新:

n 数据由一个单位的多个部门提供,每个部门使用不同的约定和标准。可能需要对数据进行不同的格式处理,然后才能使用这些数据。例如,可能需要将名和姓组合到一列中。

n 数据是租用或购买的。可能需要将数据进行标准化和清理以满足业务标准,然后才能使用这些数据。例如,单位需要验证所有记录使用了相同的状态缩写集或相同的产品名称集。

n 数据是区域设置特定的。例如,数据可能使用不同的日期/时间和数值格式。如果要合并来自不同区域设置的数据,那么在加载数据前必须先将其转换到同一区域设置以避免数据损坏。

Integration Services包含一些内置转换,可将其添加到包中以清理数据和将数据标准化、更改数据的大小写、将数据转换为不同类型或格式或者根据表达式创建新列值。例如,包可将年份列、月份列和天列连接成单个日期列。

Integration Services包还可以使用精确查找或模糊查找来找到引用表中的值,通过将列中的值替换为引用表中的值来清理数据。通常,包首先使用精确查找,如果该查找方式失败,再使用模糊查找。例如,包首先尝试通过使用产品的主键值来查找引用表中的产品名。如果此搜索无法找到产品名,包再尝试使用产品名模糊匹配方式进行搜索。

另一种转换通过将数据集中相似的值分组到一起来清理数据。有些记录可能是重复的,所以不应未经进一步计算就将其插入到数据库中。这种转换对识别此类记录很有用。例如,通过比较客户记录中的地址可以识别许多重复的客户。

(4)将商业智能置入数据转换过程

数据转换过程需要内置逻辑来动态响应其访问和处理的数据。可能需要根据数据值对数据进行汇总、转换和分发。根据对列值的评估,该过程甚至可能需要拒绝数据。

若要满足此需求,SSIS包中的逻辑可能需要执行以下类型的任务:

n 合并来自多个数据源的数据;

n 计算数据并应用数据转换;

n 根据数据值将一个数据集拆分为多个数据集;

n 将不同的聚合应用到一个数据集的不同子集;

n 将数据的子集加载到不同目标或多个目标。

Integration Services提供了用于将商业智能置入SSIS包的容器、任务和转换。容器通过枚举文件或对象和计算表达式来支持重复运行工作流。包可以计算数据并根据结果重复运行工作流。例如,如果日期在当月,则包执行某一组任务;如果不在,则包执行另一组任务。

使用输入参数的任务也可以将商业智能置入包中。例如,输入参数的值可以筛选任务检索的数据。转换可以计算表达式,然后根据结果将数据集中的行发送到不同的目标。数据划分完成后,包可以对数据集的每个子集应用不同的转换。例如,表达式可以计算日期列,添加相应期间的销售数据,然后仅存储摘要信息。还可以将一个数据集发送到多个目标,然后对此相同数据应用不同的转换集。例如,一组转换可以汇总此数据,而另一组转换通过查找引用表中的值并添加其他源的数据来扩展此数据。

(5)使管理功能和数据加载自动化

管理员经常希望将管理功能自动化,例如备份和还原数据库、复制SQL Server数据库及其包含的对象、复制SQL Server对象和加载数据。Integration Services包可以执行这些功能。

Integration Services包含专为以下目的设计的任务:

n 复制SQL Server数据库对象,例如表、视图和存储过程;

n 复制SQL Server对象,例如数据库、登录和统计信息;

n 使用Transact-SQL语句添加、更改和删除SQL Server对象和数据。



用户头像

JackWangGeek

关注

以匠人之精神,垒软件之砖 2020.01.10 加入

硕士,徐州软件协会副理事长,某创业公司合伙人

评论

发布
暂无评论
SSIS主要功能