SQL Server 最小化日志操作解析,应用

本文涉及的产品
云数据库 RDS SQL Server,基础系列 2核4GB
RDS SQL Server Serverless,2-4RCU 50GB 3个月
推荐场景:
日志服务 SLS,月写入数据量 50GB 1个月
简介: SQL Server在满足相应条件的基础上时进行一些特定的操作如Rebuild Index时会进行最小化Tran Log记录操作,从而改善系统性能. 本文介绍最小化日志相关知识,及应用场景实践。

最小化日志

 

概念:SQL Server在满足相应条件的基础上时进行一些特定的操作如Rebuild Index时会进行最小化Tran Log记录操作,从而改善系统性能.

注意:含最小化操作日志操作段日志无法按时间点恢复(point in time)

     需要还原模式为简单或大容量日志

 

最小化日志的操作

Create Index,Alter Index Rebulid

Bulk import操作(BCP,Bulk insert)

Select into

Blob数据操作(使用Write等)

Insert select(sql 2008后特定条件下可以)

Merge(特定条件)

 

应用:实际应用过程中我们实际使用insert select的时候居多,就此介绍

关于insert select操作的最小化日志

聚集表

当聚集表为空时,使用TABLOCK 锁提示将会最小化日志

当聚集表非空时,无论如何将不会最小化日志

非聚集表

当堆表为空时,使用TABLOCK锁提示,表中行数据,索引数据(非聚集索引)都会最小化日志

当堆表非空时,使用TABLOCK锁提示,表中存在非聚集索引,则行数据,索引数据均非最小化日志

注:表非复制表

    一些文档中在堆表有索引非空的情况认为堆行数据会最小化日志,实际是错误的.见图b-2中说明

聚集表实例

聚集空最小化日志 图a-1

create database testbulk

go

use master

ALTER DATABASE [testbulk] SET RECOVERY BULK_LOGGED WITH NO_WAIT

go

use testbulk

go

 

create table t1(id int not null identity (1,1),dystr varchar(200),fixstr char(500));

go

set nocount on

declare @i int

set @i=0

while(@i<20000)

begin

  insert into t1(dystr,fixstr)values('aaa'+str(RAND()*100000000),'bbb'+str(RAND()*100000000))

  set @i=@i+1

end

 

 

 

create table tcls

(

id int ,

dystr varchar(200),

fixstr char(500)

)

go

CREATE UNIQUE CLUSTERED INDEX inx_id ON dbo.tcls (id)

 

 

insert into dbo.tcls with(tablockx)

select * from dbo.t1 ----cluster table empty

 

select operation,CONTEXT,[Log Record Length],AllocUnitName from fn_dblog(null,null)

where AllocUnitName like '%tcls%'

 

 

图a-1

聚集非空非最小化日志图a-2

truncate table tcls

DBCC SHRINKFILE (N'testbulk_log' , 0, TRUNCATEONLY)

 

insert into dbo.tcls with(tablockx) values  (100000,'aaa','bbb')----made not empty clustered table

go

insert into dbo.tcls with(tablockx)

select * from dbo.t1

----cluster table not empty

 

select operation,CONTEXT,[Log Record Length],AllocUnitName from fn_dblog(null,null)

where AllocUnitName like '%tcls%'


图a-2

 

非聚集索引实例

 非聚集非空堆表无索引实例 图b-1

create table tnoncls

(

id int ,

dystr varchar(200),

fixstr char(500)

)

go

 

 

insert into dbo.tnoncls with(tablockx) values (100000,'aaa','bbb')----made not empty heap table no index

go

insert into dbo.tnoncls with(tablockx)

select * from dbo.t1  with(tablockx)----heap table not empty with no index

 

 

select operation,CONTEXT,[Log Record Length],AllocUnitName from fn_dblog(null,null)

where AllocUnitName like '%tnoncls%'

 

图b-1

非聚集非空堆表含索引实例 图b-2

truncate table tnoncls----truncate table

DBCC SHRINKFILE (N'testbulk_log' , 0, TRUNCATEONLY)

 

CREATE UNIQUE NONCLUSTERED INDEX inx_id ON dbo.tnoncls (id)----add non clustered index

 

insert into dbo.tnoncls with(tablockx) values (100000,'aaa','bbb')----made not empty heap table with index

go

insert into dbo.tnoncls with(tablockx)

select * from dbo.t1  with(tablockx)----heap table not empty with  index

 

select operation,CONTEXT,[Log Record Length],AllocUnitName from fn_dblog(null,null)

where AllocUnitName like '%tnoncls%'----both datapage and indexpage full log

 

图b-2

 

关于trace flag 610

Sql2008新引进的TF,用于非空B-tree结构中仍可最小化日志操作.

 

关于TF610的使用我个人建议是特殊场景谨慎使用.

一般来说我们在对非空表导入数据的场景,堆表在Online的过程中最小化日志锁表本身就会影响线上的应用.聚集表数据在插入过程中批量导入的可能性又极低.(好好的聚集表数据批量导入,情况甚微).

TF610本身是为了减少记录的tran-log大小而设计,并非加快导入而设计.

 

使用时注意:

1:特定情况下session级打开 dbcc traceon(610)

2:当批量事务提交时所有数据页需落盘,如果此之前没有检查点执行落盘会带来大量的随机IO从而导致性能下降,有时甚至不如全日志记录的插入.

3:避免单个事务过大.超大事务可能导致其他问题.


最小化日志(Minimal Log)最佳实践

BULK_LOGGED模式:现实生产环境中的数据库一般是简单,或者全日志. BULK_LOGGED模式使用常态下寥寥无几.但当我们的数据操作中存在大量可最小化的日志操作中(如索引重建维护)我们可以开启BULK_LOGGED模式从而提高操作效率.

例:索引维护

1:选取操作时间窗口:日常全备份前

2:全备份完成后,人工干预执行一次日志备份.

3:修改数据库模式由Full->BULK_LOGGED

4:大容量日志操作(索引维护)

5:人工干预备份日志

6:重新调整为全日志(模式)

BULK_LOGGED模式下是不会破坏日志链,在这样的模式下我们把Non point time的时间段降到了最低.

注:当数据库有应用全日志模式的情况下,如镜像,不宜修改的数据库模式而破坏应用,当全日志情形下产生的大量日志可能导致实例级的全局问题,应仔细权衡操作.

    对有审计需求的数据库来说,注意具体审计需求:是否需要恢复到时间点.

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
17天前
|
SQL 存储 缓存
日志服务 SQL 引擎全新升级
SQL 作为 SLS 基础功能,每天承载了用户大量日志数据的分析请求,既有小数据量的快速查询(如告警、即席查询等);也有上万亿数据规模的报表级分析。SLS 作为 Serverless 服务,除了要满足不同用户的各类需求,还要兼顾性能、隔离性、稳定性等要求。过去一年多的时间,SLS SQL 团队做了大量的工作,对 SQL 引擎进行了全新升级,SQL 的执行性能、隔离性等方面都有了大幅的提升。
|
1月前
|
SQL 存储 缓存
MySQL进阶突击系列(02)一条更新SQL执行过程 | 讲透undoLog、redoLog、binLog日志三宝
本文详细介绍了MySQL中update SQL执行过程涉及的undoLog、redoLog和binLog三种日志的作用及其工作原理,包括它们如何确保数据的一致性和完整性,以及在事务提交过程中各自的角色。同时,文章还探讨了这些日志在故障恢复中的重要性,强调了合理配置相关参数对于提高系统稳定性的必要性。
|
2月前
|
SQL IDE 数据库连接
IntelliJ IDEA处理大文件SQL:性能优势解析
在数据库开发和管理工作中,执行大型SQL文件是一个常见的任务。传统的数据库管理工具如Navicat在处理大型SQL文件时可能会遇到性能瓶颈。而IntelliJ IDEA,作为一个强大的集成开发环境,提供了一些高级功能,使其在执行大文件SQL时表现出色。本文将探讨IntelliJ IDEA在处理大文件SQL时的性能优势,并与Navicat进行比较。
39 4
|
2月前
|
SQL 数据库
如何应用SQL约束条件?
【10月更文挑战第28天】如何应用SQL约束条件?
94 11
|
2月前
|
SQL Java 数据库连接
canal-starter 监听解析 storeValue 不一样,同样的sql 一个在mybatis执行 一个在数据库操作,导致解析不出正确对象
canal-starter 监听解析 storeValue 不一样,同样的sql 一个在mybatis执行 一个在数据库操作,导致解析不出正确对象
|
3月前
|
存储 监控 安全
深入解析Sysmon日志:增强网络安全与威胁应对的关键一环
在不断演进的网络安全领域中,保持对威胁的及时了解至关重要。Sysmon日志在这方面发挥了至关重要的作用,通过提供有价值的见解,使组织能够加强其安全姿态。Windows在企业环境中是主导的操作系统,因此深入了解Windows事件日志、它们的独特特性和局限性,并通过Sysmon进行增强,变得至关重要。
|
3月前
|
SQL Oracle 关系型数据库
SQL语言的主要标准及其应用技巧
SQL(Structured Query Language)是数据库领域的标准语言,广泛应用于各种数据库管理系统(DBMS)中,如MySQL、Oracle、SQL Server等
|
3月前
|
SQL 监控 数据库
SQL语句是否都需要解析及其相关技巧和方法
在数据库管理中,SQL(结构化查询语言)语句的使用无处不在,它们负责数据的查询、插入、更新和删除等操作
|
2月前
|
SQL 监控 安全
员工上网行为监控软件:SQL 在数据查询监控中的应用解析
在数字化办公环境中,员工上网行为监控软件对企业网络安全和管理至关重要。通过 SQL 查询和分析数据库中的数据,企业可以精准了解员工的上网行为,包括基础查询、复杂条件查询、数据统计与分析等,从而提高网络管理和安全防护的效率。
34 0
|
3月前
|
存储 关系型数据库 MySQL
MySQL中的Redo Log、Undo Log和Binlog:深入解析
【10月更文挑战第21天】在数据库管理系统中,日志是保障数据一致性和完整性的关键机制。MySQL作为一种广泛使用的关系型数据库管理系统,提供了多种日志类型来满足不同的需求。本文将详细介绍MySQL中的Redo Log、Undo Log和Binlog,从背景、业务场景、功能、底层实现原理、使用措施等方面进行详细分析,并通过Java代码示例展示如何与这些日志进行交互。
344 0

推荐镜像

更多