Revisió de l'eina gratuïta SQLIndexManager

Com sabeu, els índexs juguen un paper important en un SGBD, ja que proporcionen una cerca ràpida als registres necessaris. Per això és tan important donar-los un servei a temps. S'ha escrit bastant material sobre anàlisi i optimització, inclòs a Internet. Per exemple, aquest tema es va revisar recentment a aquesta publicació.

Hi ha moltes solucions gratuïtes i de pagament per a això. Per exemple, hi ha un ready-made la decisió, basat en un mètode d'optimització d'índex adaptatiu.

A continuació, mirem la utilitat gratuïta SQLIndexManager, escrit per Alan Denton.

La principal diferència tècnica entre SQLIndexManager i una sèrie d'altres anàlegs la dóna el mateix autor aquí и aquí.

En aquest article, farem una mirada externa al projecte i a les capacitats operatives d'aquesta solució de programari.

Parlant d'aquesta utilitat aquí.
Amb el temps, la majoria dels comentaris i errors es van corregir.

Per tant, passem ara a la pròpia utilitat SQLIndexManager.

L'aplicació està escrita en C# .NET Framework 4.5 a Visual Studio 2017 i utilitza DevExpress per als formularis:

Revisió de l'eina gratuïta SQLIndexManager

i té aquest aspecte:

Revisió de l'eina gratuïta SQLIndexManager

Totes les sol·licituds es generen als fitxers següents:

  1. Index
  2. Pregunta
  3. QueryEngine
  4. Informació del servidor

Revisió de l'eina gratuïta SQLIndexManager

Quan es connecta a una base de dades i s'envia consultes al SGBD, l'aplicació es firma de la següent manera:

ApplicationName=”SQLIndexManager”

Quan inicieu l'aplicació, s'obrirà una finestra modal per afegir una connexió:
Revisió de l'eina gratuïta SQLIndexManager

Aquí, la càrrega d'una llista completa de totes les instàncies de MS SQL Server accessibles a través de xarxes locals encara no funciona.

També podeu afegir una connexió utilitzant el botó més esquerre del menú principal:

Revisió de l'eina gratuïta SQLIndexManager

A continuació, s'iniciaran les consultes següents al SGBD:

  1. Obtenció d'informació sobre el SGBD
    SELECT ProductLevel  = SERVERPROPERTY('ProductLevel')
         , Edition       = SERVERPROPERTY('Edition')
         , ServerVersion = SERVERPROPERTY('ProductVersion')
         , IsSysAdmin    = CAST(IS_SRVROLEMEMBER('sysadmin') AS BIT)
    

  2. Obtenció d'una llista de bases de dades disponibles amb les seves breus propietats
    SELECT DatabaseName = t.[name]
         , d.DataSize
         , DataUsedSize  = CAST(NULL AS BIGINT)
         , d.LogSize
         , LogUsedSize   = CAST(NULL AS BIGINT)
         , RecoveryModel = t.recovery_model_desc
         , LogReuseWait  = t.log_reuse_wait_desc
    FROM sys.databases t WITH(NOLOCK)
    LEFT JOIN (
        SELECT [database_id]
             , DataSize = SUM(CASE WHEN [type] = 0 THEN CAST(size AS BIGINT) END)
             , LogSize  = SUM(CASE WHEN [type] = 1 THEN CAST(size AS BIGINT) END)
        FROM sys.master_files WITH(NOLOCK)
        GROUP BY [database_id]
    ) d ON d.[database_id] = t.[database_id]
    WHERE t.[state] = 0
        AND t.[database_id] != 2
        AND ISNULL(HAS_DBACCESS(t.[name]), 1) = 1
    

Després d'executar els scripts anteriors, apareixerà una finestra que conté informació breu sobre les bases de dades de la instància seleccionada de MS SQL Server:

Revisió de l'eina gratuïta SQLIndexManager

Val la pena assenyalar que la informació ampliada es mostra en funció dels drets. Si hi ha administrador del sistema, llavors podeu seleccionar les dades de la vista sys.master_files. Si no hi ha aquests drets, simplement es retornen menys dades per no frenar la sol·licitud.

Aquí heu de seleccionar les bases de dades d'interès i fer clic al botó "D'acord".

A continuació, s'executarà el següent script per a cada base de dades seleccionada per analitzar l'estat dels índexs:

Anàlisi de l'estat de l'índex

declare @Fragmentation float=15;
declare @MinIndexSize bigint=768;
declare @MaxIndexSize bigint=1048576;
declare @PreDescribeSize bigint=32768;
SET NOCOUNT ON
SET ARITHABORT ON
SET NUMERIC_ROUNDABORT OFF
IF OBJECT_ID('tempdb.dbo.#AllocationUnits') IS NOT NULL
DROP TABLE #AllocationUnits
CREATE TABLE #AllocationUnits (
ContainerID   BIGINT PRIMARY KEY
, ReservedPages BIGINT NOT NULL
, UsedPages     BIGINT NOT NULL
)
INSERT INTO #AllocationUnits (ContainerID, ReservedPages, UsedPages)
SELECT [container_id]
, SUM([total_pages])
, SUM([used_pages])
FROM sys.allocation_units WITH(NOLOCK)
GROUP BY [container_id]
HAVING SUM([total_pages]) BETWEEN @MinIndexSize AND @MaxIndexSize
IF OBJECT_ID('tempdb.dbo.#ExcludeList') IS NOT NULL
DROP TABLE #ExcludeList
CREATE TABLE #ExcludeList (ID INT PRIMARY KEY)
INSERT INTO #ExcludeList
SELECT [object_id]
FROM sys.objects WITH(NOLOCK)
WHERE [type] IN ('V', 'U')
AND ( [is_ms_shipped] = 1 )
IF OBJECT_ID('tempdb.dbo.#Partitions') IS NOT NULL
DROP TABLE #Partitions
SELECT [object_id]
, [index_id]
, [partition_id]
, [partition_number]
, [rows]
, [data_compression]
INTO #Partitions
FROM sys.partitions WITH(NOLOCK)
WHERE [object_id] > 255
AND [rows] > 0
AND [object_id] NOT IN (SELECT * FROM #ExcludeList)
IF OBJECT_ID('tempdb.dbo.#Indexes') IS NOT NULL
DROP TABLE #Indexes
CREATE TABLE #Indexes (
ObjectID         INT NOT NULL
, IndexID          INT NOT NULL
, IndexName        SYSNAME NULL
, PagesCount       BIGINT NOT NULL
, UnusedPagesCount BIGINT NOT NULL
, PartitionNumber  INT NOT NULL
, RowsCount        BIGINT NOT NULL
, IndexType        TINYINT NOT NULL
, IsAllowPageLocks BIT NOT NULL
, DataSpaceID      INT NOT NULL
, DataCompression  TINYINT NOT NULL
, IsUnique         BIT NOT NULL
, IsPK             BIT NOT NULL
, FillFactorValue  INT NOT NULL
, IsFiltered       BIT NOT NULL
, PRIMARY KEY (ObjectID, IndexID, PartitionNumber)
)
INSERT INTO #Indexes
SELECT ObjectID         = i.[object_id]
, IndexID          = i.index_id
, IndexName        = i.[name]
, PagesCount       = a.ReservedPages
, UnusedPagesCount = CASE WHEN ABS(a.ReservedPages - a.UsedPages) > 32 THEN a.ReservedPages - a.UsedPages ELSE 0 END
, PartitionNumber  = p.[partition_number]
, RowsCount        = ISNULL(p.[rows], 0)
, IndexType        = i.[type]
, IsAllowPageLocks = i.[allow_page_locks]
, DataSpaceID      = i.[data_space_id]
, DataCompression  = p.[data_compression]
, IsUnique         = i.[is_unique]
, IsPK             = i.[is_primary_key]
, FillFactorValue  = i.[fill_factor]
, IsFiltered       = i.[has_filter]
FROM #AllocationUnits a
JOIN #Partitions p ON a.ContainerID = p.[partition_id]
JOIN sys.indexes i WITH(NOLOCK) ON i.[object_id] = p.[object_id] AND p.[index_id] = i.[index_id] 
WHERE i.[type] IN (0, 1, 2, 5, 6)
AND i.[object_id] > 255
DECLARE @files TABLE (ID INT PRIMARY KEY)
INSERT INTO @files
SELECT DISTINCT [data_space_id]
FROM sys.database_files WITH(NOLOCK)
WHERE [state] != 0
AND [type] = 0
IF @@ROWCOUNT > 0 BEGIN
DELETE FROM i
FROM #Indexes i
LEFT JOIN sys.destination_data_spaces dds WITH(NOLOCK) ON i.DataSpaceID = dds.[partition_scheme_id] AND i.PartitionNumber = dds.[destination_id]
WHERE ISNULL(dds.[data_space_id], i.DataSpaceID) IN (SELECT * FROM @files)
END
DECLARE @DBID   INT
, @DBNAME SYSNAME
SET @DBNAME = DB_NAME()
SELECT @DBID = [database_id]
FROM sys.databases WITH(NOLOCK)
WHERE [name] = @DBNAME
IF OBJECT_ID('tempdb.dbo.#Fragmentation') IS NOT NULL
DROP TABLE #Fragmentation
CREATE TABLE #Fragmentation (
ObjectID         INT NOT NULL
, IndexID          INT NOT NULL
, PartitionNumber  INT NOT NULL
, Fragmentation    FLOAT NOT NULL
, PRIMARY KEY (ObjectID, IndexID, PartitionNumber)
)
INSERT INTO #Fragmentation (ObjectID, IndexID, PartitionNumber, Fragmentation)
SELECT i.ObjectID
, i.IndexID
, i.PartitionNumber
, r.[avg_fragmentation_in_percent]
FROM #Indexes i
CROSS APPLY sys.dm_db_index_physical_stats(@DBID, i.ObjectID, i.IndexID, i.PartitionNumber, 'LIMITED') r
WHERE i.PagesCount <= @PreDescribeSize
AND r.[index_level] = 0
AND r.[alloc_unit_type_desc] = 'IN_ROW_DATA'
AND i.IndexType IN (0, 1, 2)
IF OBJECT_ID('tempdb.dbo.#Columns') IS NOT NULL
DROP TABLE #Columns
CREATE TABLE #Columns (
ObjectID     INT NOT NULL
, ColumnID     INT NOT NULL
, ColumnName   SYSNAME NULL
, SystemTypeID TINYINT NULL
, IsSparse     BIT
, IsColumnSet  BIT
, MaxLen       INT
, PRIMARY KEY (ObjectID, ColumnID)
)
INSERT INTO #Columns
SELECT ObjectID     = [object_id]
, ColumnID     = [column_id]
, ColumnName   = [name]
, SystemTypeID = [system_type_id]
, IsSparse     = [is_sparse]
, IsColumnSet  = [is_column_set]
, MaxLen       = [max_length]
FROM sys.columns WITH(NOLOCK)
WHERE [object_id] IN (SELECT DISTINCT i.ObjectID FROM #Indexes i)
IF OBJECT_ID('tempdb.dbo.#IndexColumns') IS NOT NULL
DROP TABLE #IndexColumns
CREATE TABLE #IndexColumns (
ObjectID   INT NOT NULL
, IndexID    INT NOT NULL
, OrderID    INT NOT NULL
, ColumnID   INT NOT NULL
, IsIncluded BIT NOT NULL
, PRIMARY KEY (ObjectID, IndexID, ColumnID)
)
INSERT INTO #IndexColumns
SELECT ObjectID   = [object_id]
, IndexID    = [index_id]
, OrderID    = CASE WHEN [is_included_column] = 0 THEN [key_ordinal] ELSE [index_column_id] END
, ColumnID   = [column_id]
, IsIncluded = ISNULL([is_included_column], 0)
FROM sys.index_columns ic WITH(NOLOCK)
WHERE EXISTS(
SELECT *
FROM #Indexes i
WHERE i.ObjectID = ic.[object_id]
AND i.IndexID = ic.[index_id]
AND i.IndexType IN (1, 2)
)
IF OBJECT_ID('tempdb.dbo.#Lob') IS NOT NULL
DROP TABLE #Lob
CREATE TABLE #Lob (
ObjectID    INT NOT NULL
, IndexID     INT NOT NULL
, IsLobLegacy BIT
, IsLob       BIT
, PRIMARY KEY (ObjectID, IndexID)
)
INSERT INTO #Lob (ObjectID, IndexID, IsLobLegacy, IsLob)
SELECT c.ObjectID
, IndexID     = ISNULL(i.IndexID, 1)
, IsLobLegacy = MAX(CASE WHEN c.SystemTypeID IN (34, 35, 99) THEN 1 END)
, IsLob       = 0
FROM #Columns c
LEFT JOIN #IndexColumns i ON c.ObjectID = i.ObjectID AND c.ColumnID = i.ColumnID
WHERE c.SystemTypeID IN (34, 35, 99)
GROUP BY c.ObjectID
, i.IndexID
IF OBJECT_ID('tempdb.dbo.#Sparse') IS NOT NULL
DROP TABLE #Sparse
CREATE TABLE #Sparse (ObjectID INT PRIMARY KEY)
INSERT INTO #Sparse
SELECT DISTINCT ObjectID
FROM #Columns
WHERE IsSparse = 1
OR IsColumnSet = 1
IF OBJECT_ID('tempdb.dbo.#AggColumns') IS NOT NULL
DROP TABLE #AggColumns
CREATE TABLE #AggColumns (
ObjectID        INT NOT NULL
, IndexID         INT NOT NULL
, IndexColumns    NVARCHAR(MAX)
, IncludedColumns NVARCHAR(MAX)
, PRIMARY KEY (ObjectID, IndexID)
)
INSERT INTO #AggColumns
SELECT t.ObjectID
, t.IndexID
, IndexColumns = STUFF((
SELECT ', [' + c.ColumnName + ']'
FROM #IndexColumns i
JOIN #Columns c ON i.ObjectID = c.ObjectID AND i.ColumnID = c.ColumnID
WHERE i.ObjectID = t.ObjectID
AND i.IndexID = t.IndexID
AND i.IsIncluded = 0
ORDER BY i.OrderID
FOR XML PATH(''), TYPE).value('(./text())[1]', 'NVARCHAR(MAX)'), 1, 2, '')
, IncludedColumns = STUFF((
SELECT ', [' + c.ColumnName + ']'
FROM #IndexColumns i
JOIN #Columns c ON i.ObjectID = c.ObjectID AND i.ColumnID = c.ColumnID
WHERE i.ObjectID = t.ObjectID
AND i.IndexID = t.IndexID
AND i.IsIncluded = 1
ORDER BY i.OrderID
FOR XML PATH(''), TYPE).value('(./text())[1]', 'NVARCHAR(MAX)'), 1, 2, '')
FROM (
SELECT DISTINCT ObjectID, IndexID
FROM #Indexes
WHERE IndexType IN (1, 2)
) t
SELECT i.ObjectID
, i.IndexID
, i.IndexName
, ObjectName       = o.[name]
, SchemaName       = s.[name]
, i.PagesCount
, i.UnusedPagesCount
, i.PartitionNumber
, i.RowsCount
, i.IndexType
, i.IsAllowPageLocks
, u.TotalWrites
, u.TotalReads
, u.TotalSeeks
, u.TotalScans
, u.TotalLookups
, u.LastUsage
, i.DataCompression
, f.Fragmentation
, IndexStats       = STATS_DATE(i.ObjectID, i.IndexID)
, IsLobLegacy      = ISNULL(lob.IsLobLegacy, 0)
, IsLob            = ISNULL(lob.IsLob, 0)
, IsSparse         = CAST(CASE WHEN p.ObjectID IS NULL THEN 0 ELSE 1 END AS BIT)
, IsPartitioned    = CAST(CASE WHEN dds.[data_space_id] IS NOT NULL THEN 1 ELSE 0 END AS BIT)
, FileGroupName    = fg.[name]
, i.IsUnique
, i.IsPK
, i.FillFactorValue
, i.IsFiltered
, a.IndexColumns
, a.IncludedColumns
FROM #Indexes i
JOIN sys.objects o WITH(NOLOCK) ON o.[object_id] = i.ObjectID
JOIN sys.schemas s WITH(NOLOCK) ON s.[schema_id] = o.[schema_id]
LEFT JOIN #AggColumns a ON a.ObjectID = i.ObjectID AND a.IndexID = i.IndexID
LEFT JOIN #Sparse p ON p.ObjectID = i.ObjectID
LEFT JOIN #Fragmentation f ON f.ObjectID = i.ObjectID AND f.IndexID = i.IndexID AND f.PartitionNumber = i.PartitionNumber
LEFT JOIN (
SELECT ObjectID      = [object_id]
, IndexID       = [index_id]
, TotalWrites   = NULLIF([user_updates], 0)
, TotalReads    = NULLIF([user_seeks] + [user_scans] + [user_lookups], 0)
, TotalSeeks    = NULLIF([user_seeks], 0)
, TotalScans    = NULLIF([user_scans], 0)
, TotalLookups  = NULLIF([user_lookups], 0)
, LastUsage     = (
SELECT MAX(dt)
FROM (
VALUES ([last_user_seek])
, ([last_user_scan])
, ([last_user_lookup])
, ([last_user_update])
) t(dt)
)
FROM sys.dm_db_index_usage_stats WITH(NOLOCK)
WHERE [database_id] = @DBID
) u ON i.ObjectID = u.ObjectID AND i.IndexID = u.IndexID
LEFT JOIN #Lob lob ON lob.ObjectID = i.ObjectID AND lob.IndexID = i.IndexID
LEFT JOIN sys.destination_data_spaces dds WITH(NOLOCK) ON i.DataSpaceID = dds.[partition_scheme_id] AND i.PartitionNumber = dds.[destination_id]
JOIN sys.filegroups fg WITH(NOLOCK) ON ISNULL(dds.[data_space_id], i.DataSpaceID) = fg.[data_space_id] 
WHERE o.[type] IN ('V', 'U')
AND (
f.Fragmentation >= @Fragmentation
OR
i.PagesCount > @PreDescribeSize
OR
i.IndexType IN (5, 6)
)

Com es pot veure a les consultes mateixes, les taules temporals s'utilitzen força sovint. Això es fa perquè no hi hagi recompilacions, i en el cas d'un esquema gran, el pla es pot generar en paral·lel en inserir dades, ja que la inserció de variables de taula només és possible en un fil.

Després d'executar l'script anterior, apareixerà una finestra amb una taula d'índex:

Revisió de l'eina gratuïta SQLIndexManager

També podeu mostrar una altra informació detallada aquí, com ara:

  1. base de dades
  2. nombre de seccions
  3. data i hora de la darrera trucada
  4. compressió
  5. grup de fitxers

i així successivament.
Els mateixos altaveus es poden personalitzar:

Revisió de l'eina gratuïta SQLIndexManager

A les cel·les de la columna Fixa, podeu seleccionar quina acció es realitzarà durant l'optimització. A més, quan es completa l'exploració, es selecciona una acció predeterminada en funció de la configuració seleccionada:

Revisió de l'eina gratuïta SQLIndexManager

Heu de seleccionar els índexs desitjats per al processament.

Mitjançant el menú principal, podeu desar l'script (el mateix botó inicia el propi procés d'optimització de l'índex):

Revisió de l'eina gratuïta SQLIndexManager

i deseu la taula en diferents formats (el mateix botó us permet obrir paràmetres detallats per analitzar i optimitzar índexs):

Revisió de l'eina gratuïta SQLIndexManager

També podeu actualitzar la informació fent clic al tercer botó de l'esquerra del menú principal al costat de la lupa.

El botó amb lupa us permet seleccionar les bases de dades desitjades per considerar-les.

Actualment no hi ha un sistema d'ajuda complet. Per tant, prement el botó “?” simplement farà que aparegui una finestra modal que conté informació bàsica sobre el producte de programari:

Revisió de l'eina gratuïta SQLIndexManager

A més de tot el que s'ha descrit anteriorment, el menú principal té una barra de cerca:

Revisió de l'eina gratuïta SQLIndexManager

Quan s'inicia el procés d'optimització de l'índex:

Revisió de l'eina gratuïta SQLIndexManager

També podeu veure un registre de les accions realitzades a la part inferior de la finestra:

Revisió de l'eina gratuïta SQLIndexManager

A la finestra de configuració detallada per a l'anàlisi i l'optimització de l'índex, podeu configurar opcions més subtils:

Revisió de l'eina gratuïta SQLIndexManager

Sol·licituds de sol·licitud:

  1. permeten actualitzar selectivament les estadístiques no només dels índexs i també de diferents maneres (actualitzar totalment o parcialment)
  2. permet no només seleccionar una base de dades, sinó també diferents servidors (això és molt convenient quan hi ha moltes instàncies de MS SQL Server)
  3. Per a una major flexibilitat d'ús, es recomana embolicar les ordres a les biblioteques i enviar-les a les ordres de PowerShell, com es fa, per exemple, aquí:
  4. dbatools.io/commands
  5. permeten desar i canviar la configuració personal tant per a tota l'aplicació com, si cal, per a cada instància de MS SQL Server i cada base de dades.
  6. Dels punts 2 i 4 es desprèn que es volen crear grups per bases de dades i grups per instàncies de MS SQL Server, per als quals la configuració és la mateixa.
  7. cerca índexs duplicats (complets i incomplets, que són lleugerament diferents o només es diferencien a les columnes incloses)
  8. Com que SQLIndexManager només s'utilitza per a SGBD de MS SQL Server, cal reflectir-ho al nom, per exemple, de la manera següent: SQLIndexManager per a MS SQL Server
  9. Mou totes les parts de l'aplicació que no són GUI a mòduls separats i reescriu-les a .NET Core 2.1

En el moment d'escriure, s'està desenvolupant activament el punt 6 dels desitjos i ja hi ha suport en forma de cerca de duplicats complets i similars:

Revisió de l'eina gratuïta SQLIndexManager

Fonts

Font: www.habr.com

Afegeix comentari