Recenzja darmowego narzędzia SQLIndexManager

Jak wiadomo, indeksy odgrywają ważną rolę w systemie DBMS, zapewniając szybkie wyszukiwanie wymaganych rekordów. Dlatego tak ważne jest, aby serwisować je terminowo. Na temat analizy i optymalizacji napisano już całkiem sporo materiału, także w Internecie. Na przykład ten temat został niedawno omówiony w tę publikację.

Istnieje wiele płatnych i bezpłatnych rozwiązań w tym zakresie. Na przykład jest gotowy decyzja, w oparciu o adaptacyjną metodę optymalizacji indeksu.

Następnie przyjrzyjmy się bezpłatnemu narzędziu Menedżer SQLIndex, autorstwa Alana Dentona.

Główną różnicę techniczną między SQLIndexManager a wieloma innymi analogami podaje sam autor tutaj и tutaj.

W tym artykule przyjrzymy się projektowi i możliwościom operacyjnym tego oprogramowania.

Dyskusja na temat tego narzędzia tutaj.
Z biegiem czasu większość komentarzy i błędów została poprawiona.

Przejdźmy teraz do samego narzędzia SQLIndexManager.

Aplikacja napisana jest w C# .NET Framework 4.5 w Visual Studio 2017 i wykorzystuje DevExpress do formularzy:

i wygląda tak:

Wszystkie żądania generowane są w następujących plikach:

1. wskaźnik
2. Pytanie
3. Silnik zapytań
4. Informacje o serwerze

Podczas łączenia się z bazą danych i wysyłania zapytań do SZBD aplikacja jest podpisana w następujący sposób:

ApplicationName=”SQLIndexManager”

Po uruchomieniu aplikacji otworzy się okno modalne umożliwiające dodanie połączenia:

W tym przypadku ładowanie pełnej listy wszystkich instancji MS SQL Server dostępnych w sieciach lokalnych jeszcze nie działa.

Możesz także dodać połączenie za pomocą lewego przycisku w menu głównym:

Następnie zostaną uruchomione następujące zapytania do SZBD:

1. Uzyskanie informacji o SZBD

   SELECT ProductLevel  = SERVERPROPERTY('ProductLevel')
        , Edition       = SERVERPROPERTY('Edition')
        , ServerVersion = SERVERPROPERTY('ProductVersion')
        , IsSysAdmin    = CAST(IS_SRVROLEMEMBER('sysadmin') AS BIT)
   

2. Pobieranie listy dostępnych baz danych z ich krótkimi właściwościami

   SELECT DatabaseName = t.[name]
        , d.DataSize
        , DataUsedSize  = CAST(NULL AS BIGINT)
        , d.LogSize
        , LogUsedSize   = CAST(NULL AS BIGINT)
        , RecoveryModel = t.recovery_model_desc
        , LogReuseWait  = t.log_reuse_wait_desc
   FROM sys.databases t WITH(NOLOCK)
   LEFT JOIN (
       SELECT [database_id]
            , DataSize = SUM(CASE WHEN [type] = 0 THEN CAST(size AS BIGINT) END)
            , LogSize  = SUM(CASE WHEN [type] = 1 THEN CAST(size AS BIGINT) END)
       FROM sys.master_files WITH(NOLOCK)
       GROUP BY [database_id]
   ) d ON d.[database_id] = t.[database_id]
   WHERE t.[state] = 0
       AND t.[database_id] != 2
       AND ISNULL(HAS_DBACCESS(t.[name]), 1) = 1
   

Po wykonaniu powyższych skryptów pojawi się okno zawierające krótką informację o bazach danych wybranej instancji MS SQL Server:

Warto zaznaczyć, że informacje rozszerzone prezentowane są w oparciu o uprawnienia. Jezeli tam sysadmin, następnie możesz wybrać dane z widoku sys.master_files. Jeśli nie ma takich praw, to po prostu zwraca się mniej danych, aby nie spowalniać żądania.

Tutaj musisz wybrać interesujące Cię bazy danych i kliknąć przycisk „OK”.

Następnie dla każdej wybranej bazy danych zostanie wykonany poniższy skrypt w celu analizy stanu indeksów:

Analiza stanu indeksu

declare @Fragmentation float=15;
declare @MinIndexSize bigint=768;
declare @MaxIndexSize bigint=1048576;
declare @PreDescribeSize bigint=32768;
SET NOCOUNT ON
SET ARITHABORT ON
SET NUMERIC_ROUNDABORT OFF
IF OBJECT_ID('tempdb.dbo.#AllocationUnits') IS NOT NULL
DROP TABLE #AllocationUnits
CREATE TABLE #AllocationUnits (
ContainerID   BIGINT PRIMARY KEY
, ReservedPages BIGINT NOT NULL
, UsedPages     BIGINT NOT NULL
)
INSERT INTO #AllocationUnits (ContainerID, ReservedPages, UsedPages)
SELECT [container_id]
, SUM([total_pages])
, SUM([used_pages])
FROM sys.allocation_units WITH(NOLOCK)
GROUP BY [container_id]
HAVING SUM([total_pages]) BETWEEN @MinIndexSize AND @MaxIndexSize
IF OBJECT_ID('tempdb.dbo.#ExcludeList') IS NOT NULL
DROP TABLE #ExcludeList
CREATE TABLE #ExcludeList (ID INT PRIMARY KEY)
INSERT INTO #ExcludeList
SELECT [object_id]
FROM sys.objects WITH(NOLOCK)
WHERE [type] IN ('V', 'U')
AND ( [is_ms_shipped] = 1 )
IF OBJECT_ID('tempdb.dbo.#Partitions') IS NOT NULL
DROP TABLE #Partitions
SELECT [object_id]
, [index_id]
, [partition_id]
, [partition_number]
, [rows]
, [data_compression]
INTO #Partitions
FROM sys.partitions WITH(NOLOCK)
WHERE [object_id] > 255
AND [rows] > 0
AND [object_id] NOT IN (SELECT * FROM #ExcludeList)
IF OBJECT_ID('tempdb.dbo.#Indexes') IS NOT NULL
DROP TABLE #Indexes
CREATE TABLE #Indexes (
ObjectID         INT NOT NULL
, IndexID          INT NOT NULL
, IndexName        SYSNAME NULL
, PagesCount       BIGINT NOT NULL
, UnusedPagesCount BIGINT NOT NULL
, PartitionNumber  INT NOT NULL
, RowsCount        BIGINT NOT NULL
, IndexType        TINYINT NOT NULL
, IsAllowPageLocks BIT NOT NULL
, DataSpaceID      INT NOT NULL
, DataCompression  TINYINT NOT NULL
, IsUnique         BIT NOT NULL
, IsPK             BIT NOT NULL
, FillFactorValue  INT NOT NULL
, IsFiltered       BIT NOT NULL
, PRIMARY KEY (ObjectID, IndexID, PartitionNumber)
)
INSERT INTO #Indexes
SELECT ObjectID         = i.[object_id]
, IndexID          = i.index_id
, IndexName        = i.[name]
, PagesCount       = a.ReservedPages
, UnusedPagesCount = CASE WHEN ABS(a.ReservedPages - a.UsedPages) > 32 THEN a.ReservedPages - a.UsedPages ELSE 0 END
, PartitionNumber  = p.[partition_number]
, RowsCount        = ISNULL(p.[rows], 0)
, IndexType        = i.[type]
, IsAllowPageLocks = i.[allow_page_locks]
, DataSpaceID      = i.[data_space_id]
, DataCompression  = p.[data_compression]
, IsUnique         = i.[is_unique]
, IsPK             = i.[is_primary_key]
, FillFactorValue  = i.[fill_factor]
, IsFiltered       = i.[has_filter]
FROM #AllocationUnits a
JOIN #Partitions p ON a.ContainerID = p.[partition_id]
JOIN sys.indexes i WITH(NOLOCK) ON i.[object_id] = p.[object_id] AND p.[index_id] = i.[index_id] 
WHERE i.[type] IN (0, 1, 2, 5, 6)
AND i.[object_id] > 255
DECLARE @files TABLE (ID INT PRIMARY KEY)
INSERT INTO @files
SELECT DISTINCT [data_space_id]
FROM sys.database_files WITH(NOLOCK)
WHERE [state] != 0
AND [type] = 0
IF @@ROWCOUNT > 0 BEGIN
DELETE FROM i
FROM #Indexes i
LEFT JOIN sys.destination_data_spaces dds WITH(NOLOCK) ON i.DataSpaceID = dds.[partition_scheme_id] AND i.PartitionNumber = dds.[destination_id]
WHERE ISNULL(dds.[data_space_id], i.DataSpaceID) IN (SELECT * FROM @files)
END
DECLARE @DBID   INT
, @DBNAME SYSNAME
SET @DBNAME = DB_NAME()
SELECT @DBID = [database_id]
FROM sys.databases WITH(NOLOCK)
WHERE [name] = @DBNAME
IF OBJECT_ID('tempdb.dbo.#Fragmentation') IS NOT NULL
DROP TABLE #Fragmentation
CREATE TABLE #Fragmentation (
ObjectID         INT NOT NULL
, IndexID          INT NOT NULL
, PartitionNumber  INT NOT NULL
, Fragmentation    FLOAT NOT NULL
, PRIMARY KEY (ObjectID, IndexID, PartitionNumber)
)
INSERT INTO #Fragmentation (ObjectID, IndexID, PartitionNumber, Fragmentation)
SELECT i.ObjectID
, i.IndexID
, i.PartitionNumber
, r.[avg_fragmentation_in_percent]
FROM #Indexes i
CROSS APPLY sys.dm_db_index_physical_stats(@DBID, i.ObjectID, i.IndexID, i.PartitionNumber, 'LIMITED') r
WHERE i.PagesCount <= @PreDescribeSize
AND r.[index_level] = 0
AND r.[alloc_unit_type_desc] = 'IN_ROW_DATA'
AND i.IndexType IN (0, 1, 2)
IF OBJECT_ID('tempdb.dbo.#Columns') IS NOT NULL
DROP TABLE #Columns
CREATE TABLE #Columns (
ObjectID     INT NOT NULL
, ColumnID     INT NOT NULL
, ColumnName   SYSNAME NULL
, SystemTypeID TINYINT NULL
, IsSparse     BIT
, IsColumnSet  BIT
, MaxLen       INT
, PRIMARY KEY (ObjectID, ColumnID)
)
INSERT INTO #Columns
SELECT ObjectID     = [object_id]
, ColumnID     = [column_id]
, ColumnName   = [name]
, SystemTypeID = [system_type_id]
, IsSparse     = [is_sparse]
, IsColumnSet  = [is_column_set]
, MaxLen       = [max_length]
FROM sys.columns WITH(NOLOCK)
WHERE [object_id] IN (SELECT DISTINCT i.ObjectID FROM #Indexes i)
IF OBJECT_ID('tempdb.dbo.#IndexColumns') IS NOT NULL
DROP TABLE #IndexColumns
CREATE TABLE #IndexColumns (
ObjectID   INT NOT NULL
, IndexID    INT NOT NULL
, OrderID    INT NOT NULL
, ColumnID   INT NOT NULL
, IsIncluded BIT NOT NULL
, PRIMARY KEY (ObjectID, IndexID, ColumnID)
)
INSERT INTO #IndexColumns
SELECT ObjectID   = [object_id]
, IndexID    = [index_id]
, OrderID    = CASE WHEN [is_included_column] = 0 THEN [key_ordinal] ELSE [index_column_id] END
, ColumnID   = [column_id]
, IsIncluded = ISNULL([is_included_column], 0)
FROM sys.index_columns ic WITH(NOLOCK)
WHERE EXISTS(
SELECT *
FROM #Indexes i
WHERE i.ObjectID = ic.[object_id]
AND i.IndexID = ic.[index_id]
AND i.IndexType IN (1, 2)
)
IF OBJECT_ID('tempdb.dbo.#Lob') IS NOT NULL
DROP TABLE #Lob
CREATE TABLE #Lob (
ObjectID    INT NOT NULL
, IndexID     INT NOT NULL
, IsLobLegacy BIT
, IsLob       BIT
, PRIMARY KEY (ObjectID, IndexID)
)
INSERT INTO #Lob (ObjectID, IndexID, IsLobLegacy, IsLob)
SELECT c.ObjectID
, IndexID     = ISNULL(i.IndexID, 1)
, IsLobLegacy = MAX(CASE WHEN c.SystemTypeID IN (34, 35, 99) THEN 1 END)
, IsLob       = 0
FROM #Columns c
LEFT JOIN #IndexColumns i ON c.ObjectID = i.ObjectID AND c.ColumnID = i.ColumnID
WHERE c.SystemTypeID IN (34, 35, 99)
GROUP BY c.ObjectID
, i.IndexID
IF OBJECT_ID('tempdb.dbo.#Sparse') IS NOT NULL
DROP TABLE #Sparse
CREATE TABLE #Sparse (ObjectID INT PRIMARY KEY)
INSERT INTO #Sparse
SELECT DISTINCT ObjectID
FROM #Columns
WHERE IsSparse = 1
OR IsColumnSet = 1
IF OBJECT_ID('tempdb.dbo.#AggColumns') IS NOT NULL
DROP TABLE #AggColumns
CREATE TABLE #AggColumns (
ObjectID        INT NOT NULL
, IndexID         INT NOT NULL
, IndexColumns    NVARCHAR(MAX)
, IncludedColumns NVARCHAR(MAX)
, PRIMARY KEY (ObjectID, IndexID)
)
INSERT INTO #AggColumns
SELECT t.ObjectID
, t.IndexID
, IndexColumns = STUFF((
SELECT ', [' + c.ColumnName + ']'
FROM #IndexColumns i
JOIN #Columns c ON i.ObjectID = c.ObjectID AND i.ColumnID = c.ColumnID
WHERE i.ObjectID = t.ObjectID
AND i.IndexID = t.IndexID
AND i.IsIncluded = 0
ORDER BY i.OrderID
FOR XML PATH(''), TYPE).value('(./text())[1]', 'NVARCHAR(MAX)'), 1, 2, '')
, IncludedColumns = STUFF((
SELECT ', [' + c.ColumnName + ']'
FROM #IndexColumns i
JOIN #Columns c ON i.ObjectID = c.ObjectID AND i.ColumnID = c.ColumnID
WHERE i.ObjectID = t.ObjectID
AND i.IndexID = t.IndexID
AND i.IsIncluded = 1
ORDER BY i.OrderID
FOR XML PATH(''), TYPE).value('(./text())[1]', 'NVARCHAR(MAX)'), 1, 2, '')
FROM (
SELECT DISTINCT ObjectID, IndexID
FROM #Indexes
WHERE IndexType IN (1, 2)
) t
SELECT i.ObjectID
, i.IndexID
, i.IndexName
, ObjectName       = o.[name]
, SchemaName       = s.[name]
, i.PagesCount
, i.UnusedPagesCount
, i.PartitionNumber
, i.RowsCount
, i.IndexType
, i.IsAllowPageLocks
, u.TotalWrites
, u.TotalReads
, u.TotalSeeks
, u.TotalScans
, u.TotalLookups
, u.LastUsage
, i.DataCompression
, f.Fragmentation
, IndexStats       = STATS_DATE(i.ObjectID, i.IndexID)
, IsLobLegacy      = ISNULL(lob.IsLobLegacy, 0)
, IsLob            = ISNULL(lob.IsLob, 0)
, IsSparse         = CAST(CASE WHEN p.ObjectID IS NULL THEN 0 ELSE 1 END AS BIT)
, IsPartitioned    = CAST(CASE WHEN dds.[data_space_id] IS NOT NULL THEN 1 ELSE 0 END AS BIT)
, FileGroupName    = fg.[name]
, i.IsUnique
, i.IsPK
, i.FillFactorValue
, i.IsFiltered
, a.IndexColumns
, a.IncludedColumns
FROM #Indexes i
JOIN sys.objects o WITH(NOLOCK) ON o.[object_id] = i.ObjectID
JOIN sys.schemas s WITH(NOLOCK) ON s.[schema_id] = o.[schema_id]
LEFT JOIN #AggColumns a ON a.ObjectID = i.ObjectID AND a.IndexID = i.IndexID
LEFT JOIN #Sparse p ON p.ObjectID = i.ObjectID
LEFT JOIN #Fragmentation f ON f.ObjectID = i.ObjectID AND f.IndexID = i.IndexID AND f.PartitionNumber = i.PartitionNumber
LEFT JOIN (
SELECT ObjectID      = [object_id]
, IndexID       = [index_id]
, TotalWrites   = NULLIF([user_updates], 0)
, TotalReads    = NULLIF([user_seeks] + [user_scans] + [user_lookups], 0)
, TotalSeeks    = NULLIF([user_seeks], 0)
, TotalScans    = NULLIF([user_scans], 0)
, TotalLookups  = NULLIF([user_lookups], 0)
, LastUsage     = (
SELECT MAX(dt)
FROM (
VALUES ([last_user_seek])
, ([last_user_scan])
, ([last_user_lookup])
, ([last_user_update])
) t(dt)
)
FROM sys.dm_db_index_usage_stats WITH(NOLOCK)
WHERE [database_id] = @DBID
) u ON i.ObjectID = u.ObjectID AND i.IndexID = u.IndexID
LEFT JOIN #Lob lob ON lob.ObjectID = i.ObjectID AND lob.IndexID = i.IndexID
LEFT JOIN sys.destination_data_spaces dds WITH(NOLOCK) ON i.DataSpaceID = dds.[partition_scheme_id] AND i.PartitionNumber = dds.[destination_id]
JOIN sys.filegroups fg WITH(NOLOCK) ON ISNULL(dds.[data_space_id], i.DataSpaceID) = fg.[data_space_id] 
WHERE o.[type] IN ('V', 'U')
AND (
f.Fragmentation >= @Fragmentation
OR
i.PagesCount > @PreDescribeSize
OR
i.IndexType IN (5, 6)
)

Jak widać z samych zapytań, tabele tymczasowe są używane dość często. Dzieje się tak, aby nie było żadnych rekompilacji, a w przypadku dużego schematu plan można wygenerować równolegle podczas wstawiania danych, ponieważ wstawianie zmiennych tabeli jest możliwe tylko w jednym wątku.

Po wykonaniu powyższego skryptu pojawi się okno z tabelą indeksów:

Można tu także wyświetlić inne szczegółowe informacje, takie jak:

1. baza danych
2. liczba sekcji
3. data i godzina ostatniego połączenia
4. kompresja
5. grupa plików

itd.
Same głośniki można dostosować:

W komórkach kolumny Napraw możesz wybrać, jaka akcja zostanie wykonana podczas optymalizacji. Ponadto po zakończeniu skanowania wybierana jest domyślna akcja na podstawie wybranych ustawień:

Należy wybrać żądane indeksy do przetworzenia.

Korzystając z menu głównego możesz zapisać skrypt (ten sam przycisk uruchamia sam proces optymalizacji indeksu):

i zapisz tabelę w różnych formatach (ten sam przycisk pozwala otworzyć szczegółowe ustawienia analizy i optymalizacji indeksów):

Możesz także zaktualizować informacje, klikając trzeci przycisk po lewej stronie w menu głównym, obok lupy.

Przycisk z lupą umożliwia wybranie żądanych baz danych do rozpatrzenia.

Obecnie nie ma kompleksowego systemu pomocy. Dlatego naciśnięcie przycisku „?” spowoduje po prostu wyświetlenie okna modalnego zawierającego podstawowe informacje o oprogramowaniu:

Oprócz wszystkiego opisanego powyżej, w menu głównym znajduje się pasek wyszukiwania:

Rozpoczynając proces optymalizacji indeksu:

Możesz także wyświetlić dziennik wykonanych akcji w dolnej części okna:

W oknie szczegółowych ustawień analizy i optymalizacji indeksów możesz skonfigurować bardziej subtelne opcje:

Prośby o aplikację:

1. umożliwiają selektywną aktualizację statystyk nie tylko dla indeksów, ale także na różne sposoby (pełna aktualizacja lub częściowa aktualizacja)
2. umożliwiają wybranie nie tylko bazy danych, ale także różnych serwerów (jest to bardzo wygodne, gdy występuje wiele instancji MS SQL Server)
3. Aby uzyskać większą elastyczność użytkowania, sugeruje się zawijanie poleceń w bibliotekach i wysyłanie ich do poleceń PowerShell, jak to ma miejsce na przykład tutaj:
4. dbatools.io/commands
5. umożliwiają zapisanie i zmianę ustawień osobistych zarówno dla całej aplikacji, jak i w razie potrzeby dla każdej instancji MS SQL Server i każdej bazy danych
6. Z punktów 2 i 4 wynika, że ​​chcesz utworzyć grupy według baz danych i grupy według instancji MS SQL Server, dla których ustawienia są takie same
7. wyszukaj zduplikowane indeksy (pełne i niekompletne, które albo nieznacznie się różnią, albo różnią się tylko zawartymi kolumnami)
8. Ponieważ SQLIndexManager jest używany tylko dla MS SQL Server DBMS, konieczne jest odzwierciedlenie tego w nazwie, na przykład w następujący sposób: SQLIndexManager dla MS SQL Server
9. Przenieś wszystkie części aplikacji inne niż GUI do oddzielnych modułów i napisz je ponownie w .NET Core 2.1

W chwili pisania tego tekstu aktywnie rozwijany jest punkt 6 życzeń i istnieje już wsparcie w postaci wyszukiwania pełnych i podobnych duplikatów:

Źródła informacji

• adaptacyjna metoda optymalizacji indeksu
• Narzędzie SQLIndexManager
• krótki przegląd techniczny narzędzia SQLIndexManager
• dyskusja na temat narzędzia SQLIndexManager
• SQL Index Manager – bezpłatne narzędzie GUI do konserwacji indeksów na SQL Server i Azure
• Analiza i optymalizacja indeksu SQL Server

Źródło: www.habr.com