LINQ увійшов до .NET як нова потужна мова маніпуляції з даними. LINQ to SQL як частина його дозволяє досить зручно спілкуватися з СУБД за допомогою Entity Framework. Однак, досить часто застосовуючи його, розробники забувають дивитися на те, який саме SQL-запит генеруватиме queryable provider, у вашому випадку — Entity Framework.
Розберемо два основні моменти з прикладу.
Для цього в SQL Server створимо базу даних Test, а в ній створимо дві таблиці за допомогою наступного запиту:
Створення таблиць
USE [TEST]
GO
SET ANSI_NULLS ON
GO
SET QUOTED_IDENTIFIER ON
GO
CREATE TABLE [dbo].[Ref](
[ID] [int] NOT NULL,
[ID2] [int] NOT NULL,
[Name] [nvarchar](255) NOT NULL,
[InsertUTCDate] [datetime] NOT NULL,
CONSTRAINT [PK_Ref] PRIMARY KEY CLUSTERED
(
[ID] ASC
)WITH (PAD_INDEX = OFF, STATISTICS_NORECOMPUTE = OFF, IGNORE_DUP_KEY = OFF, ALLOW_ROW_LOCKS = ON, ALLOW_PAGE_LOCKS = ON) ON [PRIMARY]
) ON [PRIMARY]
GO
ALTER TABLE [dbo].[Ref] ADD CONSTRAINT [DF_Ref_InsertUTCDate] DEFAULT (getutcdate()) FOR [InsertUTCDate]
GO
USE [TEST]
GO
SET ANSI_NULLS ON
GO
SET QUOTED_IDENTIFIER ON
GO
CREATE TABLE [dbo].[Customer](
[ID] [int] NOT NULL,
[Name] [nvarchar](255) NOT NULL,
[Ref_ID] [int] NOT NULL,
[InsertUTCDate] [datetime] NOT NULL,
[Ref_ID2] [int] NOT NULL,
CONSTRAINT [PK_Customer] PRIMARY KEY CLUSTERED
(
[ID] ASC
)WITH (PAD_INDEX = OFF, STATISTICS_NORECOMPUTE = OFF, IGNORE_DUP_KEY = OFF, ALLOW_ROW_LOCKS = ON, ALLOW_PAGE_LOCKS = ON) ON [PRIMARY]
) ON [PRIMARY]
GO
ALTER TABLE [dbo].[Customer] ADD CONSTRAINT [DF_Customer_Ref_ID] DEFAULT ((0)) FOR [Ref_ID]
GO
ALTER TABLE [dbo].[Customer] ADD CONSTRAINT [DF_Customer_InsertUTCDate] DEFAULT (getutcdate()) FOR [InsertUTCDate]
GO
Тепер заповнимо таблицю Ref за допомогою запуску наступного скрипту:
Заповнення таблиці Ref
USE [TEST]
GO
DECLARE @ind INT=1;
WHILE(@ind<1200000)
BEGIN
INSERT INTO [dbo].[Ref]
([ID]
,[ID2]
,[Name])
SELECT
@ind
,@ind
,CAST(@ind AS NVARCHAR(255));
SET @ind=@ind+1;
END
GO
Аналогічно заповнимо таблицю Customer за допомогою наступного скрипту:
Заповнення таблиці Customer
USE [TEST]
GO
DECLARE @ind INT=1;
DECLARE @ind_ref INT=1;
WHILE(@ind<=12000000)
BEGIN
IF(@ind%3=0) SET @ind_ref=1;
ELSE IF (@ind%5=0) SET @ind_ref=2;
ELSE IF (@ind%7=0) SET @ind_ref=3;
ELSE IF (@ind%11=0) SET @ind_ref=4;
ELSE IF (@ind%13=0) SET @ind_ref=5;
ELSE IF (@ind%17=0) SET @ind_ref=6;
ELSE IF (@ind%19=0) SET @ind_ref=7;
ELSE IF (@ind%23=0) SET @ind_ref=8;
ELSE IF (@ind%29=0) SET @ind_ref=9;
ELSE IF (@ind%31=0) SET @ind_ref=10;
ELSE IF (@ind%37=0) SET @ind_ref=11;
ELSE SET @ind_ref=@ind%1190000;
INSERT INTO [dbo].[Customer]
([ID]
,[Name]
,[Ref_ID]
,[Ref_ID2])
SELECT
@ind,
CAST(@ind AS NVARCHAR(255)),
@ind_ref,
@ind_ref;
SET @ind=@ind+1;
END
GO
Таким чином ми отримали дві таблиці, в одній з яких більше 1 млн. рядків даних, а в іншій - більше 10 млн. рядків даних.
Тепер у Visual Studio необхідно створити тестовий проект Visual C# Console App (.NET Framework):
Далі необхідно додати бібліотеку для Entity Framework для взаємодії з базою даних.
Щоб її додати, натиснемо на проект правою кнопкою миші та оберемо в контекстному меню Manage NuGet Packages:
Потім у вікні управління NuGet-пакетами у вікні пошуку введемо слово «Entity Framework» і виберемо пакет Entity Framework і встановимо його:
Далі у файлі App.config після закриття елемента configSections необхідно додати наступний блок:
<connectionStrings>
<add name="DBConnection" connectionString="data source=ИМЯ_ЭКЗЕМПЛЯРА_MSSQL;Initial Catalog=TEST;Integrated Security=True;" providerName="System.Data.SqlClient" />
</connectionStrings>
У connectionString потрібно вписати рядок підключення.
Тепер створимо в окремих файлах 3 інтерфейси:
- Реалізація інтерфейсу IBaseEntityID
namespace TestLINQ { public interface IBaseEntityID { int ID { get; set; } } } - Реалізація інтерфейсу IBaseEntityName
namespace TestLINQ { public interface IBaseEntityName { string Name { get; set; } } } - Реалізація інтерфейсу IBaseNameInsertUTCDate
namespace TestLINQ { public interface IBaseNameInsertUTCDate { DateTime InsertUTCDate { get; set; } } }
І в окремому файлі створимо базовий клас BaseEntity для наших двох сутностей, до якого увійдуть спільні поля:
Реалізація базового класу BaseEntity
namespace TestLINQ
{
public class BaseEntity : IBaseEntityID, IBaseEntityName, IBaseNameInsertUTCDate
{
public int ID { get; set; }
public string Name { get; set; }
public DateTime InsertUTCDate { get; set; }
}
}
Далі в окремих файлах створимо наші дві сутності:
- Реалізація класу Ref
using System.ComponentModel.DataAnnotations.Schema; namespace TestLINQ { [Table("Ref")] public class Ref : BaseEntity { public int ID2 { get; set; } } } - Реалізація класу Customer
using System.ComponentModel.DataAnnotations.Schema; namespace TestLINQ { [Table("Customer")] public class Customer: BaseEntity { public int Ref_ID { get; set; } public int Ref_ID2 { get; set; } } }
Тепер створимо в окремому файлі контекст UserContext:
Реалізація класу UserContex
using System.Data.Entity;
namespace TestLINQ
{
public class UserContext : DbContext
{
public UserContext()
: base("DbConnection")
{
Database.SetInitializer<UserContext>(null);
}
public DbSet<Customer> Customer { get; set; }
public DbSet<Ref> Ref { get; set; }
}
}
Отримали готове рішення для проведення тестів оптимізації з LINQ to SQL через EF для MS SQL Server:
Тепер у файл Program.cs введемо наступний код:
Файл Program.cs
using System;
using System.Collections.Generic;
using System.Linq;
namespace TestLINQ
{
class Program
{
static void Main(string[] args)
{
using (UserContext db = new UserContext())
{
var dblog = new List<string>();
db.Database.Log = dblog.Add;
var query = from e1 in db.Customer
from e2 in db.Ref
where (e1.Ref_ID == e2.ID)
&& (e1.Ref_ID2 == e2.ID2)
select new { Data1 = e1.Name, Data2 = e2.Name };
var result = query.Take(1000).ToList();
Console.WriteLine(dblog[1]);
Console.ReadKey();
}
}
}
}
Далі запустимо наш проект.
Наприкінці роботи на консоль буде виведено:
Згенерований SQL-запит
SELECT TOP (1000)
[Extent1].[Ref_ID] AS [Ref_ID],
[Extent1].[Name] AS [Name],
[Extent2].[Name] AS [Name1]
FROM [dbo].[Customer] AS [Extent1]
INNER JOIN [dbo].[Ref] AS [Extent2] ON ([Extent1].[Ref_ID] = [Extent2].[ID]) AND ([Extent1].[Ref_ID2] = [Extent2].[ID2])
Т. е. в цілому дуже непогано LINQ-запит згенерував SQL-запит до СУБД MS SQL Server.
Тепер змінимо умову І на АБО в LINQ-запиті:
LINQ-запит
var query = from e1 in db.Customer
from e2 in db.Ref
where (e1.Ref_ID == e2.ID)
|| (e1.Ref_ID2 == e2.ID2)
select new { Data1 = e1.Name, Data2 = e2.Name };
І знову запустимо наш додаток.
Виконання вилетить з помилкою, пов'язаною з перевищенням часу виконання команди у 30 сек.
Якщо подивитися, який запит при цьому був згенерований LINQ:
, то можна переконатися в тому, що вибірка відбувається через декартове твір двох множин (таблиць):
Згенерований SQL-запит
SELECT TOP (1000)
[Extent1].[Ref_ID] AS [Ref_ID],
[Extent1].[Name] AS [Name],
[Extent2].[Name] AS [Name1]
FROM [dbo].[Customer] AS [Extent1]
CROSS JOIN [dbo].[Ref] AS [Extent2]
WHERE [Extent1].[Ref_ID] = [Extent2].[ID] OR [Extent1].[Ref_ID2] = [Extent2].[ID2]
Давайте перепишемо LINQ-запит так:
Оптимізований LINQ-запит
var query = (from e1 in db.Customer
join e2 in db.Ref
on e1.Ref_ID equals e2.ID
select new { Data1 = e1.Name, Data2 = e2.Name }).Union(
from e1 in db.Customer
join e2 in db.Ref
on e1.Ref_ID2 equals e2.ID2
select new { Data1 = e1.Name, Data2 = e2.Name });
Тоді отримаємо наступний SQL-запит:
SQL-запит
SELECT
[Limit1].[C1] AS [C1],
[Limit1].[C2] AS [C2],
[Limit1].[C3] AS [C3]
FROM ( SELECT DISTINCT TOP (1000)
[UnionAll1].[C1] AS [C1],
[UnionAll1].[Name] AS [C2],
[UnionAll1].[Name1] AS [C3]
FROM (SELECT
1 AS [C1],
[Extent1].[Name] AS [Name],
[Extent2].[Name] AS [Name1]
FROM [dbo].[Customer] AS [Extent1]
INNER JOIN [dbo].[Ref] AS [Extent2] ON [Extent1].[Ref_ID] = [Extent2].[ID]
UNION ALL
SELECT
1 AS [C1],
[Extent3].[Name] AS [Name],
[Extent4].[Name] AS [Name1]
FROM [dbo].[Customer] AS [Extent3]
INNER JOIN [dbo].[Ref] AS [Extent4] ON [Extent3].[Ref_ID2] = [Extent4].[ID2]) AS [UnionAll1]
) AS [Limit1]
На жаль, але в LINQ-запитах умова з'єднання може бути тільки одна, тому тут можна зробити еквівалентний запит через два запити за кожною умовою з наступним об'єднанням їх через Union для видалення дублікатів серед рядків.
Так, запити в загальному випадку вийдуть нееквівалентними з урахуванням того, що можуть бути повернуті повні дублікати рядків. Однак у реальному житті повні дублюючі рядки не потрібні і від них намагаються позбавлятися.
Тепер порівняємо плани виконання цих двох запитів:
- для CROSS JOIN в середньому час виконання 195 сек:
- для INNER JOIN-UNION в середньому час виконання менше 24 сек.
Як видно з результатів, для двох таблиць з мільйонами записів оптимізований LINQ-запит працює в рази швидше, ніж неоптимізований.
Для варіанта з І в умовах LINQ-запит виду:
LINQ-запит
var query = from e1 in db.Customer
from e2 in db.Ref
where (e1.Ref_ID == e2.ID)
&& (e1.Ref_ID2 == e2.ID2)
select new { Data1 = e1.Name, Data2 = e2.Name };
майже завжди буде згенеровано правильний SQL-запит, який виконуватиметься в середньому приблизно 1 сек.
Також для маніпуляцій LINQ to Objects замість запиту:
LINQ-запит (1-й варіант)
var query = from e1 in seq1
from e2 in seq2
where (e1.Key1==e2.Key1)
&& (e1.Key2==e2.Key2)
select new { Data1 = e1.Data, Data2 = e2.Data };
можна використовувати запит виду:
LINQ-запит (2-й варіант)
var query = from e1 in seq1
join e2 in seq2
on new { e1.Key1, e1.Key2 } equals new { e2.Key1, e2.Key2 }
select new { Data1 = e1.Data, Data2 = e2.Data };
де:
Визначення двох масивів
Para[] seq1 = new[] { new Para { Key1 = 1, Key2 = 2, Data = "777" }, new Para { Key1 = 2, Key2 = 3, Data = "888" }, new Para { Key1 = 3, Key2 = 4, Data = "999" } };
Para[] seq2 = new[] { new Para { Key1 = 1, Key2 = 2, Data = "777" }, new Para { Key1 = 2, Key2 = 3, Data = "888" }, new Para { Key1 = 3, Key2 = 5, Data = "999" } };
, а тип Para визначається наступним чином:
Визначення типу Para
class Para
{
public int Key1, Key2;
public string Data;
}
Таким чином ми розглянули деякі аспекти оптимізації LINQ-запитів до MS SQL Server.
На жаль, навіть досвідчені і провідні .NET-розробники забувають про те, що необхідно розуміти, що роблять за кадром ті інструкції, які вони використовують. Інакше вони стають конфігураторами і можуть закласти бомбу уповільненої дії в майбутньому як при масштабуванні програмного рішення, так і за незначних змін зовнішніх умов середовища.
Також невеликий огляд проводився та .
Вихідники для тест-сам проект, створення таблиць у базі даних TEST, а також наповнення даними цих таблиць знаходиться .
Також у цьому репозиторії у папці Plans знаходяться плани виконання запитів із умовами АБО.
Джерело: habr.com