Jam i nderuar që jam këtu, por ju lutem mos më hakoni. Kompjuterët tashmë më urrejnë, ndaj më duhet të miqësohem me sa më shumë njerëz në këtë dhomë. Do të doja të sjell një gjë të vogël nga biografia ime që është interesante për audiencën amerikane. Unë kam lindur dhe jam rritur në jug të thellë të vendit, pikërisht pranë Gjeorgjisë. Kjo është në fakt e vërtetë. Prit një sekondë, të thashë që kompjuterët më urrejnë!
Një rrëshqitje humbi, por ky është me të vërtetë në jug të BRSS, ku unë kam lindur në një republikë që ndodhej afër Republikës së Gjeorgjisë (shënimi i përkthyesit: emri i shtetit të Gjeorgjisë dhe Republikës së Gjeorgjisë tingëllojnë njësoj në anglisht).
Duke folur për atdheun tim, gjëja qesharake është se libri im i fundit, Deep Thinking, u shkrua për inteligjencën artificiale, për përvojat e mia në luftën kundër kompjuterëve, dhe libri i shkruar dy vjet më parë quhej Dimri po vjen. Nuk ishte një përmbledhje e Game of Thrones, ishte për Vladimir Putin dhe luftën për botën e lirë, por kur bëra turneun e librit, të gjithë donin të më pyesnin për shahun dhe kompjuterin IBM Deep Blue. Tani, kur prezantoj librin “Deep Thinking”, të gjithë duan të më pyesin për Putinin. Por unë po përpiqem të qëndroj në temë dhe jam i sigurt se do të ketë disa pyetje pas këtij prezantimi, të cilave do të jem i lumtur t'u përgjigjem. Unë nuk jam politikan, ndaj nuk turpërohem t'u përgjigjem pyetjeve.
Mund të duket e çuditshme që loja e shahut, e cila filloi mijëra vjet më parë, një Zot e di kur, është një analogji e përsosur për inteligjencën artificiale, sepse kur flasim për AI, duhet të kujtojmë se shkronja I qëndron për inteligjencën, dhe ka asgjë që tregon se është më mirë se shahu.
Shumë njerëz besojnë se shahu nuk është gjë tjetër veçse një argëtim me të cilin njerëzit kënaqen në kafene. Nëse shikoni krijimet e Hollivudit, të gjithë luajnë shah - alienët, X-men, magjistarët, vampirët. Filmi im i preferuar, "Casablanca" me Humphrey Bogart, ka të bëjë gjithashtu me shahun dhe kur e shikoj këtë film, gjithmonë dua të qëndroj në një pozicion për të parë brenda ekranit dhe për të parë tabelën e Bogartit. Ai luan mbrojtjen franceze, e cila ishte shumë e njohur në fillim të viteve 40. Unë mendoj se Bogart ishte një shahist mjaft i mirë.
Dua të përmend se Alfred Binet, një nga bashkë-shpikësit e testit të IQ-së në fund të shekullit të 19-të, e admironte inteligjencën e shahistëve dhe e studioi atë për shumë vite. Prandaj, nuk është për t'u habitur që loja e shahut tërhoqi ata që donin të krijonin makina inteligjente. Megjithatë, shpesh ndodh që makinat inteligjente si "Turku" i von Kempelen janë thjesht një mashtrim i madh. Por në fund të shekullit të 18-të, kjo makinë shahu ishte një mrekulli e madhe, ajo bëri xhiron e Evropës dhe Amerikës dhe luftoi me lojtarë të fortë dhe të dobët si Franklin dhe Napoleonin, por sigurisht që e gjitha ishte një mashtrim. "Turk" nuk ishte një makinë e vërtetë, ishte një sistem mekanik origjinal i paneleve dhe pasqyrave rrëshqitëse, brenda të cilit fshihej një lojtar i fortë - një burrë.
Gjëja interesante është se njëqind apo dyqind vjet më vonë, gjatë njëzet viteve të fundit, është vërejtur situata e kundërt - ne shohim në turne që lojtarët njerëz po përpiqen të fshehin pajisjet kompjuterike në xhepat e tyre. Pra, tani duhet të kërkojmë një kompjuter të fshehur në trupin e njeriut.
Megjithatë, historitë që përfshijnë pajisje mekanike janë relativisht të panjohura. Pajisja e parë mekanike për të luajtur shah u shfaq në vitin 1912, ajo luajti duke përdorur një pjesë mekanike, mund ta kthente mat në një gur, por nuk mund të quhej prototip i kompjuterit të parë.
Është interesante se pionierët e dizajnit kompjuterik si Alan Turing dhe Claude Shannon kishin një interes të madh për shahun. Ata besonin se të luash shah mund të zbulonte sekretet e inteligjencës artificiale. Dhe nëse një ditë një kompjuter mund një shahist të zakonshëm ose një kampion bote shahu, kjo do të jetë një manifestim i evolucionit të AI.
Nëse ju kujtohet, Alan Turing krijoi programin e parë kompjuterik për të luajtur shah në vitin 1952, dhe kjo ishte një arritje e madhe, por edhe më domethënës ishte fakti që atëherë nuk kishte kompjuterë. Ishte thjesht një algoritëm që ai përdorte për të luajtur shah dhe vepronte si një procesor kompjuteri njerëzor. Është e rëndësishme të kujtojmë se baballarët themelues të kompjuterëve përcaktuan rrugën përgjatë së cilës do të zhvillohej AI, duke ndjekur proceset e mendimit njerëzor. Mënyra e kundërt është ajo që ne e quajmë një sulm me forcë brutale, ose një kërkim i shpejtë i lëvizjeve të mundshme.
Unë nuk kisha dëgjuar asgjë për konkurrimin kundër kompjuterëve në 1985, por në këtë foto mund të shihni 32 dërrasa, dhe megjithëse po luaja kundër njerëzve, në fakt ishte një lojë e vërtetë kundër kompjuterëve. Në atë kohë kishte 4 prodhues kryesorë të kompjuterëve të shahut, të cilët sapo i prezantuan ato në botë. Ndoshta disa prej jush kanë ende kompjuterë të tillë; tani ata janë të rrallë të vërtetë. Secili prodhues kishte 8 module kompjuteri, kështu që në realitet luaja me 32 kundërshtarë dhe fitova të gjitha lojërat.
Gjëja shumë e rëndësishme është se kjo nuk ishte një surprizë, por një rezultat i natyrshëm dhe sa herë që shikoj këtë foto të fitores sime, këtë herë e kujtoj si epokën e artë të makinave të shahut, kur ato ishin të dobëta dhe flokët e mi të trashë. .
Pra, ishte qershor 1985, dhe 12 vjet më vonë unë kisha luajtur vetëm kundër një kompjuteri. Në vitin 1997 pati një revansh, sepse unë fitova ndeshjen e parë, e cila u zhvillua në vitin 1996 në Filadelfia. E humba këtë revansh, por të them të drejtën, pikë kthese në shahun kompjuterik nuk ndodhi në vitin 1997, por në vitin 1996, kur fitova ndeshjen, por humba ndeshjen e parë. Pastaj fitova 3 ndeshje dhe rezultati u bë 4:2 në favorin tim.
Në fakt, fakti i rëndësishëm këtu është se kompjuteri në atë kohë ishte i aftë të bëhej kampion botëror në shah nëse luante në një turne të rregullt shahu. Nuk prisja nga IBM që brenda një viti të mund të bënin një punë kaq serioze teknike për të forcuar kompjuterin e tyre. Por gabimi im më i madh, me përjashtim të rritjes së mprehtë të çmimit të aksioneve të IBM, i cili u hodh nga disa pikë në një miliardë dollarë dy javë pas ndeshjes, ishte pamundësia për të lexuar shkronjat e imta. Sepse një nga problemet që kisha në 2 me kompjuterin Deep Blue ishte se ai ishte një kuti e zezë për mua. Nuk dija asgjë për kundërshtarin tim, si mendon, çfarë taktika përdor. Zakonisht, kur përgatitesh për një lojë, studion kundërshtarin, pavarësisht nëse është ndeshje shahu apo futbolli, dhe duke vëzhguar mënyrën e lojës, studion strategjinë e tij. Por nuk kishte asnjë informacion në lidhje me "stilin e lojës" të Deep Blue.
U përpoqa të tregohesha i zgjuar dhe deklarova se për ndeshjen e radhës duhet të kem akses në lojërat që luan Deep Blue. Ata u përgjigjën: “Sigurisht!”, por shtuan me shkronja të vogla:
"...vetëm gjatë garave zyrtare."
Dhe kjo pavarësisht se Deep Blue nuk ka luajtur asnjë lojë jashtë mureve të laboratorit. Kështu që në 1997 luajta kundër kutisë së zezë dhe gjithçka doli e kundërta e asaj që ndodhi në 1996 - fitova ndeshjen e parë, por humba ndeshjen.
Meqë ra fjala, ku ishit hakerat 20 vjet më parë kur unë kisha kaq shumë nevojë për ta? E vërtetë, kur e drejtoj shikimin përgjatë rreshtave të të pranishmëve, e kuptoj që shumë prej jush ndoshta nuk kanë lindur ende.
Gabimi im më i madh ishte trajtimi i ndeshjes Deep Blue si një eksperiment i madh shkencor dhe social. Mendova se ai do të ishte i mrekullueshëm, sepse ai do të gjente në të vërtetë atë zonë ku intuita njerëzore mund të krahasohej me "forcën brutale" të llogaritjeve kompjuterike. Megjithatë, Deep Blue, me shpejtësinë e saj fenomenale llogaritëse prej rreth 2 milionë pozicionesh shahu në sekondë, e cila nuk ishte aspak e keqe për vitin 1997, ishte gjithçka tjetër veçse inteligjencë artificiale. Performanca e tij nuk dha asnjë kontribut në zhbllokimin e misterit të inteligjencës njerëzore.
Nuk ishte më inteligjente se një orë me zile e zakonshme, por nuk ndihem më mirë nëse humbas me një orë alarmi prej 10 milionë dollarësh.
Mbaj mend konferencën për shtyp gjatë ceremonisë së hapjes së ndeshjes kur njeriu që drejtonte projektin IBM tha se kjo do të shënonte fundin e eksperimentimit shkencor dhe fitoren e shkencës. Meqenëse kishim një fitore dhe një humbje, doja të luaja një ndeshje të tretë për të gjetur se kush ishte më i fortë, por ata e çmontuan kompjuterin, me sa duket për të hequr të vetmin dëshmitar të paanshëm. U përpoqa të zbuloja se çfarë ndodhi me Deep Blue, por nuk munda ta zbuloja. Më vonë mësova se ai kishte nisur një karrierë të re dhe tani po bënte sushi në një nga terminalet e aeroportit Kennedy.
Më pëlqen sushi, por nuk kam nevojë për kompjuter atje. Pra, këtu përfundoi mjaft shpejt historia ime me shahun kompjuterik. Por ata prej jush që luajnë edhe shah ose lojëra të tjera e dinë se sa të cenueshëm jemi në krahasim me kompjuterët, sepse nuk jemi aq të qëndrueshëm, të paanshëm dhe bëjmë gabime. Edhe lojtarët e nivelit më të lartë bëjnë gabime, për shembull gjatë një ndeshjeje kampionati ku ka 50 ose 45 lëvizje, të paktën një gabim i vogël është i pashmangshëm. Nëse ka njerëz të vërtetë që luajnë, nuk ka shumë rëndësi, por nëse bëni një gabim kur luani me një makinë, atëherë mund të mos humbni, por nuk do të fitoni as, sepse makina do të jetë në gjendje të shmangë humbjen.
Në një moment kuptova se ishte thjesht çështje kohe, sepse nuk mund të arrijmë të njëjtin nivel vigjilence dhe saktësie që është e nevojshme për të mposhtur një kompjuter, sepse makina është jashtëzakonisht e qëndrueshme në veprimet e saj. Vite më vonë, ne ishim dëshmitarë të makinave që fitonin ndeshje gjatë gjithë kohës. E përsëris edhe një herë - e gjithë kjo vlen vetëm për lojën e shahut, e cila është shumë e ndjeshme ndaj metodës së lojës me forcë brutale, kur kompjuteri me shpejtësi të madhe kalon nëpër shumë opsione për lëvizje dhe zgjedh atë më optimalin. Nuk është inteligjencë artificiale, kështu që njerëzit bëjnë një gabim kur thonë se një shahist njerëzor u mund nga inteligjenca artificiale.
Më vonë luajta disa ndeshje të tjera kundër kompjuterëve. Një herë i analizova këto lojëra duke përdorur motorë shahu modernë dhe ishte një përvojë mjaft e dhimbshme. Ishte një udhëtim pas në kohë dhe u detyrova të pranoj se sa keq performova në ato ndeshje sepse fajësoja vetëm veten time. Sidoqoftë, në atë kohë "demoni" i kompjuterit nuk ishte aq i fortë, nuk mund ta besoni, por aplikacioni falas i shahut në pajisjen tuaj celulare është sot më i fortë se Deep Blue. Sigurisht, nëse keni një motor shahu si asmFish ose Comodo dhe laptopin më të fundit, ky sistem do të jetë edhe më i fuqishëm.
Kur luaja kundër Deep Blue, mendoj se ishte loja 5, kompjuteri bëri një kontroll të përhershëm në fund të lojës dhe të gjithë filluan të thoshin se kjo ishte një fitore e madhe dhe se kompjuteri tregoi një cilësi fenomenale të lojës. Por sot, me një kompjuter modern, duket thjesht qesharake. E gjithë ndeshja jonë mund të luhet në 30 sekonda, maksimumi një minutë në varësi të performancës së laptopit tuaj. Në fillim bëra një gabim, më pas u përpoqa të ruaj lojën, Deep Blue bëri disa kundër lëvizje dhe fitoi. Këto janë rregullat e lojës dhe nuk ka asgjë të keqe me këtë.
Në vitin 2003 luajta edhe 2 ndeshje të tjera kundër kompjuterit X3D Frintz, të dyja përfunduan në barazim. Organizatorët më bënë të mbaj syze 3-D sepse kompjuteri kishte një ndërfaqe 3-dimensionale.
Por sido që të jetë, historia kishte përfunduar dhe unë po mendoja për të ardhmen. Shikoni këtë foto, e cila është bërë në fillim të këtij shekulli.
Nëse shikoni këta fëmijë, mund të shihni se ata po luajnë në kompjuterë të rrallë. Sot fëmijët e mi as nuk do ta kuptojnë se çfarë është. Këtu shfaqen disa tastiera komplekse, por tani ato thjesht rrëshqisin gishtat në ekranin me prekje.
Ajo që ka rëndësi është që makinat më inteligjente i bëjnë detyrat tona shumë më të lehta. Ndoshta e kam gabim ta them këtë sepse ti e di këtë më mirë se kushdo tjetër. Kështu, me ndihmën e Peppa Pig dhe sfidat teknike, hapet rruga për krijimtarinë e vërtetë.
Mendova se si mund të kombinosh fuqinë e një kompjuteri dhe një personi? Mund të marrim shahun si shembull, sepse në shah ka një zgjidhje. Ju e dini shumë mirë se në cilat fusha një kompjuter është i fortë dhe në cilat është inferior ndaj një personi. Dhe pastaj më erdhi në mendje një koncept, të cilin e quajta "shah i avancuar".
Duke ndjekur fjalën e urtë ruse: "nëse nuk mund të fitosh, bashkohu!", Unë e quajta shah të avancuar një lojë ku një person me një kompjuter lufton kundër një personi tjetër me një kompjuter.
Në vitin 1998 kam luajtur me një pjesëtar të elitës së shahut nga Bullgaria dhe interesante është se të dy nuk luajtëm mirë sepse nuk mund të maksimizonim efektin e punës së bashku me kompjuterin. Pyesja veten pse dy lojtarë të mëdhenj nuk mund të përfitonin nga bashkëpunimet e AI. Përgjigja erdhi më vonë me prezantimin e të ashtuquajturit stil i lirë me një numër të kufizuar kërkesash nga kompjuteri. Mund të luani duke u lidhur me një superkompjuter nëpërmjet internetit, ose mund të përdorni kompjuterin tuaj ose shumë kompjuterë. Dua të vërej se një çift njeri-kompjuter gjithmonë do të tejkalojë çdo superkompjuter. Arsyeja është shumë e thjeshtë - kompjuteri kompenson mungesën e mendjes sonë dhe ne jemi në një pozicion të mirë për të kaluar te kompjuteri sepse eliminon cenueshmërinë e një kompjuteri tjetër duke përfituar nga dobësia jonë njerëzore.
Por nuk ka asgjë të bujshme në këtë. Ndjesia ishte se fituesit e garës nuk ishin lojtarë të klasit të lartë, por shahistë relativisht të dobët me kompjuterë të zakonshëm, por që arritën të krijonin një proces të përmirësuar ndërveprimi. Kjo është e vështirë të artikulohet sepse tingëllon paradoksale: një lojtar i dobët plus një kompjuter normal plus një proces i përmirësuar tejkalon një lojtar të fortë me një kompjuter të fuqishëm, por një proces i dobët ndërveprimi. Ndërfaqja është gjithçka!
Gjëja interesante është se nuk ju nevojitet fare një lojtar i fortë, nuk keni nevojë për Garry Kasparov, në mënyrë që të jeni në anën e makinës për të gjetur lëvizjen më të mirë, dhe kjo ka një përgjigje të thjeshtë. Nëse sot marrim parasysh pikat e forta relative të njerëzve dhe kompjuterëve, mund të shkojmë përtej shahut, por le të fillojmë me to, sepse shahu ka numra. Pra, vlerësimi im i shahut të të gjitha kohërave ishte 2851 derisa humba nga Magnus Carlsen, dhe në fund të karrierës sime shahu ishte 2812. Sot Magnus Carlsen kryeson renditjen me mbi 2800 pikë. Përafërsisht 50 lojtarë kanë vlerësime midis 2700 dhe 2800 pikë. Kjo është elita e botës së shahut. Këto ditë, fuqia e një kompjuteri është brenda 3200 pikëve dhe me softuer të specializuar vlerësimi i tij mund të arrijë në 3300-3400 pikë.
Tani e kuptoni pse nuk keni nevojë për një lojtar të fortë? Sepse një lojtar i nivelit tim do të përpiqet ta shtyjë kompjuterin të veprojë në një drejtim ose në një tjetër, në vend që të jetë një operator i thjeshtë me të. Prandaj, një shahist më i dobët, i cili nuk ka një "arrogancë" dhe një mendjemadhësi të tillë si kampioni botëror i shahut, do të ndërveprojë me kompjuterin në mënyrë shumë më efektive dhe do të formojë një kombinim më produktiv "njeri-kompjuter".
Mendoj se ky është një zbulim shumë i rëndësishëm jo vetëm për shahun, por edhe, për shembull, për mjekësinë. Siç dihet, kompjuterët në shumë raste janë në gjendje të bëjnë një diagnozë më të saktë se mjekët më të mirë. Pra, çfarë do të dëshironit më shumë: një mjek i mirë i përfaqësuar nga një kompjuter ose një infermiere e mirë që thjesht do të ndjekë udhëzimet dhe do të shkruajë një manual të vogël bazuar në rekomandimet e makinës?
Nuk i di shifrat e sakta, le të themi se 60-65% e njerëzve do të zgjedhin doktorin dhe 85% do të shkojnë për kompjuter, por psikologjikisht, nëse je një mjek i mirë, nuk do ta pranosh dot këtë. Nëse shikoni përparimin e sotëm teknologjik, mund të themi se kompjuterët bëjnë një diagnozë të vërtetë në 80 - 85 - 90% të rasteve, por 10% mbeten ende për njerëzit! Dhe kjo mund të bëjë një ndryshim të madh, sepse kur një plumb devijohet vetëm me 1 shkallë kur gjuhet, ai mund të fluturojë disa qindra metra larg objektivit. Pyetja ka të bëjë nëse ne mund të kanalizojmë fuqinë e plotë të llogaritjes.
Prandaj, unë ende besoj se të gjitha frika se makinat së shpejti do të na zëvendësojnë të gjithëve dhe ky do të jetë fundi i botës, Harmagedon, janë vetëm thashetheme. Sepse, siç thashë, kjo ka të bëjë me kreativitetin njerëzor, dhe gjëja unike e inteligjencës kompjuterike është se ajo thjesht rrit kreativitetin tonë, e çliron atë dhe na tregon se si ta përdorim atë në mënyrën më të mirë të mundshme.
Ndonjëherë, për të gjetur përgjigjen e një pyetjeje, ia vlen të largohesh nga bota e shkencës dhe të thellohesh në botën e artit. Dikur gjeta një paradoks të madh të thënë nga artisti i madh Pablo Picasso: “Kompjuterët janë të padobishëm. E vetmja gjë që mund të bëjnë është të japin përgjigje.” Unë mendoj se ka një mençuri të madhe në këtë dhe këto fjalë tingëllojnë inkurajuese, sepse makinat japin përgjigje, dhe këto përgjigje janë gjithëpërfshirëse!
Megjithatë, Picasso nuk ishte i kënaqur me përgjigjet gjithëpërfshirëse, sepse ai ishte një artist. Kjo është për shkak të rimendimit të vazhdueshëm të artit, kjo është pikërisht ajo që ne vazhdimisht bëjmë - bëjmë pyetje. A mund të bëjnë kompjuterët pyetje?
Një herë vizitova fondin mbrojtës Bridgewater Associates për të biseduar me Dave Ferrucci, një nga zhvilluesit e superkompjuterit Watson të IBM. Ne po flisnim nëse makinat mund të bënin pyetje dhe Dave tha: "Po, kompjuterët mund të bëjnë pyetje, por ata nuk e dinë se cilat pyetje kanë vërtet rëndësi." Kjo është pika. Pra, ne jemi ende në lojë dhe kemi një shans për të ecur përpara sepse loja mes njeriut dhe kompjuterit nuk ka përfunduar ende.
Në këtë sllajd shihni disa fotografi të zonave të mundshme të përdorimit të kompjuterëve autonome, makinerive që mund të programojnë vetë, domethënë kanë aftësinë për të mësuar.
Një nga fotografitë tregon Demis Hassabis me rrjetin e tij nervor AlphaGo vetë-mësues. Në fakt, kjo është ndoshta makina e parë që mund të quhet një prototip i inteligjencës artificiale.
Siç e thashë tashmë, Deep Blue është një tejkalim i forcës brutale, Watson është ndoshta një lidhje kalimtare, por jo ende AI. AlphaGo është një program mësimi i thellë që përmirësohet duke gjetur modele përkatëse duke luajtur miliona e miliona lojëra.
Mund të them se me AlphaGo kemi të bëjmë me një kuti të zezë të vërtetë për herë të parë. Sepse, për shembull, nëse kalojmë njëqind vjet duke studiuar mijëra milje të regjistrave të lojërave të Deep Blue, përfundimisht do të arrijmë te ideja origjinale se pse u mor një vendim i veçantë dhe u bë një lëvizje e veçantë. Sa për AlphaGo, jam i sigurt se as vetë Demis Hassabis nuk do të jetë në gjendje të thotë pse versioni 6 është më i mirë se versioni 9, ose anasjelltas, duke pasur parasysh vendimin e marrë nga kjo makinë.
Nga njëra anë, kjo është një arritje e madhe, por nga ana tjetër, mund të jetë një problem sepse nëse makina bën një gabim, ju nuk do të jeni në gjendje të dini për të. Sidoqoftë, në çdo rast, kjo është një lëvizje drejt krijimit të AI të vërtetë.
Një herë fola në selinë e Google dhe ata më bënë një turne në Google X. Kjo ishte shumë interesante sepse kjo kompani po ecën me besim në drejtimin e krijimit të AI, duke zgjidhur problemet e krijimit të një makine vetëdrejtuese ose dronëve autonome që ofrojnë në mënyrë të pavarur mallrave. Megjithatë, jo më pak problem sesa mbështetja teknike e AI është problemi i rregullimit të aktiviteteve të saj. Njerëzit po flasin se si AI mund t'i zëvendësojë plotësisht dhe t'i largojë ata nga puna. Megjithatë, le të thërrasim historinë e qytetërimit njerëzor për ndihmë - kjo ka ndodhur për qindra e mijëra vjet!
24:35 min
Faleminderit që qëndruat me ne. A ju pëlqejnë artikujt tanë? Dëshironi të shihni përmbajtje më interesante? Na mbështesni duke bërë një porosi ose duke rekomanduar miqve, 30% zbritje për përdoruesit e Habr në një analog unik të serverëve të nivelit të hyrjes, i cili u shpik nga ne për ju: (e disponueshme me RAID1 dhe RAID10, deri në 24 bërthama dhe deri në 40 GB DDR4).
Dell R730xd 2 herë më lirë? Vetëm këtu në Holandë! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - nga 99 dollarë! Lexoni rreth
Burimi: www.habr.com