நரம்பியல் வலையமைப்புகள். இதெல்லாம் எங்கே போகிறது?

கட்டுரை இரண்டு பகுதிகளைக் கொண்டுள்ளது:

  1. படங்களில் பொருள் கண்டறிதலுக்கான சில நெட்வொர்க் கட்டமைப்புகளின் சுருக்கமான விளக்கம் மற்றும் எனக்கு மிகவும் புரிந்துகொள்ளக்கூடிய ஆதாரங்களுக்கான இணைப்புகளுடன் படப் பிரிப்பு. நான் வீடியோ விளக்கங்கள் மற்றும் முன்னுரிமை ரஷ்ய மொழியில் தேர்வு செய்ய முயற்சித்தேன்.
  2. இரண்டாவது பகுதி நரம்பியல் நெட்வொர்க் கட்டமைப்புகளின் வளர்ச்சியின் திசையைப் புரிந்துகொள்ளும் முயற்சியாகும். மற்றும் அவற்றின் அடிப்படையிலான தொழில்நுட்பங்கள்.

நரம்பியல் வலையமைப்புகள். இதெல்லாம் எங்கே போகிறது?

படம் 1 - நரம்பியல் நெட்வொர்க் கட்டமைப்பைப் புரிந்துகொள்வது எளிதானது அல்ல

ஆண்ட்ராய்டு ஃபோனில் பொருள் வகைப்பாடு மற்றும் கண்டறிதலுக்கான இரண்டு டெமோ பயன்பாடுகளை உருவாக்குவதன் மூலம் இது தொடங்கியது:

  • பின்-இறுதி டெமோ, சர்வரில் தரவு செயலாக்கப்பட்டு தொலைபேசிக்கு அனுப்பப்படும் போது. மூன்று வகையான கரடிகளின் பட வகைப்பாடு: பழுப்பு, கருப்பு மற்றும் டெட்டி.
  • முன் இறுதியில் டெமோதொலைபேசியிலேயே தரவு செயலாக்கப்படும் போது. மூன்று வகையான பொருள்களைக் கண்டறிதல் (பொருள் கண்டறிதல்): ஹேசல்நட்ஸ், அத்திப்பழம் மற்றும் தேதிகள்.

பட வகைப்பாடு, ஒரு படத்தில் பொருள் கண்டறிதல் மற்றும் பணிகளுக்கு இடையே வேறுபாடு உள்ளது படப் பிரிவு. எனவே, எந்த நரம்பியல் நெட்வொர்க் கட்டமைப்புகள் படங்களில் உள்ள பொருட்களைக் கண்டறிகின்றன மற்றும் எந்தெந்தவற்றைப் பிரிக்கலாம் என்பதைக் கண்டறிய வேண்டிய அவசியம் இருந்தது. எனக்கான ஆதாரங்களுக்கான மிகவும் புரிந்துகொள்ளக்கூடிய இணைப்புகளைக் கொண்ட கட்டிடக்கலைகளின் பின்வரும் எடுத்துக்காட்டுகளைக் கண்டேன்:

  • ஆர்-சிஎன்என் அடிப்படையிலான தொடர் கட்டமைப்புகள் (Rஉடன் பிராந்தியங்கள் Convolution Nயூரல் Networks அம்சங்கள்): R-CNN, Fast R-CNN, வேகமான ஆர்-சிஎன்என், முகமூடி R-CNN. ஒரு படத்தில் உள்ள ஒரு பொருளைக் கண்டறிய, பிராந்திய முன்மொழிவு நெட்வொர்க் (RPN) பொறிமுறையைப் பயன்படுத்தி எல்லைப் பெட்டிகள் ஒதுக்கப்படுகின்றன. ஆரம்பத்தில், RPNக்குப் பதிலாக மெதுவான தேர்ந்தெடுக்கப்பட்ட தேடல் பொறிமுறை பயன்படுத்தப்பட்டது. தேர்ந்தெடுக்கப்பட்ட வரையறுக்கப்பட்ட பகுதிகள் வகைப்படுத்தலுக்கான வழக்கமான நரம்பியல் நெட்வொர்க்கின் உள்ளீட்டிற்கு வழங்கப்படுகின்றன. R-CNN கட்டிடக்கலையானது வரையறுக்கப்பட்ட பிராந்தியங்களில் வெளிப்படையான "அதற்கான" சுழல்களைக் கொண்டுள்ளது, அலெக்ஸ்நெட் இன்டர்னல் நெட்வொர்க் மூலம் மொத்தம் 2000 ரன்கள் வரை. வெளிப்படையான "For" சுழல்கள் பட செயலாக்க வேகத்தை குறைக்கின்றன. உட்புற நரம்பியல் வலையமைப்பின் மூலம் இயங்கும் வெளிப்படையான சுழல்களின் எண்ணிக்கை ஒவ்வொரு புதிய கட்டிடக்கலை பதிப்பிலும் குறைகிறது, மேலும் வேகத்தை அதிகரிக்கவும், பொருள் கண்டறிதல் பணியை மாஸ்க் R-CNN இல் பொருள் பிரிப்புடன் மாற்றவும் டஜன் கணக்கான பிற மாற்றங்கள் செய்யப்படுகின்றன.
  • YOLO (You Only Lஓஓகே Once) என்பது மொபைல் சாதனங்களில் பொருட்களை உண்மையான நேரத்தில் அங்கீகரித்த முதல் நரம்பியல் நெட்வொர்க் ஆகும். தனித்துவமான அம்சம்: ஒரே ஓட்டத்தில் பொருட்களை வேறுபடுத்துதல் (ஒரு முறை பாருங்கள்). அதாவது, YOLO கட்டமைப்பில் வெளிப்படையான "இதற்காக" சுழல்கள் எதுவும் இல்லை, அதனால்தான் நெட்வொர்க் விரைவாக வேலை செய்கிறது. எடுத்துக்காட்டாக, இந்த ஒப்புமை: NumPy இல், மெட்ரிக்குகளுடன் செயல்பாடுகளைச் செய்யும்போது, ​​வெளிப்படையான "for" லூப்கள் எதுவும் இல்லை, NumPy இல் சி நிரலாக்க மொழி மூலம் கட்டமைப்பின் கீழ் மட்டங்களில் செயல்படுத்தப்படுகிறது. YOLO முன் வரையறுக்கப்பட்ட சாளரங்களின் கட்டத்தைப் பயன்படுத்துகிறது. ஒரே பொருளை பலமுறை வரையறுப்பதைத் தடுக்க, சாளர மேலடுக்கு குணகம் (IoU) பயன்படுத்தப்படுகிறது. Iகுறுக்குவெட்டு oபதி Uநயன்). இந்த கட்டிடக்கலை பரந்த அளவில் செயல்படுகிறது மற்றும் உயர்ந்தது தன்முனைப்பு: ஒரு மாதிரி புகைப்படங்கள் மீது பயிற்சி பெற்றாலும் கையால் வரையப்பட்ட ஓவியங்களில் சிறப்பாக செயல்பட முடியும்.
  • எஸ்எஸ்டி (Sஇடுப்பு Sசூடான மல்டிபாக்ஸ் Detector) - YOLO கட்டமைப்பின் மிகவும் வெற்றிகரமான "ஹேக்குகள்" பயன்படுத்தப்படுகின்றன (உதாரணமாக, அதிகபட்சம் அல்லாத அடக்குதல்) மற்றும் நரம்பியல் நெட்வொர்க் வேகமாகவும் துல்லியமாகவும் செயல்பட புதியவை சேர்க்கப்படுகின்றன. தனித்துவமான அம்சம்: பட பிரமிடில் கொடுக்கப்பட்ட சாளரங்களின் கட்டத்தைப் (இயல்புநிலை பெட்டி) பயன்படுத்தி ஒரே ஓட்டத்தில் பொருட்களை வேறுபடுத்துதல். படப் பிரமிடு கன்வல்யூஷன் டென்சர்களில் குறியாக்கம் செய்யப்படுகிறது (அதிகபட்ச-பூலிங் செயல்பாட்டின் மூலம், இடஞ்சார்ந்த பரிமாணம் குறைகிறது). இந்த வழியில், பெரிய மற்றும் சிறிய பொருள்கள் இரண்டும் ஒரு பிணைய இயக்கத்தில் தீர்மானிக்கப்படுகின்றன.
  • MobileSSD (மொபைல்NetV2+ எஸ்எஸ்டி) என்பது இரண்டு நரம்பியல் நெட்வொர்க் கட்டமைப்புகளின் கலவையாகும். முதல் நெட்வொர்க் MobileNetV2 விரைவாக வேலை செய்கிறது மற்றும் அங்கீகாரத்தின் துல்லியத்தை அதிகரிக்கிறது. முதலில் பயன்படுத்தப்பட்ட VGG-2க்கு பதிலாக MobileNetV16 பயன்படுத்தப்பட்டது அசல் கட்டுரை. இரண்டாவது SSD நெட்வொர்க் படத்தில் உள்ள பொருட்களின் இருப்பிடத்தை தீர்மானிக்கிறது.
  • SqueezeNet - மிகச் சிறிய ஆனால் துல்லியமான நரம்பியல் நெட்வொர்க். தானாகவே, அது பொருள் கண்டறிதல் சிக்கலை தீர்க்காது. இருப்பினும், இது பல்வேறு கட்டமைப்புகளின் கலவையில் பயன்படுத்தப்படலாம். மற்றும் மொபைல் சாதனங்களில் பயன்படுத்தப்படுகிறது. தனித்துவமான அம்சம் என்னவென்றால், தரவு முதலில் நான்கு 1×1 கன்வல்யூஷனல் ஃபில்டர்களாக சுருக்கப்பட்டு, நான்கு 1×1 மற்றும் நான்கு 3×3 கன்வல்யூஷனல் ஃபில்டர்களாக விரிவடைகிறது. தரவு சுருக்க-விரிவாக்கத்தின் அத்தகைய மறு செய்கை "தீ மாட்யூல்" என்று அழைக்கப்படுகிறது.
  • டீப் லேப் (ஆழமான கன்வல்யூஷனல் வலைகளுடன் சொற்பொருள் படப் பிரிவு) - படத்தில் உள்ள பொருட்களின் பிரிவு. கட்டிடக்கலையின் ஒரு தனித்துவமான அம்சம் விரிந்த வளைவு ஆகும், இது இடஞ்சார்ந்த தீர்மானத்தை பாதுகாக்கிறது. இதைத் தொடர்ந்து, வரைகலை நிகழ்தகவு மாதிரியைப் பயன்படுத்தி முடிவுகளின் பிந்தைய செயலாக்க நிலை (நிபந்தனை சீரற்ற புலம்), இது பிரிவில் உள்ள சிறிய சத்தத்தை அகற்றவும், பிரிக்கப்பட்ட படத்தின் தரத்தை மேம்படுத்தவும் உங்களை அனுமதிக்கிறது. "வரைகலை நிகழ்தகவு மாதிரி" என்ற வலிமையான பெயருக்குப் பின்னால் ஒரு வழக்கமான காஸியன் வடிகட்டி மறைக்கிறது, இது தோராயமாக ஐந்து புள்ளிகளால் கணக்கிடப்படுகிறது.
  • சாதனத்தை கண்டுபிடிக்க முயற்சித்தார் RefineDet (ஒரே முறை துல்லியப்படுத்தல்பொருளுக்கான நரம்பியல் நெட்வொர்க் டிடெக்டிக்ection), ஆனால் எனக்கு அதிகம் புரியவில்லை.
  • "கவனம்" தொழில்நுட்பம் எவ்வாறு செயல்படுகிறது என்பதையும் நான் பார்த்தேன்: வீடியோ1, வீடியோ2, வீடியோ3. "கவனம்" கட்டமைப்பின் ஒரு தனித்துவமான அம்சம், படத்தில் அதிக கவனம் செலுத்தும் பகுதிகளின் தானியங்கி தேர்வு ஆகும் (RoI, Rபடையணிகள் of Iஆர்வம்) கவனம் அலகு எனப்படும் நரம்பியல் நெட்வொர்க்கைப் பயன்படுத்துகிறது. அதிக கவனம் செலுத்தும் பகுதிகள் எல்லைப் பெட்டிகளைப் போலவே இருக்கும், ஆனால் அவற்றைப் போலல்லாமல், அவை படத்தில் சரி செய்யப்படவில்லை மற்றும் மங்கலான எல்லைகளைக் கொண்டிருக்கலாம். பின்னர், அதிக கவனம் செலுத்தும் பகுதிகளிலிருந்து, அறிகுறிகள் (அம்சங்கள்) தனிமைப்படுத்தப்படுகின்றன, அவை கட்டமைப்புகளுடன் மீண்டும் மீண்டும் வரும் நரம்பியல் நெட்வொர்க்குகளுக்கு "ஊட்டப்படுகின்றன" LSDM, GRU அல்லது வெண்ணிலா RNN. தொடர்ச்சியான நரம்பியல் நெட்வொர்க்குகள் ஒரு வரிசையில் அம்சங்களின் உறவை பகுப்பாய்வு செய்ய முடியும். மறுநிகழ்வு நரம்பியல் நெட்வொர்க்குகள் ஆரம்பத்தில் உரையை பிற மொழிகளில் மொழிபெயர்க்க பயன்படுத்தப்பட்டன, இப்போது மொழிபெயர்ப்பிற்காக படங்கள் உரைக்கு и படத்திற்கு உரை.

இந்த கட்டிடக்கலைகளை நாம் ஆராயும்போது எனக்கு ஒன்றும் புரியவில்லை என்பதை உணர்ந்தேன். மேலும் எனது நரம்பியல் வலையமைப்புக்கு கவனம் செலுத்தும் பொறிமுறையில் சிக்கல்கள் உள்ளன என்பது அல்ல. இந்த அனைத்து கட்டமைப்புகளின் உருவாக்கம் ஒருவித பெரிய ஹேக்கத்தான் போன்றது, அங்கு ஆசிரியர்கள் ஹேக்குகளில் போட்டியிடுகிறார்கள். ஹேக் என்பது கடினமான மென்பொருள் சிக்கலுக்கு விரைவான தீர்வாகும். அதாவது, இந்த அனைத்து கட்டிடக்கலைகளுக்கும் இடையே புலப்படும் மற்றும் புரிந்துகொள்ளக்கூடிய தர்க்கரீதியான தொடர்பு இல்லை. அவர்களை ஒன்றிணைப்பது அவர்கள் ஒருவருக்கொருவர் கடன் வாங்கும் வெற்றிகரமான ஹேக்குகளின் தொகுப்பாகும், மேலும் அனைவருக்கும் பொதுவானது. க்ளோஸ்-லூப் கன்வல்யூஷன் ஆபரேஷன் (பிழை பேக் ப்ரோபேகேஷன், பேக் ப்ரோபேகேஷன்). இல்லை அமைப்புகள் சிந்தனை! எதை மாற்றுவது மற்றும் ஏற்கனவே உள்ள சாதனைகளை எவ்வாறு மேம்படுத்துவது என்பது தெளிவாக இல்லை.

ஹேக்குகளுக்கு இடையே தர்க்கரீதியான இணைப்பு இல்லாததன் விளைவாக, அவற்றை நினைவில் வைத்து நடைமுறையில் பயன்படுத்துவது மிகவும் கடினம். இது துண்டு துண்டான அறிவு. சிறந்தது, சில சுவாரஸ்யமான மற்றும் எதிர்பாராத தருணங்கள் நினைவில் வைக்கப்படுகின்றன, ஆனால் புரிந்து கொள்ளப்பட்ட மற்றும் புரிந்துகொள்ள முடியாத பெரும்பாலானவை சில நாட்களுக்குள் நினைவகத்திலிருந்து மறைந்துவிடும். ஒரு வாரத்தில் நீங்கள் கட்டிடக்கலையின் பெயரையாவது நினைவில் வைத்திருந்தால் நல்லது. ஆனால் பல மணிநேரங்கள் மற்றும் வேலை நேரங்கள் கூட கட்டுரைகளைப் படிக்கவும், மறுஆய்வு வீடியோக்களைப் பார்க்கவும் செலவிடப்பட்டன!

நரம்பியல் வலையமைப்புகள். இதெல்லாம் எங்கே போகிறது?

படம் 2 – நரம்பியல் நெட்வொர்க்குகளின் உயிரியல் பூங்கா

விஞ்ஞானக் கட்டுரைகளின் பெரும்பாலான ஆசிரியர்கள், எனது தனிப்பட்ட கருத்துப்படி, இந்த துண்டு துண்டான அறிவைக் கூட வாசகரால் புரிந்து கொள்ள முடியாது என்பதை உறுதிப்படுத்த முடிந்த அனைத்தையும் செய்கிறார்கள். ஆனால் "மெல்லிய காற்றில் இருந்து" எடுக்கப்பட்ட சூத்திரங்களுடன் பத்து வரி வாக்கியங்களில் உள்ள பங்கேற்பு சொற்றொடர்கள் ஒரு தனி கட்டுரைக்கான தலைப்பு (சிக்கல் வெளியிட அல்லது அழிந்து).

இந்த காரணத்திற்காக, நரம்பியல் நெட்வொர்க்குகளைப் பயன்படுத்தி தகவல்களை முறைப்படுத்த வேண்டிய அவசியம் உள்ளது, இதனால், புரிதல் மற்றும் மனப்பாடம் ஆகியவற்றின் தரத்தை அதிகரிக்க வேண்டும். எனவே, செயற்கை நரம்பியல் நெட்வொர்க்குகளின் தனிப்பட்ட தொழில்நுட்பங்கள் மற்றும் கட்டமைப்புகளின் பகுப்பாய்வின் முக்கிய தலைப்பு பின்வரும் பணியாகும்: அது எங்கே போகிறது என்று கண்டுபிடிக்க, மற்றும் தனித்தனியாக எந்த குறிப்பிட்ட நரம்பியல் நெட்வொர்க்கின் சாதனம் அல்ல.

இதெல்லாம் எங்கே போகிறது? முக்கிய முடிவுகள்:

  • கடந்த இரண்டு ஆண்டுகளில் இயந்திர கற்றல் தொடக்கங்களின் எண்ணிக்கை கடுமையாக விழுந்தது. சாத்தியமான காரணம்: "நரம்பியல் நெட்வொர்க்குகள் இனி புதியவை அல்ல."
  • ஒரு எளிய சிக்கலைத் தீர்க்க, வேலை செய்யும் நரம்பியல் வலையமைப்பை யார் வேண்டுமானாலும் உருவாக்கலாம். இதைச் செய்ய, "மாடல் மிருகக்காட்சிசாலையில்" இருந்து ஒரு ஆயத்த மாதிரியை எடுத்து, நரம்பியல் நெட்வொர்க்கின் கடைசி அடுக்கைப் பயிற்றுவிக்கவும் (பரிமாற்ற கற்றல்) இருந்து தயாராக தரவு கூகுள் டேட்டாசெட் தேடல் அல்லது இருந்து 25 ஆயிரம் Kaggle தரவுத்தொகுப்புகள் இலவசமாக மேகம் ஜூபிடர் நோட்புக்.
  • நரம்பியல் நெட்வொர்க்குகளின் பெரிய உற்பத்தியாளர்கள் உருவாக்கத் தொடங்கினர் "மாதிரி உயிரியல் பூங்காக்கள்" (மாதிரி மிருகக்காட்சிசாலை). அவற்றைப் பயன்படுத்தி நீங்கள் வணிகப் பயன்பாட்டை விரைவாக உருவாக்கலாம்: TF ஹப் டென்சர்ஃப்ளோவிற்கு, MMD கண்டறிதல் PyTorch க்கான, கண்டறிதல் Caffe2 க்கான, சங்கிலி-மாடல்ஜூ Chainer மற்றும் другие.
  • நரம்பியல் நெட்வொர்க்குகள் வேலை செய்கின்றன உண்மையான நேரம் மொபைல் சாதனங்களில் (நிகழ்நேரம்). வினாடிக்கு 10 முதல் 50 பிரேம்கள்.
  • தொலைபேசிகளில் (TF லைட்), உலாவிகளில் (TF.js) மற்றும் இன் நியூரல் நெட்வொர்க்குகளின் பயன்பாடு வீட்டு பொருட்கள் (IoT, Iஇணையதளம் of Tகீல்கள்). குறிப்பாக வன்பொருள் மட்டத்தில் நியூரல் நெட்வொர்க்குகளை ஏற்கனவே ஆதரிக்கும் தொலைபேசிகளில் (நரம்பியல் முடுக்கிகள்).
  • “ஒவ்வொரு சாதனமும், ஆடைப் பொருட்களும், ஒருவேளை உணவும் கூட இருக்கும் IP-v6 முகவரி மற்றும் ஒருவருக்கொருவர் தொடர்பு கொள்ளுங்கள்" - செபாஸ்டியன் திருன்.
  • இயந்திர கற்றல் பற்றிய வெளியீடுகளின் எண்ணிக்கை வளரத் தொடங்கியுள்ளது மூரின் சட்டத்தை மீறுகிறது (ஒவ்வொரு இரண்டு வருடங்களுக்கும் இரட்டிப்பாகும்) 2015 முதல். வெளிப்படையாக, கட்டுரைகளை பகுப்பாய்வு செய்ய எங்களுக்கு நரம்பியல் நெட்வொர்க்குகள் தேவை.
  • பின்வரும் தொழில்நுட்பங்கள் பிரபலமடைந்து வருகின்றன:
    • பைடோர்ச் - பிரபலம் வேகமாக வளர்ந்து வருகிறது மற்றும் டென்சர்ஃப்ளோவை முந்துவது போல் தெரிகிறது.
    • உயர் அளவுருக்களின் தானியங்கி தேர்வு ஆட்டோஎம்எல் - புகழ் சீராக வளர்ந்து வருகிறது.
    • துல்லியத்தில் படிப்படியான குறைவு மற்றும் கணக்கீட்டு வேகத்தில் அதிகரிப்பு: தெளிவற்ற தர்க்கம், வழிமுறைகள் அதிகரிக்கும், துல்லியமற்ற (தோராயமான) கணக்கீடுகள், அளவுப்படுத்தல் (நரம்பியல் வலையமைப்பின் எடைகள் முழு எண்களாக மாற்றப்பட்டு அளவீடு செய்யப்படும் போது), நரம்பியல் முடுக்கிகள்.
    • மொழிபெயர்ப்பு படங்கள் உரைக்கு и படத்திற்கு உரை.
    • உருவாக்கம் வீடியோவிலிருந்து XNUMXD பொருள்கள், இப்போது உண்மையான நேரத்தில்.
    • DL இன் முக்கிய விஷயம் என்னவென்றால், நிறைய தரவு உள்ளது, ஆனால் அதை சேகரித்து லேபிளிடுவது எளிதானது அல்ல. எனவே, மார்க்அப் ஆட்டோமேஷன் உருவாகிறது (தானியங்கு சிறுகுறிப்பு) நரம்பியல் நெட்வொர்க்குகளைப் பயன்படுத்தும் நரம்பியல் நெட்வொர்க்குகளுக்கு.
  • நரம்பியல் நெட்வொர்க்குகளுடன், கணினி அறிவியல் திடீரென்று ஆனது சோதனை அறிவியல் மற்றும் எழுந்தது மறுஉற்பத்தி நெருக்கடி.
  • கம்ப்யூட்டிங் ஒரு சந்தை மதிப்பாக மாறியபோது தகவல் தொழில்நுட்ப பணமும் நரம்பியல் நெட்வொர்க்குகளின் பிரபலமும் ஒரே நேரத்தில் வெளிப்பட்டது. பொருளாதாரம் தங்கம் மற்றும் நாணய பொருளாதாரத்தில் இருந்து மாறி வருகிறது தங்கம்-நாணயம்-கணினி. என் கட்டுரையைப் பார்க்கவும் பொருளாதார இயற்பியல் மற்றும் IT பணம் தோன்றுவதற்கான காரணம்.

படிப்படியாக புதிய ஒன்று தோன்றும் ML/DL நிரலாக்க முறை (மெஷின் லேர்னிங் & டீப் லேர்னிங்), இது பயிற்சியளிக்கப்பட்ட நரம்பியல் நெட்வொர்க் மாதிரிகளின் தொகுப்பாக நிரலைப் பிரதிநிதித்துவப்படுத்துவதை அடிப்படையாகக் கொண்டது.

நரம்பியல் வலையமைப்புகள். இதெல்லாம் எங்கே போகிறது?

படம் 3 - ML/DL ஒரு புதிய நிரலாக்க முறை

இருப்பினும், அது ஒருபோதும் தோன்றவில்லை "நரம்பியல் நெட்வொர்க் கோட்பாடு", அதற்குள் நீங்கள் முறையாக சிந்தித்து வேலை செய்யலாம். இப்போது "கோட்பாடு" என்று அழைக்கப்படுவது உண்மையில் சோதனை, ஹூரிஸ்டிக் அல்காரிதம்கள்.

எனது மற்றும் பிற ஆதாரங்களுக்கான இணைப்புகள்:

உங்கள் கவனத்திற்கு நன்றி!

ஆதாரம்: www.habr.com

கருத்தைச் சேர்