Compania DeepMind, cunoscută pentru dezvoltările sale în domeniul inteligenței artificiale și construirea de rețele neuronale capabile să joace jocuri pe computer și de masă la nivel uman, a lansat proiectul AlphaCode, care dezvoltă un sistem de învățare automată pentru generarea de cod, capabil să participe la competiții de programare pe platforma Codeforces și să demonstreze rezultate medii. Cea mai importantă caracteristică a dezvoltării este capacitatea de a genera cod în limbajele Python sau C++, primind ca input un text cu enunțul problemei în limba engleză.
Pentru testarea sistemului au fost selectate 10 noi competiții Codeforces cu peste 5000 de participanți, desfășurate după finalizarea antrenamentului modelului de învățare automată. Rezultatele implementării sarcinilor au permis sistemului AlphaCode să ocupe aproximativ mijlocul clasamentului acestor competiții (54.3%). Ratingul total prevăzut pentru AlphaCode a fost de 1238 de puncte, ceea ce asigură intrarea în Top 28% dintre toți participanții Codeforces care au participat cel puțin o dată la competiții în ultimele 6 luni. Se menționează că proiectul se află încă în stadiul inițial de dezvoltare și în viitor se preconizează îmbunătățirea calității codului generat, precum și dezvoltarea AlphaCode în direcția sistemelor care ajută la scrierea codului sau a instrumentelor de dezvoltare a aplicațiilor care pot fi utilizate de către persoane fără abilități de programare.
Proiectul utilizează arhitectura rețelei neuronale „Transformer” în combinație cu metode de eșantionare și filtrare, permițând generarea de diferite variante imprevizibile de cod care corespund textului în limbaj natural. După filtrare, clusterizare și clasificare, din fluxul generat de variante este selectat cel mai optim cod de lucru, care este apoi verificat pentru a obține un rezultat corect (în fiecare sarcină a competițiilor este specificat un exemplu de date de intrare și corespondentul său rezultat care trebuie obținut după executarea programului).
Pentru antrenamentul robust al sistemului de învățare automată a fost utilizat un cod disponibil în repozitoarele publice de pe GitHub. După pregătirea modelului inițial, a fost realizată o fază de optimizare, implementată pe baza unei colecții de coduri cu exemple de probleme și soluții oferite participanților la competițiile Codeforces, CodeChef, HackerEarth, AtCoder și Aizu. În total, pentru antrenament s-au folosit 715 GB de cod de pe GitHub și mai mult de un milion de exemple de soluții pentru problemele tipice ale competițiilor. Înainte de a trece la generarea codului, textul problemei a trecut printr-o fază de normalizare, în care s-au exclus toate elementele inutile și au fost păstrate doar părțile semnificative.
Sursa: opennet.ro
