DeepMind, der har opnået berømmelse for sine udviklinger inden for kunstig intelligens og opbygning af neurale netværk, der kan spille computer- og brætspil på menneskeligt niveau, har præsenteret projektet AlphaCode, som udvikler et maskinlæringssystem til generering af kode, der kan deltage i programmeringskonkurrencer på platformen Codeforces og vise gennemsnitsresultater. En nøglefunktion ved udviklingen er evnen til at generere kode i Python eller C++, idet den modtager en opgavebeskrivelse på engelsk som input.
Til testning af systemet blev 10 nye Codeforces-konkurrencer udvalgt med over 5000 deltagere, gennemført efter afslutningen af træningen af maskinlæringsmodellen. Resultaterne af opgavernes udførelse gjorde det muligt for AlphaCode at komme ind omkring midten af ranglisten for de nævnte konkurrencer (54,3%). Den forudsigte samlede rating for AlphaCode var 1238 point, hvilket sikrer en placering i Top 28% blandt alle Codeforces-deltagere, der har deltaget i konkurrencer i løbet af de sidste 6 måneder. Det bemærkes, at projektet stadig er i en tidlig udviklingsfase, og at der i fremtiden planlægges at forbedre kvaliteten af den genererede kode samt udvikle AlphaCode i retning af systemer, der hjælper med kodeudvikling, eller udviklingsværktøjer, som personer uden programmeringsfærdigheder kan bruge.
Projektet anvender en „Transformer“-neural netværksarkitektur kombineret med sampling- og filtreringsmetoder, der muliggør generering af forskellige uforudsigelige kodevarianter, der svarer til teksten på naturligt sprog. Efter filtrering, klyngedannelse og rangering sorteres den mest optimale funktionelle kode fra det genererede flow af muligheder, som derefter kontrolleres for at sikre, at det giver det korrekte resultat (i hver opgave i konkurrencerne angives et eksempel på inputdata og det tilhørende resultat, der skal opnås efter kørsel af programmet).
Til grov træning af maskinlæringssystemet blev der anvendt en kodebase, der er tilgængelig i offentlige GitHub-repositorier. Efter forberedelsen af den indledende model blev der gennemført en optimeringsfase baseret på en samling kode med eksempler på opgaver og løsninger, der tilbydes til deltagerne i konkurrencerne Codeforces, CodeChef, HackerEarth, AtCoder og Aizu. I alt blev 715 GB kode fra GitHub og over en million eksempler på løsninger af standardopgaver fra konkurrencerne anvendt til træningen. Før overgangen til kodegenerering gennemgik opgaveteksten en normaliseringsfase, hvor alt unødvendigt blev udelukket, og kun betydningsfulde dele blev tilbageholdt.
Kilde: opennet.ru
