DeepMind konpainiak, adimen artifizialaren alorrean izandako garapenengatik eta giza mailan ordenagailu eta mahai-jokoetan jolasteko gai diren neurona-sareen eraikuntzagatik ezaguna den AlphaCode proiektua aurkeztu zuen, zeina kodea sortzeko makina ikasteko sistema bat garatzen ari dena, gai dena. Codeforces plataformako programazio lehiaketetan parte hartzea eta batez besteko emaitza erakustea. Garapenaren ezaugarri nagusi bat Python edo C++-n kodea sortzeko gaitasuna da, sarrera gisa ingelesez arazo-adierazpena duen testu bat hartuz.
Sistema probatzeko, 10 parte-hartzaile baino gehiagoko Codeforces lehiaketa berri hautatu ziren, ikaskuntza automatikoko eredua entrenatzen amaitu ondoren. Zereginak betetzearen emaitzek AlphaCode sistemak lehiaketa hauen balorazioaren erdialdean sartu zuen gutxi gorabehera (%5000). AlphaΠ‘ode-ren aurreikusten den balorazio orokorra 54.3 puntukoa izan zen, eta horrek azken 1238 hilabeteetan lehiaketetan gutxienez behin parte hartu duten Codeforces-eko partaide guztien artean % 28 onenen sartzea bermatzen du. Proiektua garapenaren hasierako fasean dagoela adierazi da eta etorkizunean sortutako kodearen kalitatea hobetzea aurreikusten da, bai eta AlphaCode garatzea ere kodea idazten laguntzen duten sistemetara, edo aplikazioak garatzeko tresnak garatu ahal izateko. programazio trebetasunik gabeko pertsonek erabiltzen dute.
Proiektuak Transformer sare neuronalaren arkitektura erabiltzen du laginketa eta iragazketa teknikekin konbinatuta, hizkuntza naturaleko testuari dagozkion ezusteko kode aldaera ezberdinak sortzeko. Iragazi, multzokatu eta sailkapenaren ondoren, lan-koderik onena ezabatzen da sortutako aukeren korrontetik, eta, ondoren, emaitza zuzena lortzen dela egiaztatzen da (lehiaketa-zeregin bakoitzak sarrerako datuen adibide bat eta adibide honi dagokion emaitza adierazten du. , programa exekutatu ondoren lortu behar dena).
Ikaskuntza automatikoko sistema gutxi gorabehera entrenatzeko, GitHub biltegi publikoetan eskuragarri dagoen kode-oinarri bat erabili dugu. Hasierako eredua prestatu ondoren, optimizazio fase bat egin zen, Codeforces, CodeChef, HackerEarth, AtCoder eta Aizu lehiaketetan parte-hartzaileek proposatutako arazoen eta irtenbideen adibideekin kode bilduma batean oinarrituta. Guztira, GitHub-eko 715 GB-ko kode eta lehiaketa-arazo tipikoen irtenbideen milioi bat adibide baino gehiago erabili ziren entrenatzeko. Kode-sorkuntzara pasatu aurretik, ataza-testuak normalizazio-fase bat igaro zuen, eta horretan beharrezkoa ez zen guztia ezabatu zen eta zati esanguratsuak baino ez ziren geratzen.
Iturria: opennet.ru