Uzņēmums DeepMind, kas pazīstams ar savu attīstību mākslīgā intelekta jomā un neironu tīklu veidošanu, kas spēj spēlēt datorspēles un galda spēles cilvēka līmenī, prezentēja AlphaCode projektu, kas izstrādā mašīnmācīšanās sistēmu koda ģenerēšanai, kas var piedalīties. programmēšanas sacensībās Codeforces platformā un demonstrē vidējo rezultātu. Galvenā izstrādes iezīme ir iespēja ģenerēt kodu Python vai C++, kā ievadi izmantojot tekstu ar problēmas izklāstu angļu valodā.
Lai pārbaudītu sistēmu, tika atlasīti 10 jauni Codeforces konkursi ar vairāk nekā 5000 dalībniekiem, kas notika pēc mašīnmācīšanās modeļa apmācības pabeigšanas. Uzdevumu izpildes rezultāti AlphaCode sistēmai ļāva iekļūt šo sacensību reitinga aptuveni vidū (54.3%). AlphaСode prognozētais kopvērtējums bija 1238 punkti, kas nodrošina iekļūšanu Top 28% starp visiem Codeforces dalībniekiem, kuri pēdējo 6 mēnešu laikā ir piedalījušies sacensībās vismaz vienu reizi. Tiek atzīmēts, ka projekts vēl ir izstrādes sākuma stadijā un nākotnē plānots uzlabot ģenerētā koda kvalitāti, kā arī attīstīt AlphaCode uz sistēmām, kas palīdz rakstīt kodu, vai aplikāciju izstrādes rīkus, kurus var izmanto cilvēki bez programmēšanas prasmēm.
Projektā tiek izmantota transformatora neironu tīkla arhitektūra kombinācijā ar izlases un filtrēšanas paņēmieniem, lai ģenerētu dažādus neparedzamus koda variantus, kas atbilst dabiskās valodas tekstam. Pēc filtrēšanas, klasterēšanas un ranžēšanas no ģenerētās opciju straumes tiek izslēgts visoptimālākais darba kods, kas pēc tam tiek pārbaudīts, lai nodrošinātu pareizu rezultātu (katrā konkursa uzdevumā ir norādīts ievaddatu piemērs un šim piemēram atbilstošs rezultāts , kas jāiegūst pēc programmas izpildes).
Lai aptuveni apmācītu mašīnmācīšanās sistēmu, mēs izmantojām kodu bāzi, kas pieejama publiskajās GitHub krātuvēs. Pēc sākotnējā modeļa sagatavošanas tika veikta optimizācijas fāze, kuras pamatā bija Codeforces, CodeChef, HackerEarth, AtCoder un Aizu konkursu dalībnieku piedāvāto problēmu un risinājumu piemēri. Kopumā treniņiem tika izmantoti 715 GB koda no GitHub un vairāk nekā miljons tipisku sacensību problēmu risinājumu piemēru. Pirms pāriet uz koda ģenerēšanu, uzdevuma teksts izgāja normalizācijas fāzi, kuras laikā tika likvidēts viss nevajadzīgais un palika tikai nozīmīgas daļas.
Avots: opennet.ru