Pargîdaniya DeepMind, ku bi pêşkeftinên xwe yên di warê îstîxbarata sûnî û avakirina torên neuralî yên ku dikarin lîstikên komputer û panelê di asta mirovî de bilîzin, tê nasîn, projeya AlphaCode pêşkêş kir, ku pergalek fêrbûna makîneyê ji bo hilberîna kodê ku dikare beşdar bibe pêş dixe. di pêşbaziyên bernamekirinê de li ser platforma Codeforces û encama navîn nîşan bidin. Taybetmendiyek bingehîn a pêşkeftinê ew e ku meriv kodê di Python an C++ de çêbike, ku nivîsek bi vegotinek pirsgirêkê bi Englishngilîzî wekî têketinê bigire.
Ji bo ceribandina pergalê, 10 pêşbaziyên nû yên Codeforces bi zêdetirî 5000 beşdaran hatin hilbijartin, piştî qedandina perwerdehiya modela fêrbûna makîneyê. Encamên temamkirina peywiran hişt ku pergala AlphaCode bi qasî nîvê rêjeya van pêşbaziyan (54.3%) bikeve. Rêjeya giştî ya pêşbînîkirî ya AlphaСode 1238 xal bû, ku di nav hemî beşdarên Codeforces de ku di nav 28 mehên borî de bi kêmî ve carekê beşdarî pêşbaziyan bûne, ketina nav Top 6% misoger dike. Tê destnîşan kirin ku proje hîn di qonaxa destpêkê ya pêşkeftinê de ye û di pêşerojê de tê plan kirin ku kalîteya koda hatî hilberandin baştir bike, û her weha AlphaCode ber bi pergalên ku di nivîsandina kodê de dibin alîkar, an amûrên pêşkeftina sepanê ku dikarin bibin pêşve bibin. ji hêla kesên bêyî jêhatîbûna bernamekirinê ve tê bikar anîn.
Proje mîmariya tora neuralî ya Transformer bi hev re digel teknîkên nimûne û fîlterkirinê bikar tîne da ku cûrbecûr cûrbecûr kodên nepêşbînîkirî yên ku bi nivîsa zimanê xwezayî re têkildar in biafirîne. Piştî fîlterkirin, komkirin û rêzgirtinê, koda xebatê ya herî çêtirîn ji çema hilbijarkan tê derxistin, ku dûv re tê kontrol kirin da ku encama rast were bidestxistin (her karek pêşbaziyê mînakek daneya têketinê û encama ku bi vê nimûneyê re têkildar destnîşan dike , ya ku divê piştî pêkanîna bernameyê were wergirtin).
Ji bo ku bi giranî pergala fêrbûna makîneyê perwerde bikin, me bingehek kodê ku di depoyên giştî yên GitHub de peyda dibe bikar anî. Piştî amadekirina modela destpêkê, qonaxek xweşbîniyê hate kirin, li ser bingeha berhevokek kodê bi mînakên pirsgirêk û çareseriyên ku ji hêla beşdarên pêşbaziyên Codeforces, CodeChef, HackerEarth, AtCoder û Aizu ve hatine pêşniyar kirin. Bi tevahî, 715 GB koda ji GitHub û zêdetirî mîlyon nimûneyên çareseriyên pirsgirêkên pêşbaziyê yên tîpîk ji bo perwerdehiyê hatin bikar anîn. Berî ku derbasî hilberîna kodê bibe, nivîsa peywirê di qonaxek normalîzekirinê re derbas bû, ku tê de her tiştê nehewce hate rakirin û tenê beşên girîng ma.
Source: opennet.ru