Компанија ДеепМинд, позната по својим развојима у области вештачке интелигенције и изградњи неуронских мрежа способних за играње компјутерских и друштвених игара на људском нивоу, представила је пројекат АлпхаЦоде, који развија систем машинског учења за генерисање кода који може да учествује. на такмичењима у програмирању на платформи Цодефорцес и показују просечан резултат. Кључна карактеристика развоја је могућност генерисања кода у Питхон-у или Ц++, узимајући као улаз текст са назнаком проблема на енглеском.
За тестирање система одабрано је 10 нових Цодефорцес такмичења са више од 5000 учесника, одржаних по завршетку обуке модела машинског учења. Резултати извршења задатака омогућили су АлпхаЦоде систему да уђе приближно у средину рејтинга ових такмичења (54.3%). Предвиђена укупна оцена АлпхаЦоде-а била је 1238 поена, што обезбеђује улазак у Топ 28% међу свим Цодефорцес учесницима који су учествовали у такмичењима најмање једном у последњих 6 месеци. Напомиње се да је пројекат још увек у почетној фази развоја и да је у будућности планирано унапређење квалитета генерисаног кода, као и развој АлпхаЦоде ка системима који помажу у писању кода, односно алатима за развој апликација који се могу користе људи без вештина програмирања.
Пројекат користи архитектуру неуронске мреже Трансформер у комбинацији са техникама узорковања и филтрирања за генерисање различитих непредвидивих варијанти кода које одговарају тексту на природном језику. Након филтрирања, груписања и рангирања, најоптималнији радни код се елиминише из генерисаног тока опција, који се затим проверава да би се обезбедио тачан резултат (сваки такмичарски задатак указује на пример улазних података и резултат који одговара овом примеру , који треба да се добије након извршавања програма).
Да бисмо грубо обучили систем машинског учења, користили смо базу кода доступну у јавним ГитХуб репозиторијумима. Након припреме почетног модела, спроведена је фаза оптимизације, заснована на збирци кода са примерима проблема и решењима које су предложили учесници такмичења Цодефорцес, ЦодеЦхеф, ХацкерЕартх, АтЦодер и Аизу. Укупно је за обуку коришћено 715 ГБ кода са ГитХуб-а и више од милион примера решења типичних такмичарских проблема. Пре преласка на генерисање кода, текст задатка је прошао кроз фазу нормализације, током које је све непотребно елиминисано и остављени су само значајни делови.
Извор: опеннет.ру