Das Unternehmen DeepMind, das für seine Entwicklungen im Bereich Künstliche Intelligenz und den Aufbau neuronaler Netze bekannt ist, die auf menschlichem Niveau Computerspiele und Brettspiele spielen können, hat das Projekt AlphaCode vorgestellt. Dieses entwickelt ein Machine-Learning-System zur Codegenerierung, das an Programmierwettbewerben auf der Plattform Codeforces teilnehmen und dabei durchschnittliche Ergebnisse erzielen kann. Ein zentrales Merkmal dieser Entwicklung ist die Fähigkeit, Code in den Sprachen Python oder C++ zu generieren, indem es englischsprachige Textbeschreibungen der Aufgabenstellung als Eingabe verwendet.
Zur Teststellung des Systems wurden 10 neue Codeforces-Wettbewerbe mit mehr als 5000 Teilnehmern ausgewählt, die nach dem Abschluss des Trainings des maschinellen Lernmodells stattfanden. Die Ergebnisse der Aufgabenverarbeitung ermöglichten es dem AlphaCode, etwa in die Mitte der Rangliste der genannten Wettbewerbe einzutreten (54,3%). Der prognostizierte Gesamtwert von AlphaCode beträgt 1238 Punkte, was den Eintritt in die Top 28 % aller Teilnehmer von Codeforces gewährleistet, die in den letzten 6 Monaten mindestens einmal an Wettbewerben teilgenommen haben. Es wird darauf hingewiesen, dass sich das Projekt noch in einem frühen Entwicklungsstadium befindet und in Zukunft geplant ist, die Qualität des generierten Codes zu verbessern sowie AlphaCode in Richtung Systeme weiterzuentwickeln, die beim Programmieren helfen oder Entwicklungstools bereitstellen, die von Personen ohne Programmierkenntnisse genutzt werden können.
In dem Projekt wird die Architektur des neuronalen Netzwerks „Transformer“ verwendet, kombiniert mit Sampling- und Filtermethoden, die es ermöglichen, verschiedene unvorhersehbare Codevarianten zu generieren, die den natürsprachlichen Texteingaben entsprechen. Nach der Filterung, Clusterbildung und Rangordnung wird der optimalste funktionierende Code aus dem entstehenden Variationsstrom ausgewählt, der anschließend auf die Erzielung des richtigen Ergebnisses überprüft wird (in jeder Wettbewerbsaufgabe werden Beispiel-Eingabedaten und das entsprechende Ergebnis angegeben, das nach Ausführung des Programms erzielt werden soll).
Für das umfassende Training des maschinellen Lernsystems wurde eine Codebasis aus öffentlichen GitHub-Repositories verwendet. Nach der Erstellung des Ausgangsmodells folgte die Optimierungsphase, die auf einer Sammlung von Codes basierte, die Beispiele für Aufgaben und Lösungen aus den Wettbewerben Codeforces, CodeChef, HackerEarth, AtCoder und Aizu bietet. Insgesamt wurden für das Training 715 GB Code von GitHub und über eine Million Beispiellösungen typischer Wettbewerbsaufgaben genutzt. Vor der Codegenerierung durchlief der Aufgabentext eine Normalisierungsphase, in der alles Überflüssige ausgeschlossen und nur die wesentlichen Teile beibehalten wurden.
Quelle: opennet.ru
