Microsoft lovade nyligen att minska den överdrivna närvaron av AI-funktioner i Windows 11, но, похоже, компания решила «отыграться» на принадлежащем ей веб-сервисе для хостинга IT-проектов и их совместной разработки GitHub. Сообщается о более 11 000 случаев добавления «советов» Copilot в запросы на слияние (pull requests), рекламирующих этот инструмент ИИ от Microsoft.
En mjukvaruutvecklare vid namn Zach Manson rapporterade att Copilot injicerade annonser i en GitHub-pull-förfrågan. Han påstod att en kollega använde Copilot för att korrigera ett stavfel i pull-förfrågan. Copilot korrigerade stavfelet, men lade också till Copilot- och Raycast-annonser i beskrivningen av pull-förfrågan. "Det här är hemskt. Jag visste att den här typen av skit skulle hända så småningom, men jag förväntade mig inte att det skulle hända så snart", sa Manson.
«⚡ Быстро запускайте задачи агента Copilot из любого места на вашем компьютере macOS eller Windows с помощью Raycast», — гласит запрос на слияние. Текст, которому предшествует эмодзи, — распространённый приём, встречающийся в контенте, генерируемом Copilot.
En sökning efter frasen som förekom i Mansons pull request avslöjar över 11 000 förekomster av samma text i pull requests på GitHub. Markeringen av sidor med denna text inkluderar frasen "START COPILOT CODING AGENT TIPS". Det verkar som att Copilot lägger till "tips" i pull requests som marknadsför deras AI-verktyg.
Martin Woodward, vice vd för utvecklarrelationer på GitHub, bekräftade att Copilot kunde lägga till produkttips till pull requests på GitHub, men funktionen inaktiverades efter att ha fått mycket negativ feedback: "Vi har redan inaktiverat den. Produkttips fungerade bra för pull requests initierade av Copilot, men när vi lade till möjligheten att använda Copilot för alla pull requests blev beteendet irriterande. På grund av användarfeedback har produkttips inaktiverats helt."
GitHub använder artificiell intelligens på flera sätt, av vilka några är genuint användbara. Till exempel kan GitHub Copilot förbättra produktiviteten, hjälpa till att hitta buggar och effektivisera utvecklingsprocessen. Verktyget tränades dock delvis på kod som finns på GitHub, vilket har orsakat berättigad upprördhet bland användare.
Microsoft har uppdaterat sin användningspolicy för GitHub Copilot och specificerar att in- och utdata, kodavsnitt och tillhörande kontext från GitHub kommer att användas för att träna Microsofts AI-modeller. Denna ändring påverkar Copilot Free-, Pro- och Pro+-användare (företags- och storföretagsanvändare påverkas inte).
Ironiskt nog, om Copilot injicerar annonser i pull requests, och sedan GitHub-data används för att träna Microsofts AI-modeller, kommer neurala nätverk att tränas på neurala nätverk. Denna cykel kan vara farlig. Om AI matar AI kan drift uppstå – utan en ordentlig grund kan fel fortsätta och eskalera till ännu större fel. Vi kan snart få se en framtid där AI slumpmässigt marknadsför annonser efter att ha tränats på kodexempel som innehåller injicerade annonser.
Alternativet att välja bort att använda GitHub-data för att träna Microsoft-modeller är fortfarande tillgängligt.
Källa:
Källa: 3dnews.ru
