Microsoft het onlangs belowe om die oormatige gebruik van KI-funksies in Windows 11 te verminder, maar dit blyk dat die maatskappy besluit het om wraak te neem op sy eie webdiens vir die aanbieding en samewerking aan IT-projekte, GitHub. Meer as 11 000 gevalle van Copilot-"wenke" wat bygevoeg is tot pull-versoeke wat Microsoft se KI-instrument bevorder, is aangemeld.
'n Sagteware-ontwikkelaar genaamd Zach Manson het berig dat Copilot advertensies in 'n GitHub-pull-versoek ingespuit het. Hy het beweer dat 'n kollega Copilot gebruik het om 'n tikfout in die pull-versoek reg te stel. Copilot het die tikfout reggestel, maar ook Copilot- en Raycast-advertensies by die pull-versoekbeskrywing gevoeg. "Dit is verskriklik. Ek het geweet hierdie soort gemors sou uiteindelik gebeur, maar ek het nie verwag dat dit so gou sou gebeur nie," het Manson gesê.
"'n Mens kan Copilot-agenttake vinnig vanaf enige plek op jou macOS- of Windows-rekenaar met Raycast begin met behulp van Raycast," lui die versoek. Die teks, voorafgegaan deur 'n emoji, is 'n algemene taktiek wat in Copilot-gegenereerde inhoud voorkom.
'n Soektog na die frase wat in Manson se pull-versoek verskyn het, onthul meer as 11 000 gevalle van dieselfde teks in pull-versoeke op GitHub. Die opmaak van bladsye met hierdie teks sluit die frase "START COPILOT CODING AGENT TIPS" in. Dit lyk asof Copilot "wenke" by pull-versoeke voeg wat sy KI-instrument bevorder.
Martin Woodward, visepresident van ontwikkelaarverhoudinge by GitHub, het bevestig dat Copilot produkwenke by pull-versoeke op GitHub kon voeg, maar die funksie is gedeaktiveer nadat baie negatiewe terugvoer ontvang is: "Ons het dit reeds gedeaktiveer. Produkwenke het goed gewerk vir pull-versoeke wat deur Copilot geïnisieer is, maar toe ons die vermoë bygevoeg het om Copilot vir enige pull-versoek te gebruik, het die gedrag onaangenaam geword. As gevolg van gebruikersterugvoer is produkwenke heeltemal gedeaktiveer."
GitHub gebruik kunsmatige intelligensie op verskeie maniere, waarvan sommige werklik nuttig is. GitHub Copilot kan byvoorbeeld produktiwiteit verbeter, help om foute op te spoor en die ontwikkelingsproses te stroomlyn. Die instrument is egter gedeeltelik opgelei op kode wat op GitHub aangebied word, wat geregverdigde verontwaardiging onder gebruikers veroorsaak het.
Microsoft het sy GitHub Copilot-gebruiksbeleid opgedateer en spesifiseer dat invoer- en uitvoerdata, kodebrokkies en geassosieerde konteks van GitHub gebruik sal word om Microsoft KI-modelle op te lei. Hierdie verandering raak Copilot Free-, Pro- en Pro+-gebruikers (besigheids- en ondernemingsgebruikers word nie geraak nie).
Ironies genoeg, as Copilot advertensies in pull-versoeke inspuit, en dan GitHub-data gebruik word om Microsoft se KI-modelle op te lei, sal neurale netwerke op neurale netwerke opgelei word. Hierdie siklus kan gevaarlik wees. As KI KI voed, kan drywing plaasvind – sonder 'n behoorlike fondament kan foute voortduur en tot selfs groter foute eskaleer. Ons mag binnekort 'n toekoms sien waarin KI lukraak advertensies bevorder nadat dit opgelei is op kodemonsters wat ingespuite advertensies bevat.
Die opsie om nie GitHub-data te gebruik om Microsoft-modelle op te lei nie, is steeds beskikbaar.
Bron:
Bron: 3dnews.ru
