Η Microsoft υποσχέθηκε πρόσφατα να μειώσει την υπερβολική χρήση λειτουργιών τεχνητής νοημοσύνης στα Windows 11, αλλά φαίνεται ότι η εταιρεία αποφάσισε να πάρει εκδίκηση από τη δική της διαδικτυακή υπηρεσία για τη φιλοξενία και τη συνεργασία σε έργα πληροφορικής, το GitHub. Έχουν αναφερθεί περισσότερες από 11.000 περιπτώσεις προσθήκης "συμβουλών" του Copilot σε αιτήματα έλξης που προωθούν το εργαλείο τεχνητής νοημοσύνης της Microsoft.
Ένας προγραμματιστής λογισμικού ονόματι Zach Manson ανέφερε ότι η Copilot εισήγαγε διαφημίσεις σε ένα αίτημα έλξης GitHub. Ισχυρίστηκε ότι ένας συνάδελφος χρησιμοποίησε την Copilot για να διορθώσει ένα τυπογραφικό λάθος στο αίτημα έλξης. Η Copilot διόρθωσε το τυπογραφικό λάθος, αλλά πρόσθεσε επίσης διαφημίσεις Copilot και Raycast στην περιγραφή του αιτήματος έλξης. «Αυτό είναι απαίσιο. Ήξερα ότι τέτοιου είδους ανοησίες θα συνέβαιναν τελικά, αλλά δεν περίμενα να συμβούν τόσο σύντομα», είπε ο Manson.
«⚡ Εκκινήστε γρήγορα εργασίες του Copilot agent από οπουδήποτε στον υπολογιστή σας macOS ή Windows χρησιμοποιώντας το Raycast», αναφέρει το αίτημα έλξης. Το κείμενο, του οποίου προηγείται ένα emoji, είναι μια κοινή τακτική που βρίσκεται στο περιεχόμενο που δημιουργείται από το Copilot.
Μια αναζήτηση για τη φράση που εμφανίστηκε στο αίτημα έλξης του Manson αποκαλύπτει πάνω από 11.000 περιπτώσεις του ίδιου κειμένου σε αιτήματα έλξης στο GitHub. Η σήμανση σελίδων με αυτό το κείμενο περιλαμβάνει τη φράση "START COPILOT CODING AGENT TIPS". Φαίνεται ότι το Copilot προσθέτει "συμβουλές" σε αιτήματα έλξης που προωθούν το εργαλείο τεχνητής νοημοσύνης του.
Ο Martin Woodward, Αντιπρόεδρος Σχέσεων με Προγραμματιστές στο GitHub, επιβεβαίωσε ότι το Copilot μπόρεσε να προσθέσει συμβουλές προϊόντων σε αιτήματα έλξης στο GitHub, αλλά η λειτουργία απενεργοποιήθηκε αφού έλαβε πολλά αρνητικά σχόλια: "Την έχουμε ήδη απενεργοποιήσει. Οι συμβουλές προϊόντων λειτούργησαν καλά για αιτήματα έλξης που ξεκίνησαν από το Copilot, αλλά όταν προσθέσαμε τη δυνατότητα χρήσης του Copilot για οποιοδήποτε αίτημα έλξης, η συμπεριφορά έγινε ενοχλητική. Λόγω των σχολίων των χρηστών, οι συμβουλές προϊόντων έχουν απενεργοποιηθεί εντελώς."
Το GitHub χρησιμοποιεί την τεχνητή νοημοσύνη με διάφορους τρόπους, μερικοί από τους οποίους είναι πραγματικά χρήσιμοι. Για παράδειγμα, το GitHub Copilot μπορεί να βελτιώσει την παραγωγικότητα, να βοηθήσει στην εύρεση σφαλμάτων και να βελτιστοποιήσει τη διαδικασία ανάπτυξης. Ωστόσο, το εργαλείο έχει εκπαιδευτεί εν μέρει σε κώδικα που φιλοξενείται στο GitHub, κάτι που έχει προκαλέσει δικαιολογημένη οργή μεταξύ των χρηστών.
Η Microsoft ενημέρωσε την πολιτική χρήσης του GitHub Copilot, καθορίζοντας ότι τα δεδομένα εισόδου και εξόδου, τα τμήματα κώδικα και το σχετικό περιβάλλον από το GitHub θα χρησιμοποιούνται για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης της Microsoft. Αυτή η αλλαγή επηρεάζει τους χρήστες του Copilot Free, Pro και Pro+ (οι χρήστες επιχειρήσεων και επιχειρήσεων δεν επηρεάζονται).
Κατά ειρωνικό τρόπο, εάν το Copilot εισάγει διαφημίσεις σε αιτήματα έλξης και στη συνέχεια χρησιμοποιούνται δεδομένα GitHub για την εκπαίδευση των μοντέλων τεχνητής νοημοσύνης της Microsoft, τα νευρωνικά δίκτυα θα εκπαιδευτούν σε νευρωνικά δίκτυα. Αυτός ο κύκλος θα μπορούσε να είναι επικίνδυνος. Εάν η τεχνητή νοημοσύνη τροφοδοτεί την τεχνητή νοημοσύνη, θα μπορούσε να συμβεί απόκλιση - χωρίς σωστή βάση, τα σφάλματα μπορούν να διαιωνιστούν και να κλιμακωθούν σε ακόμη μεγαλύτερα σφάλματα. Σύντομα μπορεί να δούμε ένα μέλλον στο οποίο η τεχνητή νοημοσύνη προωθεί τυχαία διαφημίσεις αφού εκπαιδευτεί σε δείγματα κώδικα που περιέχουν διαφημίσεις που έχουν ενσωματωθεί.
Η επιλογή εξαίρεσης από τη χρήση δεδομένων GitHub για την εκπαίδευση μοντέλων της Microsoft εξακολουθεί να είναι διαθέσιμη.
Πηγή:
Πηγή: 3dnews.ru
