Нядаўна Microsoft паабяцала скараціць празмернае прысутнасць ІІ-функцый у Windows 11, але, падобна, кампанія вырашыла "адыграцца" на які належыць ёй вэб-сэрвісе для хостынгу IT-праектаў і іх сумеснай распрацоўкі GitHub. Паведамляецца пра больш за 11 000 выпадкаў дадання "парад" Copilot у запыты на зліццё (pull requests), якія рэкламуюць гэты інструмент ІІ ад Microsoft.
Распрацоўнік праграмнага забеспячэння па імі Зак Мэнсан (Zach Manson) распавёў, што Copilot укараніў рэкламу ў запыт на зліццё на GitHub. Паводле яго слоў, калега выкарыстоўваў Copilot для выпраўлення памылкі друку ў запыце. Copilot выправіў памылку друку, але таксама дадаў рэкламу Copilot і Raycast у апісанне запыту. «Гэта жахліва. Я ведаў, што падобная лухта рана ці позна здарыцца, але не чакаў, што так хутка», - заявіў Мэнсан.
"⚡ Хутка запускайце задачы агента Copilot з любога месца на вашым кампутары macOS або Windows з дапамогай Raycast", – абвяшчае запыт на зліццё. Тэкст, якому папярэднічае эмоджы, - распаўсюджаны прыём, які сустракаецца ў кантэнце, які генеруецца Copilot.
Пошук фразы, якая з'явілася ў запыце на зліццё Мэнсана, паказвае больш за 11 000 выпадкаў выкарыстання таго ж тэксту ў запытах на зліццё на GitHub. Разметка старонак з гэтым тэкстам уключае фразу "START COPILOT CODING AGENT TIPS". Падобна, Copilot дадае «парады» у запыты на зліццё, якія рэкламуюць прыладу ІІ.
Віцэ-прэзідэнт па сувязях з распрацоўшчыкамі ў GitHub Марцін Вудворд (Martin Woodward) пацвердзіў, што Copilot мог дадаваць парады па прадукту ў запыты на зліццё на GitHub, але гэтая функцыя была адключаная пасля атрымання масы негатыўных водгукаў: «Мы ўжо адключылі яе. Па сутнасці, функцыя падказак па прадукце працавала нядрэнна на запытах на зліццё, ініцыяваных Copilot, але, калі мы дадалі магчымасць выкарыстоўваць Copilot для любога запыту на зліццё, паводзіны сталі непрыемнымі. Дзякуючы водгукам карыстальнікаў, падказкі па прадукце былі цалкам адключаныя».
Штучны інтэлект выкарыстоўваецца ў GitHub некалькімі спосабамі, некаторыя з якіх сапраўды карысныя. Напрыклад, GitHub Copilot можа павысіць прадукцыйнасць, дапамагчы ў пошуку памылак і аптымізаваць працэс распрацоўкі. Аднак інструмент часткова навучаўся на кодзе, размешчаным на GitHub, што выклікала абгрунтаванае абурэнне карыстальнікаў.
Microsoft абнавіла сваю палітыку выкарыстання GitHub Copilot, паказаўшы, што для навучання мадэляў ІІ Microsoft будуць выкарыстоўвацца ўваходныя і выходныя дадзеныя, фрагменты кода і злучаны з імі кантэкст з GitHub. Гэта змяненне закране карыстальнікаў Copilot Free, Pro і Pro + (карыстальнікаў бізнес-і карпаратыўных версій яно не закране).
Па іроніі лёсу, калі Copilot будзе ўкараняць рэкламу ў запыты на зліццё, а затым дадзеныя GitHub будуць выкарыстоўвацца для навучання мадэляў ІІ Microsoft, нейрасеткі стануць навучацца на нейрасецях. Гэты цыкл можа быць небяспечны. Калі ІІ падсілкоўвае ІІ, можа адбыцца дрэйф - без належнай асновы памылкі могуць увекавечвацца і перарастаць у яшчэ вялікія памылкі. Магчыма, хутка мы ўбачым будучыню, у якім ІІ будзе выпадкова прасоўваць рэкламу пасля таго, як яго навучаць на прыкладах кода, якія змяшчаюць укаранёную рэкламу.
Пакуль магчымасць адмовіцца ад выкарыстання дадзеных GitHub для навучання мадэляў Microsoft яшчэ даступна.
Крыніца:
Крыніца: 3dnews.ru
