マイクロソフトは、数千件のGitHubプルリクエストにAI広告を大量に送り込んだ。現在、それらすべてにCopilotからの同一の「アドバイス」が含まれている。

マイクロソフトは最近、Windows 11におけるAI機能の過剰な使用を削減すると約束したが、同社はITプロジェクトのホスティングとコラボレーションのための自社ウェブサービスであるGitHubに報復することを決めたようだ。マイクロソフトのAIツールを宣伝するCopilotの「ヒント」がプルリクエストに追加された事例が11万000件以上報告されている。

ザック・マンソンというソフトウェア開発者が、CopilotがGitHubのプルリクエストに広告を挿入したと報告した。同氏によると、同僚がプルリクエストの誤字を修正するためにCopilotを使用したところ、Copilotは誤字を修正しただけでなく、プルリクエストの説明にCopilotとRaycastの広告も追加したという。「これはひどい。こういうことが起こるだろうとは思っていたが、こんなに早く起こるとは思わなかった」とマンソン氏は語った。

「⚡ Raycast を使用すれば、macOS または Windows コンピューター上のどこからでも Copilot エージェントのタスクをすばやく起動できます」とプルリクエストには記載されています。絵文字に続くこのテキストは、Copilot が生成するコンテンツによく見られる手法です。

マンソン氏のプルリクエストに登場したフレーズを検索すると、GitHub上のプルリクエストで同じテキストが11,000件以上見つかります。このテキストを含むページのマークアップには、「START COPILOT CODING AGENT TIPS」というフレーズが含まれています。Copilotは、自社のAIツールを宣伝するプルリクエストに「ヒント」を追加しているようです。

GitHubの開発者リレーション担当副社長であるマーティン・ウッドワード氏は、CopilotがGitHubのプルリクエストに製品ヒントを追加できる機能を持っていたことを認めつつも、多くの否定的なフィードバックを受けてこの機能を無効化したと述べた。「既に無効化しました。Copilotが開始したプルリクエストでは製品ヒントはうまく機能していましたが、あらゆるプルリクエストにCopilotを使用できる機能を追加したところ、その動作が不快なものになってしまいました。ユーザーからのフィードバックを受けて、製品ヒントは完全に無効化されました。」

GitHubは様々な方法で人工知能を活用しており、その中には非常に有用なものもある。例えば、GitHub Copilotは生産性の向上、バグの発見、開発プロセスの効率化に役立つ。しかし、このツールはGitHub上でホストされているコードで部分的に学習されているため、ユーザーの間で正当な怒りを引き起こしている。

マイクロソフトはGitHub Copilotの利用ポリシーを更新し、GitHubからの入力データ、出力データ、コードスニペット、および関連するコンテキストがマイクロソフトのAIモデルのトレーニングに使用されることを明記しました。この変更はCopilotの無料版、Pro版、およびPro+版のユーザーに影響します（ビジネスユーザーとエンタープライズユーザーは影響を受けません）。

皮肉なことに、Copilotがプルリクエストに広告を挿入し、GitHubのデータがMicrosoftのAIモデルの学習に使用されると、ニューラルネットワークはニューラルネットワークで学習されることになる。このサイクルは危険なものになりかねない。AIがAIに学習を繰り返すと、ドリフトが発生する可能性がある。適切な基盤がなければ、エラーが永続化し、さらに大きなエラーへとエスカレートする可能性があるのだ。挿入された広告を含むコードサンプルで学習したAIが、ランダムに広告を宣伝する未来が、そう遠くない将来に訪れるかもしれない。

MicrosoftモデルのトレーニングにGitHubデータを使用しないように選択するオプションは引き続き利用可能です。

出所：

• WindowsCentral

出所： 3dnews.ru