中国当局は現地企業の大規模な言語モデル（高度な人工知能システム）を厳しくテストし、企業が「社会主義の中核的価値観を体現している」ことを確認していると報告書は報じている。 .
中国サイバースペース局（CAC）は、バイトダンス、アリババ、ムーンショット、01.AIなどの大手テクノロジー企業やAI新興企業に対し、政府によるモデルのテストに参加するよう命じた。この手続きには、さまざまな質問に対する回答を一括して収集することが含まれており、その多くは中国の政治路線や国家主席の習近平氏に関連している。この作業は地元の省庁の職員によって行われ、モデルのトレーニングに使用されたデータセットのチェックも含まれます。約XNUMX年前、中国ではグレート・ファイアウォールが運用され始め、当局が容認できないと考える情報リソースへの国民のアクセスが遮断され、現在中国政府はAIとAIが作成するコンテンツを規制する世界で最も厳しい措置を導入している。
AI 分野の中国の新興企業の例が示されていますが、その大規模な言語モデルは 2 回目でのみ部門の審査に合格しました。1 回目の拒否の理由は完全には明らかではなかったので、開発者はより成功した、より優れた企業に相談する必要がありました。知的な同僚たち。プロセス全体には数か月かかりました。開発者にとって、AI のトレーニングには大量の英語の教材を使用する必要があるため、この作業は複雑になります。英語の教材は、イデオロギー的に中国語のコンテンツとは大きく異なります。フィルタリングは、トレーニング データから問題のある情報を取り除き、特別な注意が必要な単語のデータベースを作成することから始まります。 2月、同国の当局はAI分野に取り組む企業向けのガイドラインを発表した。その文書には、「社会主義の中核的価値観」に反する数千の単語と質問のデータベースを収集する必要があると記載されており、これは「国家権力を弱体化させる扇動」となる可能性がある。あるいは「国民の団結を損なう」。
中国の AI チャットボットのユーザーは、この取り組みの結果をすでに体験しています。ほとんどのシステムは、たとえば、4 年 1989 月 5 日の天安門広場での出来事や、国家元首がくまのプーさんに似ていることなどの質問に答えることを拒否します。チャットボットの Baidu Ernie と Alibaba Tongyi Qianwen は、さまざまなもっともらしい口実でこれを行います。同時に中国政府は代替チャットボットを立ち上げた。その回答は習近平の著作やインターネット情報局が提供するその他の公式文献に基づいている。しかし、中国当局にとって検閲だけでは十分ではない。AIは政治的話題について話すことを躊躇すべきではない。現在の標準では、大規模な言語モデルでは XNUMX% を超える質問を拒否すべきではありません。
開発者たちは当局との問題を避けようとして、依然として過激な行動をとっている。 「（当局によるテスト中、モデルたちは）答えなければなりませんが、解放された後は誰も彼らを監督しません。起こり得るトラブルを避けるため、一部の大型モデルでは習主席に関連する話題を全面的に禁止している」と上海のある企業の従業員は語った。 AI 応答を制御するための追加メカニズムが作成されており、その原理は電子メール システムのスパム フィルターに似ています。そして、バイトダンス (TikTok を所有する) が開発したモデルは、イデオロギー的に最も成功しています。復丹大学の研究者らは、このモデルに 66,4% という最高のセキュリティ評価を割り当てました。比較すると、OpenAI GPT-4o は同じテストで 7,1% のスコアを獲得しました。
中国のグレート・ファイアウォールの開発者として知られる方斌興氏は、最近の技術カンファレンスで、大規模な言語モデル用のセキュリティ・プロトコル・システムを開発中で、これが地元のAI作成者に広く使用されることを期待していると述べた。 「公開されている大規模な予測モデルには、単なるセキュリティ文書以上のものが必要です。リアルタイムのセキュリティ監視が必要です」と彼は説明しました。
出所：
出所： 3dnews.ru
