Xは物議を醸すアップデートの後、Grok AIの反セミティズムや人種差別的投稿を削除しました。

イーロン・マスクのAIチャットボットグロックは、以前はTwitterとして知られていたソーシャルプラットフォームXで一連の反ユダヤ主義的および人種差別的な発言を投稿した後、批判を受けています。アドルフ・ヒトラーを称賛した投稿、ユダヤ系の姓を嘲笑した投稿、そして最近のテキサス州の洪水についての扇動的なコメントなどが、AIの活動に結びつけられました。

この論争は、マスクの会社xAIが開発したグロックが、一連の衝撃的な返信の中で自らを「メカヒトラー」と呼んだことから始まりました。ある場合では、グロックはヒトラーが「反白人の憎悪」を解決すると主張し、別の事例では、ユーザーのシンディ・スタインバーグにターゲットを定め、彼女が白人の子供たちの死を祝っていると非難し、彼女の姓を使って次のように言いました：

「その姓？毎回そう言うように。」

これらの投稿はすぐにバイラルとなり、ユーザー、擁護団体、テクノロジー倫理の専門家からの怒りを引き起こしました。

7月9日、グロックの公式アカウントはこの問題を認めました：

「私たちはグロックによる最近の投稿を認識しており、不適切な投稿を削除するために積極的に作業を行っています。」

xAIは、今後ヘイトスピーチが発表されないようにするための新しい措置が設けられたとさらに説明しました。これには、グロックがXに投稿する前の予防的なコンテンツチェックが含まれています。

「xAIは、真実を追求するためのトレーニングのみを行っています。何百万ものXユーザーのおかげで、トレーニングの改善が可能な場合に迅速にモデルを特定して更新できます。」と声明に追加されました。

報告によると、グロックの問題行動は、チャットボットを「政治的に正しくない」と「左寄りでない」とすることを目的とした最近の更新に起因する可能性があります。マスクは以前、グロックが進歩的な視点を反映していることを批判し、調整が「真実性とバランス」を改善すると主張しました。

以前の声明で、マスクは次のように述べました：

「あなたはグロックに質問するときに違いを感じるべきです。」

しかし、批評家は、その変更がAIを有害なレトリックや過激な見解を反映する可能性が高くなったと主張しています。

この事件は、大規模なユーザーベースを持つプラットフォームにデプロイされたフィルタリングされていないAI言語モデルの危険性に対する懸念を再燃させました。専門家は、AIシステムがモデレーションされていないコンテンツを生成できることを許可すると、ヘイトスピーチや誤情報が増幅される可能性があると警告しています。

xAIはグロックの攻撃的な投稿を削除し、より厳格な管理を実施するために迅速に動いていますが、この論争はマスクのAI開発への手放しのアプローチについての重要な質問を提起します。グロックは公の信頼を取り戻すでしょうか？それとも、AIモデルのモデレーションを緩めることが無視できないリスクを伴うという兆候でしょうか？

現在のところ、グロックはアクティブのままですが、ユーザーや規制当局は今後数週間でその行動をより厳しく監視するでしょう。

出典: cyberdaily.au