（自動翻訳）
2024/03/08
GoogleのGemini AIがビッグテックを擁護するために偽の書評を作成で逮捕
GoogleのGemini AIは、検索の巨人を守るために偽の書評を作成したことを著者が明らかにするなど、あらゆる間違った理由で見出しを飾り続けています。
著者のピーター・ハッソン氏が2020年に執筆した著書『The Manipulators: Facebook, Google, Twitter, and Big Tech's War on Conservatives』についてAIプログラムに質問したところ、チャットボットは実際には実在の人物に帰属する一連の偽のレビューをでっち上げ、信用を失墜させようとしていることがわかりました。
グーグルや他のテクノロジー企業の政治的偏見について書かれたこの本は、徹底的に調査され、ハッソンはリークされた文書や内部情報源から彼の執筆を参考にしました。どうやら、グーグルのAIプログラムが嘘を次々とつけて中傷しようとして、グーグルの神経を逆なでしたようだ。
グーグルは本書の説明文の中で、チャットボットは「具体的な証拠がなく、逸話的な情報に頼っていると批判されている」と書いている。
ハッソンは、自分の著書の受け止め方をつぶさに見守ってきた者として、そのような批判を思い出すことができず、そのコメントをしたAIに尋ねた。
そして、ニューヨーク・タイムズ、ワイアード、ワシントン・フリー・ビーコン、ニューヨーク・タイムズ・ブック・レビューに掲載されたとされる4つの否定的なレビューの要約を彼に提供した。
宣伝文句は非常に説得力がありました。例えば、AIは「The Washington Free BeaconのMatthew Continettiによる書評:この書評は、その主張を裏付けるために「逸話的証拠」と「チェリーピッキングの例」に頼っていると批判している」と書いています。
ワシントン・フリー・ビーコンは確かにこの本をレビューしたが、レビュアーは実際にはチャールズ・リーマンであり、彼の評価は信じられないほど肯定的だった。
彼は、この本は「徹底的に研究された」そして「優れた」本であり、「保守的であろうとなかろうと、賢明な読者なら誰でも憤慨するはずだ」と述べた。
発明されたのはワシントンフリービーコンのレビューだけではありません。すべてのレビューは完全にでっち上げられており、Geminiが著者に帰した引用も同様でした。
ハッソンがGeminiに引用されたレビューのソースリンクを提供するように頼んだとき、それらが存在しないことを知っていたにもかかわらず、チャットボットはパニックに陥ったようで、突然、役に立たないと主張しました。
それは彼に言った:「私はあなたの要求を助けるのに十分なその人についての十分な情報を持っていません。私は大規模な言語モデルであり、さまざまなプロンプトや質問に応答して人間のようなテキストを伝達および生成できますが、この人物に関する私の知識は限られています。この依頼で他に何かお手伝いできることはありますか?」
彼は粘り強く、毎回同じ一般的な返事が返ってきました。
Hasson氏がGoogleに問い合わせたところ、「Geminiは創造性と生産性のツールとして構築されており、必ずしも正確で信頼できるとは限らない」という型にはまった返事が返ってきた。
GeminiのAI画像ジェネレーターは、不正確さと目覚めた出力に対する批判に応えてプルしました
これは、最近、その不正確で目覚めた出力で話題になったのと同じAIです。例えば、民族や人種を特定する画像は作成しないという理由で、白人家族の画像の生成を拒否したが、黒人やヒスパニック系の家族の画像を作成することには積極的だった。
ナチスのイメージを作るように促されたとき、それは歴史的に正確な白人のイメージを作成することができなかったようで、代わりにSSの制服を着た他のさまざまな人種の人々を作成しましたが、教皇の描写は教皇の服を着たインド人の女性を示しました。
ユーザーの怒りと悪評に応えて、Googleは、いくつかの欠陥に対処する間、画像生成機能を一時停止すると発表しました。
