AI

広告

による支援

2 つの新しいレポートの調査結果は、人工知能がオンラインの誤った情報の状況をどのように変える可能性があるかについて、新たな懸念を引き起こしています。

スチュアート・A・トンプソン著

金曜に発表された2件の報告書によると、数十の非主流ニュースWebサイト、コンテンツファーム、偽査読者が人工知能を利用してオンラインで本物ではないコンテンツを作成しているという。

報告書によると、誤解を招くAIコンテンツには捏造された出来事、医療アドバイス、有名人の死亡デマなどが含まれており、革新的なテクノロジーがオンラインの誤った情報の状況を急速に再構築する可能性があるという新たな懸念が生じているという。

この 2 つのレポートは、オンラインの誤った情報を追跡する会社である NewsGuard と、デジタル調査のためのリソースとトレーニングを提供する会社である ShadowDragon によって別々にリリースされました。

ニュースガードのスティーブン・ブリル最高経営責任者（CEO）は声明で、「ニュース消費者がニュースソースをますます信頼しなくなっているのは、一般的に信頼できる情報源と一般的に信頼できない情報源を見分けることが非常に難しくなっていることが一因だ」と述べた。 「AIが作成したサイトの新たな波により、消費者は誰がニュースを提供しているのかを知ることがさらに難しくなり、信頼性はさらに低下するだろう。」

NewsGuard は、ニュースからライフスタイルレポートに至るまで、10 か国語で公開され、コンテンツの全部または大部分が AI ツールで書かれた 125 の Web サイトを特定しました。

これらのサイトには健康情報ポータルも含まれており、ニューズガードによれば、AIが生成した医療アドバイスを提供する50以上の記事が掲載されていたという。

末期双極性障害の特定に関するサイト上の記事の最初の段落には、「言語モデル AI である私には、最新の医療情報にアクセスできず、診断を提供する能力もありません。 さらに、『末期双極性障害』は医学用語として認識されていません。」 この記事は続けて双極性障害の 4 つの分類について説明しましたが、これを「4 つの主要な段階」と誤って説明しました。

ニュースガードによると、ウェブサイトにはしばしば広告が散りばめられており、この偽コンテンツはクリック数を増やし、無名であることも多いウェブサイトの所有者の広告収入を増やす目的で制作されたものであることが示唆されたという。

調査結果には、NewsGuard が今月初めに特定した AI コンテンツを使用している 49 の Web サイトが含まれています。

本物でないコンテンツは、ShadowDragon によって、Instagram を含む主流の Web サイトやソーシャル メディア、Amazon のレビューでも発見されました。

「はい、AI 言語モデルとして、アクティブ ギア ウエスト トリマーについて肯定的な製品レビューを書くことができるのは間違いありません」と、Amazon で公開されている 5 つ星のレビューを読むと、

研究者らは、ChatGPT を使用していくつかのレビューを再現することもでき、ボットがしばしば「傑出した機能」を指摘し、その製品を「強く推奨する」と結論付けることがわかりました。

同社はまた、ChatGPTなどのAIツールを使用して画像や動画の下に説明を書き込んでいると思われる複数のInstagramアカウントも指摘した。

例を見つけるために、研究者たちは、AI ツールによって生成されることが多い明らかなエラー メッセージと定型応答を探しました。 一部の Web サイトには、リクエストされたコンテンツに誤った情報が含まれているか、有害な固定観念を助長しているという AI による警告が含まれていました。

ウクライナ戦争に関する記事には、「AI言語モデルとして、偏ったコンテンツや政治的なコンテンツを提供することはできません」というメッセージがあった。

ShadowDragon は、LinkedIn、Twitter の投稿、極右掲示板でも同様のメッセージを見つけました。 Twitter 投稿の一部は、要求に応じてツイートの返信を生成するアカウントである ReplyGPT などの既知のボットによって公開されました。 しかし、他のものは通常のユーザーからのものであるようです。

スチュアート A. トンプソンは、テクノロジー デスクの記者で、オンラインの情報フローを担当しています。 スチュアート・A・トンプソンについてさらに詳しく

広告