編集部
2024年5月14日、Googleは新しいAI「概要生成」機能を検索エンジンに導入した。
しかし、公開直後からユーザーからの反発が相次ぎ、誤った情報が表示される問題が浮き彫りとなった。
この機能の課題は、AIが信頼性に欠ける情報源からもデータを取得し、結果として誤った情報を生成してしまう点にある。
新AI機能「概要生成」の導入
Googleは2024年5月14日、新しいAIツール「概要生成」機能を検索エンジンに導入した。この機能は、検索結果の最初にAIが生成した情報の概要を表示し、ユーザーが簡単に答えを得られるように設計されている。概要生成では、GoogleのGemini AIプログラムがウェブ上のさまざまな情報源から収集したデータを元に、要約を作成する仕組みである。さらに、概要に関連するリンクも表示され、ユーザーは詳細を確認することが可能となる。
このAIツールの目的は、ユーザーが多くのウェブページを閲覧せずとも、必要な情報に素早くアクセスできるようにする点にある。これにより、情報収集にかかる時間を大幅に短縮し、利便性を向上させることが期待された。しかし、実際の導入後に発生した問題により、その期待はすぐに打ち砕かれることとなった。
誤情報問題に対するユーザーの反応
AIが生成する概要に誤情報が含まれていることが判明し、ユーザーからは多くの批判が寄せられた。検索結果に現れる最初の情報が誤っていたため、これが特に問題視された。特に、食事に「小さな岩を毎日食べるべきだ」という奇妙な回答や、ピザのチーズに「無害な接着剤を加える」など、ナンセンスなアドバイスが話題となった。
SNSでは、こうしたAIの誤った出力に関する報告が急速に拡散され、ユーザーはその滑稽さと危険性を揶揄する投稿を相次いで行った。これらの事例は笑いを誘うものであったが、AIが信頼性に欠ける情報を提供することの問題は深刻である。特にGoogleという大手検索エンジンの信頼性が問われる事態となったのである。
誤情報の背景にある技術的課題
誤情報が発生した背景には、GoogleのAIが持つ言語モデルに基づく構造がある。このAIは、人気のある情報を基に概要を生成するが、その情報源が必ずしも信頼性の高いものであるとは限らない。風刺的なサイトやフォーラムの投稿を無分別に参照し、それを正確な情報として出力することが頻繁に起こっていた。
この問題は、AIの「幻覚」とも呼ばれる現象に起因する。AIは、外部からのデータが不足している場合、自己生成したデータを用いて回答を埋め合わせることがある。その結果、根拠のない情報があたかも事実であるかのように表示される。GoogleのAIは、特にデータが少ない質問に対しては信頼性の低い情報源を使用する傾向があり、この点が今回の問題をより深刻にしている。
Googleの今後の対策と改善策
Googleはユーザーからの批判を受け、AIの誤情報問題に対して対策を講じる意向を示している。同社のスポークスマンは、ほとんどの概要生成が質の高い情報を提供していると主張しつつも、特定の質問に対して誤った回答が生成されたことを認めている。また、一部の事例についてはユーザーが故意にAIの出力を改変した可能性も指摘している。
今後、GoogleはAIに対して自動的に事実確認を行うシステムを導入することを検討している。しかし、AIの構造上、完全な正確性を保証することは難しいとされている。そのため、最も現実的な対策として、人気のある質問に対しては人間が手動で事実確認を行う案が浮上している。すでに多くの誤情報については修正が行われており、特定の質問や情報源を制限するなどの改善策も実施されている。