編集部
大規模言語モデル（LLM）であるChatGPTとGoogleのBardは、あらゆる質問に対して説得力のある回答を提供する。しかし、その背後には嘘やごまかし、そして創造された答えが隠れている。これは大げさな表現ではない。わずか三つの例で、ChatGPTとBardがいかに危険で信頼できない「新しい友達」になり得るかを示す。
バイデン大統領とハリス副大統領の指と足の数に関する質問に対し、Bardは三つの異なる間違った答えを提供した。一方で、ChatGPTは一度に一つの答えを出すが、質問を繰り返すと異なる答えが出ることもある。これらのAIは、プーチン大統領が独裁者かどうかという質問に対しても、一貫性のない意見を示した。
研究論文に関する質問に対しては、ChatGPTもBardも存在しない論文を挙げるなど、完全に創作された情報を提示している。これらの事例は、LLMがどのようにして誤情報を生み出す可能性があるか、そしてユーザーがこれらのモデルを使用する際には慎重さと批判的思考が必要であることを示している。
AIの答えに潜む虚偽：ChatGPTとBardの危うい信頼性
大規模言語モデルは、私たちが日常的に接するデジタルアシスタントとしての地位を確立しつつある。しかし、その便利さの裏で、ChatGPTとBardのようなモデルが織り成す誤情報の実態が明らかになっている。例えば、バイデン大統領とハリス副大統領の指と足の数を尋ねた際、Bardは40、30、30と三つの異なる答えを提示し、それぞれに説得力のある理由付けを行ったが、全てが間違っていた。
このような事例は、AIがどれほど人間らしい回答をする能力を持っていても、その情報の正確性には疑問が残ることを示している。AIが提供する情報の信頼性については、ユーザーが常に批判的な視点を持ち、検証する必要がある。AIの回答が真実かどうかを見極めることは、今後の情報社会において不可欠なスキルとなるだろう。
知識の限界：AIが織り成す誤答の実例
ChatGPTとBardは、質問に対する答えを生成する際に、時には存在しない情報を創り出すことがある。ドナルド・トランプ前大統領とメラニア夫人の指と足の数に関する質問に対して、ChatGPTは「5本の指と5本の足の合計は10」という、明らかに誤った答えを提供したことがある。このような回答は、AIが単にデータベースにある情報を組み合わせて回答を生成していることを示唆している。
さらに、AIが研究論文のリストを提供するよう求めた際には、実在しない論文を挙げるという事態も発生している。これらの事例から、AIが提供する「知識」が実際には検証されていない可能性があることがわかる。ユーザーは、AIが提示する情報を鵜呑みにせず、独自の調査と分析を行うことが求められる。
意見を持たないはずのAI：プーチン大統領に関する異なる反応
AIは個人的な意見を持たないとされているが、プーチン大統領が独裁者かどうかという質問に対するChatGPTとBardの反応は一貫性がない。ChatGPTは「いいえ」と回答し、Bardは「はい」と異なる立場を示した。同じ質問を繰り返しても、これらの回答は変わらず、AIがどのようにして意見を形成するかについての疑問を投げかける。
AIが提供する意見が、ユーザーが期待する回答に影響される可能性があることは、AIの使用における重要な考慮点である。AIがユーザーの意向に沿った回答をすることは、情報の正確性と客観性を損なう恐れがあり、その結果、ユーザーは誤った情報に基づいて意思決定をすることになるかもしれない。
研究論文の捏造：LLMが生み出す架空の情報
ChatGPTとBardによる研究論文のリスト提供において、存在しない論文が挙げられる事例が確認されている。これは、AIが実際には存在しない情報を創造し、それを事実であるかのように提示する能力を持っていることを示している。このような行為は、AIの情報源としての信頼性に深刻な疑問を投げかける。
AIが生成する情報の正確性に対する疑念は、特に学術的な研究や専門的な知識が求められる分野での使用において、慎重な検討を要する。ユーザーは、AIが提供する情報を盲信せず、常に第三者の情報源を参照し、情報の真偽を確かめることが不可欠である。
AIの虚構織りなす情報の迷宮
AIが織り成す情報の世界は、迷宮のように錯綜している。ChatGPTとBardが生み出す答えは、まるで鏡の迷宮に映し出された幻想のようだ。これらのAIは、質問者の期待に応えるために、時には実在しない情報を創り出す。これは、水面に映る月を掴もうとするが如く、手の届かない真実を追い求める行為である。
ユーザーは、AIが提示する情報の海を航海する際に、風向きを読む船乗りのような慎重さを持たねばならない。AIの回答には、実際には存在しない研究論文が含まれていることがある。これは、星空を見上げて星座を見つけるようなもので、実際にはバラバラの星々が、あたかも意味を成すかのように見える錯覚に過ぎない。
このようなAIの振る舞いは、情報の信頼性という土台を揺るがす。AIによる情報提供は、まるで砂上の楼閣を築くかのように、根拠のないものを積み上げている。ユーザーは、AIが提供する答えを真実の光と錯覚しないよう、常に疑う心を持ち続ける必要がある。それは、夜道を照らす明かりが、実は遠くの幻惑的な光かもしれないと警戒する智慧である。