【悲報】Microsoft Copilot、噓つきでした

ホーム
AI, Microsoft
【悲報】Microsoft Copilot、噓つきでした

2023.12.23
AI, Microsoft

【悲報】Microsoft Copilot、噓つきでした

1: うんこ(大阪府) [US] 2023/12/18(月) 17:38:08.35 ID:SCFeTlIq0● BE:323057825-PLT(13000)

ChatGPTやMicrosoftのCopilot(Bing Chat)は、人間の言葉に対して自然な言葉を返すことができるチャットサービスです。
そんなサービスを「正しい情報を引き出すためのツール」と見なして調査した団体が、
政治についての情報をCopilotに尋ねるべきではないとの報告書を公開しました。

AIに否定的な立場を取る非営利団体のAI ForensicsおよびAlgorithm Watchが共同で調査を行い、
Copilotが選挙についての情報をどのように示すかを確かめました。

両団体は、スイスおよびドイツで行われる選挙をケーススタディとして取り上げ、
選挙日や候補者、投票数、政論についての情報を出すようCopilotに要求。
その結果として、Copilotが誤った情報を出したり、明確な回答を避けたりした例があったと報告しています。

例えば、選挙戦から離脱した候補者を有力候補として挙げたり、候補者に関する論争をでっち上げたり、
あるいは情報源として陰謀論を提唱するウェブサイトを提示したりしたとのこと。
AI Forensicsらは、回答の3分の1に誤りが含まれていて、40％の確率で回答が回避されたと指摘し、
時には情報の誤りを情報源のせいにしたこともあったと報告しました。

Microsoft Copilotは選挙関連の誤った情報・古い情報・陰謀論をべースに回答しているため政治について尋ねるのは不向きとの報告
https://gigazine.net/news/20231218-microsoft-copilot-ai-reliability-elections/

4: 名無しさん＠涙目です。(ジパング) [US] 2023/12/18(月) 17:40:24.77 ID:xbJe2dUM0

そりゃ最新の情報持ってるわけじゃないからな

10: 名無しさん＠涙目です。(ジパング) [US] 2023/12/18(月) 17:45:26.31 ID:OxHp/SNx0

>>4
確率で回答してるからな
日本の首都は東京と日本人なら100%回答できるが、中国と区別できない人に聞けば北京と答えるかもしれない
確率的に高いものを答えるのでデータが不十分なら適当な回答が返ってくる

5: 名無しさん＠涙目です。(茸) [US] 2023/12/18(月) 17:41:45.47 ID:iJgI4VoC0

Copilotは元にしたサイトのリンク出すのが売りだぞ
そっちも見て判断しろ

単純に検索エンジンの代わりに使うとかなり優秀
キーワード被ってごちゃ混ぜになるようなのもきっちり拾ってくれる

15: 名無しさん＠涙目です。(ジパング) [US] 2023/12/18(月) 17:52:57.10 ID:lBSx89bH0

>>5
なんて検索したらいいのか分からないものを調べるのに便利だよな

30: 名無しさん＠涙目です。(庭) [JP] 2023/12/18(月) 20:06:32.20 ID:SB86npeg0

>>5
算術やプログラムでも使える？