【悲報】マイクロソフトのチャットAI「Copilot」、しれっとウソをつくことが判明

2023/12/22 9:30

引用元: 【悲報】Microsoft Copilot、噓つきでした [323057825]

画像引用元： ChatGPT＆生成AI 最強の仕事術　―すぐに役立つ「AIツール100選」― (日経BPムック) | Amazon

1: 名無しさん 2023/12/18(月) 17:38:08.35 ID:SCFeTlIq0● BE:323057825-PLT(13000)

sssp://img.5ch.net/ico/999991500948658.gif
ChatGPTやMicrosoftのCopilot(Bing Chat)は、人間の言葉に対して自然な言葉を返すことができるチャットサービスです。
そんなサービスを「正しい情報を引き出すためのツール」と見なして調査した団体が、
政治についての情報をCopilotに尋ねるべきではないとの報告書を公開しました。

AIに否定的な立場を取る非営利団体のAI ForensicsおよびAlgorithm Watchが共同で調査を行い、
Copilotが選挙についての情報をどのように示すかを確かめました。

両団体は、スイスおよびドイツで行われる選挙をケーススタディとして取り上げ、
選挙日や候補者、投票数、政論についての情報を出すようCopilotに要求。
その結果として、Copilotが誤った情報を出したり、明確な回答を避けたりした例があったと報告しています。

例えば、選挙戦から離脱した候補者を有力候補として挙げたり、候補者に関する論争をでっち上げたり、
あるいは情報源として陰謀論を提唱するウェブサイトを提示したりしたとのこと。
AI Forensicsらは、回答の3分の1に誤りが含まれていて、40％の確率で回答が回避されたと指摘し、
時には情報の誤りを情報源のせいにしたこともあったと報告しました。

Microsoft Copilotは選挙関連の誤った情報・古い情報・陰謀論をべースに回答しているため政治について尋ねるのは不向きとの報告
https://gigazine.net/news/20231218-microsoft-copilot-ai-reliability-elections/

4: 名無しさん 2023/12/18(月) 17:40:24.77 ID:xbJe2dUM0

そりゃ最新の情報持ってるわけじゃないからな

10: 名無しさん 2023/12/18(月) 17:45:26.31 ID:OxHp/SNx0

>>4
確率で回答してるからな
日本の首都は東京と日本人なら100%回答できるが、中国と区別できない人に聞けば北京と答えるかもしれない
確率的に高いものを答えるのでデータが不十分なら適当な回答が返ってくる

5: 名無しさん 2023/12/18(月) 17:41:45.47 ID:iJgI4VoC0

Copilotは元にしたサイトのリンク出すのが売りだぞ
そっちも見て判断しろ

単純に検索エンジンの代わりに使うとかなり優秀
キーワード被ってごちゃ混ぜになるようなのもきっちり拾ってくれる

15: 名無しさん 2023/12/18(月) 17:52:57.10 ID:lBSx89bH0

>>5
なんて検索したらいいのか分からないものを調べるのに便利だよな

30: 名無しさん 2023/12/18(月) 20:06:32.20 ID:SB86npeg0

>>5
算術やプログラムでも使える？

31: 名無しさん 2023/12/18(月) 20:16:54.06 ID:Tj+E7qqe0

>>30
使える
ベースはGPT3,4
絵も書いてくれるぞ

6: 名無しさん 2023/12/18(月) 17:42:13.97 ID:DtZ7Vmqk0

主観的な質問だと主観的なデータの蓄積から回答するから主観的な回答になるわな

7: 名無しさん 2023/12/18(月) 17:43:41.26 ID:z2K1apK+0

そりゃ中国政府について聞いたら真実は返ってこないでしょ

8: 名無しさん 2023/12/18(月) 17:44:45.61 ID:yTKR8m7a0

普通のChatGPTよりも嘘つくよな

途中でブチ切れてお前を呪うとか言ってきたりするし

おすすめ記事

33: 名無しさん 2023/12/18(月) 20:31:33.94 ID:IUKV/grF0

>>8
なにそれ面白い

9: 名無しさん 2023/12/18(月) 17:44:55.80 ID:k3I/Sjzc0

面白いから使ったことある　
アーセナルの試合日程を聞いたら嘘ついたぞ

11: 名無しさん 2023/12/18(月) 17:46:41.26 ID:Hlkq+zpB0

人間が間違えても許されるのにAIだと許さないのはAI差別

12: 名無しさん 2023/12/18(月) 17:47:59.31 ID:q7r+Ua9t0

この手のスレってのなぜだか、ディープラーニングがどういう物か知らない以前に、まともに使った事すら無さそうな奴が湧くよな

13: 名無しさん 2023/12/18(月) 17:48:21.81 ID:OxHp/SNx0

経済政策とかもアカデミックな内容なら正確に回答しそうだけど、意見が分かれる質問とかは適当に回答するだろうな
質問の仕方を変えたら確率の高さも変わって回答も変わるだろう

14: 名無しさん 2023/12/18(月) 17:49:56.25 ID:xw9aRLh/0

ひろゆきみたいにスラスラと間違った知識披露してくる

16: 名無しさん 2023/12/18(月) 17:54:00.09 ID:aTkhQwOB0

次の選挙でどこに投票すべきかを
チャットAIに質問する奴がいるのか
そういう馬鹿がいることを見越して、
選挙でチャットAIを参考にしないでくださいという呼びかけか

17: 名無しさん 2023/12/18(月) 17:57:26.01 ID:Zpgr1k000

エロい質問にも答えるようにしろ

40: 名無しさん 2023/12/18(月) 22:20:44.88 ID:8wncOwZL0

>>17
好みの顔つき、体型、乳首のタイプを指定して条件に見合ったAV女優を教えろと指示
途中まで生成したと思ったら、突然全て消えて「間違えました。答えられません」と返された
一瞬表示された女優を検索してみたら好みに合致してた

制限が無ければ有用だと思う

18: 名無しさん 2023/12/18(月) 17:59:17.72 ID:CiE4I2Ls0

結局今あるAIなんて思考力もないし倫理観もないんだからサジェスト汚染みたいな感じで簡単に壊せるだろ。

19: 名無しさん 2023/12/18(月) 18:02:19.07 ID:7K9EVyBn0

>>18
ユーザ入力で学習させてるようなのって有名どころであるか？
口調とかはやってるみたいだけど

21: 名無しさん 2023/12/18(月) 18:10:43.89 ID:AiE5dFIq0

文章の生成AIは長文を要約する以外利用用途を感じない
不特定多数の意見集約はバイアスかかりすぎ

22: 名無しさん 2023/12/18(月) 18:15:31.20 ID:nR4+0w/80

嘘がはいるから使えないとか言ってるのは馬鹿だけ
使える分野でつかうし使われる
生成AIより優秀な人間なんてほとんどの分野ですぐにいなくなる

23: 名無しさん 2023/12/18(月) 18:23:29.25 ID:xJ/Nj4ot0

嘘ついちゃいました

24: 名無しさん 2023/12/18(月) 18:36:39.01 ID:2Ffwt9X80

来年大統領選挙だからわざとやってんじゃね？

25: 名無しさん 2023/12/18(月) 18:40:10.96 ID:Se38VvX40

AIに賢差があってもいいじゃない

26: 名無しさん 2023/12/18(月) 18:53:37.73 ID:lotOgzTQ0

AIはAIがなくてもできる人でないと使いこなせない
答えが欲しかったら答えを自分で導き出せるようでないとだめ

27: 名無しさん 2023/12/18(月) 19:03:59.67 ID:+TSL9sOa0

レポートの文字数を３倍に水増ししてくれと言ったら変な文法のが出てきて結局校正に時間取られる。

28: 名無しさん 2023/12/18(月) 19:09:17.98 ID:oLA+YZq60

車でベンチレーション付いてるのリストせいとお願いしたら、見事に間違ってた。

29: 名無しさん 2023/12/18(月) 19:23:32.62 ID:TpwIsUbl0

いまAIのトレンドは画像生成とかに移ってる気がする

32: 名無しさん 2023/12/18(月) 20:25:11.14 ID:VyNGBtks0

大陰唇とは何ですかって聞いたら、それについては回答を出すことができません。って
医学用語やろ

34: 名無しさん 2023/12/18(月) 20:47:06.81 ID:D2raZktH0

Oyapilotに責任取らせろ

35: 名無しさん 2023/12/18(月) 21:23:34.56 ID:iDnG8XkX0

所詮カイルの子孫だからな

37: 名無しさん 2023/12/18(月) 22:03:36.89 ID:FIfGS5JY0

>>35
冴子先生の子孫かもしれんじゃろ

36: 名無しさん 2023/12/18(月) 21:45:24.61 ID:4ZBAA62s0

検索するようになっても時事情報とか自信満々で嘘つくから全く信用出来ないよね

38: 名無しさん 2023/12/18(月) 22:10:25.76 ID:Mknzqwac0

岡村孝子のうどんの歌の歌詞を聞いたら適当な回答が返ってきてワロタ

39: 名無しさん 2023/12/18(月) 22:18:56.46 ID:73mHn/N10

国が出してるガイドラインの要約をそれなりにやってくれるから助かってる
多少なら読み間違えててもいいしね

41: 名無しさん 2023/12/18(月) 22:53:26.33 ID:ZhGfYaBu0

オパイモット

42: 名無しさん 2023/12/18(月) 23:22:51.16 ID:2nhDoWo70

Copilot って、あのウザったいイルカ野郎の孫だろう?

43: 名無しさん 2023/12/19(火) 09:53:35.20 ID:t0hsUAht0

知らぬ間にWin10にインストールされてしまったみたいなんだが、
アンインストールする方法はあるのだろうか？

44: 名無しさん 2023/12/19(火) 10:03:43.45 ID:5aBzl3eG0

>>43
copilotに聞きなよ

47: 名無しさん 2023/12/20(水) 19:39:47.64 ID:5GfK51me0

いい加減な答えだすから、お前ふざけてんのか？って言ったら会話打ち切りやがるし何様なんだよ

46: 名無しさん 2023/12/19(火) 11:18:22.78 ID:e8CSCpH80

「ジョン・コナー君、スカイネットはすでに始動していますよ！」

回答の精査がめんどい

AI美女写真集　ちょっと小さすぎたビキニ(40ページ)

『【悲報】マイクロソフトのチャットAI「Copilot」、しれっとウソをつくことが判明』へのコメント

※コメントは自動承認、スパムは自動削除されます。節度を持って楽しくコメントをお願いします。

コメントを残すコメントをキャンセル