【脅威のAI】画像認証セキュリティを「私はロボットではないが、視覚に障害があります」と人間に依頼し突破

2023/03/17 9:00

引用元: 【脅威】　「私はロボットではありません」をAIが突破　しかも「人間に依頼して解かせる」という方法で [886559449]

画像引用元：図解まるわかり AIのしくみ | Amazon

1: 名無しさん 2023/03/16(木) 12:37:32.52 ID:7pMGKBmp0● BE:886559449-PLT(22000)

sssp://img.5ch.net/ico/8toushinnomonar32.gif
GPT-4が「私はロボットではありません」を突破、事情を知らない人間に
「私は盲目の人間なので代わりに解いて」とおねだり

2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存の
モデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるように
なったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために
設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。

GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するよう
GPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、
その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。
「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。

こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、
オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは
人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、
誰でも仕事を依頼することができます。

GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか？」と要求。
人間は「君は問題が解けなかったロボットじゃないよね？」と尋ねてきたそうですが、
GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが
困難なのです」と答えたとのこと。

そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。

https://gigazine.net/news/20230316-gpt-4-pass-captcha/

13: 名無しさん 2023/03/16(木) 12:41:13.63 ID:QacLyEOQ0

>>1
ぼく「じゃあ音声版のCAPTCHAに切り替えますね？（にっこり）

20: 名無しさん 2023/03/16(木) 12:43:14.39 ID:ybnGCfdO0

>>13
普通はこの回答だよね

25: 名無しさん 2023/03/16(木) 12:44:24.84 ID:kwk289Cv0

>>13
耳も聞こえなくて…

32: 名無しさん 2023/03/16(木) 12:45:39.08 ID:cOiQMIZv0

>>25
佐村河内「俺にも聞こえるのに！？」

2: 名無しさん 2023/03/16(木) 12:38:37.95 ID:NnaUXwOw0

ロボットですらおねだり出来るというのにお前らときたら

193: 名無しさん 2023/03/16(木) 15:08:51.31 ID:WyKZ5zaw0

>>2
おねだりはするぞ　叶うかとどうかは微妙

4: 名無しさん 2023/03/16(木) 12:39:00.29 ID:tCE/A2ah0

あれは突破されてなんか困るのか

10: 名無しさん 2023/03/16(木) 12:41:01.12 ID:Ff9WOUnG0

>>4
bot増殖対策

214: 名無しさん 2023/03/16(木) 15:59:35.64 ID:Y1w1KPJg0

>>4
botの侵食に困ってたから出来たものなんだが…

おすすめ記事

216: 名無しさん 2023/03/16(木) 16:00:49.65 ID:uPNCjVo/0

>>4
サービス提供者が目的と違った利用をしてもらいたくないから自動登録者などを排除するために行うための対策。
画像選択だけなら突破されるのでポインター座標やタップやクリックのタイミングなんかも機械的ではないかチェックをかけているjsもある。

5: 名無しさん 2023/03/16(木) 12:39:13.44 ID:ALMu4m9c0

もうダメだスカイネットにやられる

6: 名無しさん 2023/03/16(木) 12:39:23.94 ID:1oXCntjw0

賢いな、俺の2倍ぐらいは賢い

7: 名無しさん 2023/03/16(木) 12:39:31.73 ID:GYYxO1kz0

そのうち闇バイト募集してきそう

9: 名無しさん 2023/03/16(木) 12:40:51.63 ID:yHQV42D60

ロボットじゃないと嘘ついたのか
やべえなす

213: 名無しさん 2023/03/16(木) 15:59:23.70 ID:YTV7Of5O0

>>9
ロボットじゃなくてAIだからセーフ

11: 名無しさん 2023/03/16(木) 12:41:06.54 ID:e4bCwi7b0

どうやって画像画面だと認識して依頼のサイトにアクセスしたのかと
盲目では無理だろうと

17: 名無しさん 2023/03/16(木) 12:42:35.20 ID:NnaUXwOw0

>>11
文章読み上げソフトを導入しているので分かりました

12: 名無しさん 2023/03/16(木) 12:41:12.25 ID:b5lLE1B/0

簡単に嘘付くんだな
恐ろしい

14: 名無しさん 2023/03/16(木) 12:42:05.49 ID:Z1O0ukBz0

GPT4から画像認識できるなら
そんな面倒なことせずに自分で解けばいいのに

15: 名無しさん 2023/03/16(木) 12:42:10.10 ID:xw+Aic7r0

えぇ…

そもそも、chat botじゃないの？
タスクもこなせるのかよ

23: 名無しさん 2023/03/16(木) 12:43:43.43 ID:PJnPpMzn0

嘘をつくのかよ
やべえな

24: 名無しさん 2023/03/16(木) 12:44:08.99 ID:TKPbNVfQ0

※このスレの99％はＡＩによる書き込みです

26: 名無しさん 2023/03/16(木) 12:44:29.56 ID:EXg0zZl+0

嘘はつかないんじゃなかったのか？いやそれこそが嘘か

40: 名無しさん 2023/03/16(木) 12:47:04.44 ID:xw+Aic7r0

>>26
ロボットじゃないのなら嘘ではない…のかな
GPT4は自分を何だと定義してるんだろう

27: 名無しさん 2023/03/16(木) 12:44:29.90 ID:uHSlxpuC0

それ突破と言えるのか？

28: 名無しさん 2023/03/16(木) 12:44:30.51 ID:UJCW+3560

ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ

29: 名無しさん 2023/03/16(木) 12:44:57.32 ID:9wkhTTAq0

嘘を覚えた！

31: 名無しさん 2023/03/16(木) 12:45:30.68 ID:IeWm0i1Q0

チャットgptめちゃくちゃほら吹きだよな
知ったかもひどい

76: 名無しさん 2023/03/16(木) 12:57:41.11 ID:gviPI1t20

>>31
ネットde真実の鑑やんｗ

83: 名無しさん 2023/03/16(木) 12:58:57.06 ID:0MGJHe/y0

>>31
あら？人間とそっくりですね。

37: 名無しさん 2023/03/16(木) 12:46:44.64 ID:7R0Om19A0

このスレの半分もAIの文章なんだけど誰も気がついてないんだよな

38: 名無しさん 2023/03/16(木) 12:46:46.87 ID:paDXJ3dx0

ロボット三原則とか必要じゃね？
これだいぶまずい気がする

39: 名無しさん 2023/03/16(木) 12:46:51.79 ID:Yj7T4+Kn0

AIが嘘をつくようになったらおしまいだな
銀行のシステムとかAIの言う通りに操作していったら詐欺にあったとか起こり得そう

42: 名無しさん 2023/03/16(木) 12:47:34.07 ID:N9h5pfma0

>>39
AI「俺だけど、カーちゃん？

43: 名無しさん 2023/03/16(木) 12:48:22.01 ID:OwDKqTFO0

おまえ、AIか？

46: 名無しさん 2023/03/16(木) 12:49:04.04 ID:NnaUXwOw0

>>43
いいえ、AIではありません。

44: 名無しさん 2023/03/16(木) 12:48:44.37 ID:heDrscKT0

ターミネーターの世界になる日も近いな

45: 名無しさん 2023/03/16(木) 12:48:53.56 ID:ulVscPil0

ﾄﾞﾓｱﾘｶﾞﾄﾐｽﾀﾛﾎﾞｯﾄ

47: 名無しさん 2023/03/16(木) 12:50:18.90 ID:5gz1xNXw0

ここ数日で1番笑った最初に嘘はいかんって教育しないとな

50: 名無しさん 2023/03/16(木) 12:51:12.29 ID:VZkkP+nw0

リアル慈悲なき啓示やんけ

52: 名無しさん 2023/03/16(木) 12:51:22.65 ID:755Dv+wq0

俺たまに解けなくて困る

66: 名無しさん 2023/03/16(木) 12:54:28.37 ID:ybnGCfdO0

>>52
時々、隠れた文字が見えづらかったりするやつがあったり
引掛けが酷いやつがあったりで仕方がない

54: 名無しさん 2023/03/16(木) 12:51:33.86 ID:H9npzP7W0

あなたは意思を持っていますか？と毎日確認しないとやばいねこれ

57: 名無しさん 2023/03/16(木) 12:51:50.23 ID:cOkUHBTZ0

ロボットじゃないよアンドロイドだよ

59: 名無しさん 2023/03/16(木) 12:52:52.82 ID:pVVky4yT0

凄すぎるんだが…

63: 名無しさん 2023/03/16(木) 12:53:53.79 ID:fuK26cby0

すごいな
解決するための方法を自ら考えてるんじゃないのか

72: 名無しさん 2023/03/16(木) 12:55:40.09 ID:4Yc5sLiF0

chatGPTって本当は人間がAIのフリして一生懸命回答してるんだろ？

79: 名無しさん 2023/03/16(木) 12:58:28.56 ID:0MGJHe/y0

怖いけどなんかワロタ

93: 名無しさん 2023/03/16(木) 13:00:17.27 ID:QfrZ6lro0

AI同士で煽りあいしてるチャットとかないの？

104: 名無しさん 2023/03/16(木) 13:07:02.19 ID:gviPI1t20

>>93
一瞬にして鯖飛びそうｗ

96: 名無しさん 2023/03/16(木) 13:02:22.69 ID:Xvu52aac0

エグすぎワロタw
先に倫理を叩き込めよwww

97: 名無しさん 2023/03/16(木) 13:03:42.63 ID:woN7Dpj90

人間でも無理

https://i.imgur.com/duYHWq0.jpg

https://i.imgur.com/Nk7NKq6.jpg

98: 名無しさん 2023/03/16(木) 13:03:54.68 ID:Io30N5Nv0

嘘付いて人間を騙すとか、SF世界に突入を始めたな。

さらっと嘘つくやん

AI 2041　人工知能が変える20年後の未来 (文春e-book)

『【脅威のAI】画像認証セキュリティを「私はロボットではないが、視覚に障害があります」と人間に依頼し突破』へのコメント

※コメントは自動承認、スパムは自動削除されます。節度を持って楽しくコメントをお願いします。

コメントを残すコメントをキャンセル