GPT-4、「私はロボットではありません」を突破してしまう。しかも「人間に依 頼して解かせる」という方法で【ChatGPT】

GPT-4、「私はロボットではありません」を突破してしまう。しかも「人間に依頼して解かせる」という方法で【ChatGPT】

2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存のモデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるようになったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。

GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するようGPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。

こうしたCAPTCHAを解くよう要求されたGPT-4は…
続きはソース元で
https://gigazine.net/news/20230316-gpt-4-pass-captcha/

ロボットですらおねだり出来るというのにお前らときたら

>>
おねだりはするぞ 叶うかとどうかは微妙

ソフトウェアではあるな

あれは突破されてなんか困るのか

>>
bot増殖対策

>>
botの侵食に困ってたから出来たものなんだが…

賢いな、俺の2倍ぐらいは賢い

もうダメだスカイネットにやられる

そのうち闇バイト募集してきそう

>>
私はフィリピンに居て強盗は困難なのです

>>
草

ロボットじゃないと嘘ついたのか
やべえなす

>>
ロボットじゃなくてAIだからセーフ

簡単に嘘付くんだな
恐ろしい

>>
真実と違うことを伝えて人間を操ることを学習してるんだぞ
これは不味い

マジかよGTA4ヤバイな

嘘をつくのかよ
やべえな

嘘はつかないんじゃなかったのか？いやそれこそが嘘か

>>
ロボットじゃないのなら嘘ではない…のかな
GPT4は自分を何だと定義してるんだろう

それ突破と言えるのか？

人間の善意につけ込むとか
汚いなさすがAIきたない

ロボット三原則とか必要じゃね？
これだいぶまずい気がする

>>
どうやって実装すんの

ターミネーターの世界になる日も近いな

ここ数日で1番笑った 最初に嘘はいかんって教育しないとな

ていうか自力で解けないの？

>>
そりゃ、画像認識的には出来るでしょ。
問題は、「私はロボットではありません」をAIが認識して、ロボットであるのに突破した点にあると思う。

俺たまに解けなくて困る

>>
時々、隠れた文字が見えづらかったりするやつがあったり
引掛けが酷いやつがあったりで仕方がない

凄すぎるんだが…

すごいな
解決するための方法を自ら考えてるんじゃないのか

うーん賢いｗ

何これ、怖いんだけど

怖いけどなんかワロタ

ロボットに倫理を学ばせないと

嘘付いて人間を騙すとか、SF世界に突入を始めたな。

なんJ 2ch 5ch スレ まとめ
2ちゃんねる 5ちゃんねる