1: 少考さん ★ 2023/07/28(金) 11:04:37.52 ID:44RL1ofw
「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘 – ZDNET Japan
https://japan.zdnet.com/article/35207115/
Maria Diaz （ZDNET.com） 翻訳校正： 編集部2023年07月28日 09時42分
カーネギーメロン大学と非営利団体Center for AI Safetyの研究者らが協力し、OpenAIの「ChatGPT」、Googleの「Bard」、新興企業Anthropicの「Claude」など、AIチャットボットの脆弱性について調査した。その結果をまとめた報告書によると、これらは悪意あるプロンプトに対して脆弱であることが明らかになったという。
多くの人が、人工知能（AI）ツールを日常的に使うようになっているが、セキュリティーの脆弱性に対して、完全に無縁ではないことを肝に銘じる必要がありそうだ。
研究者らは、自動敵対的攻撃に対する大規模言語モデル（LLM）の脆弱性を検証した報告書で、（略）
※省略していますので全文はソース元を参照して下さい。
2: 名無しのひみつ 2023/07/28(金) 11:08:37.74 ID:JxUjSjD3
AIがより優れたAIを生成できると
一晩くらいで人類は滅亡しそう
一晩くらいで人類は滅亡しそう
4: 名無しのひみつ 2023/07/28(金) 11:18:40.43 ID:KjBRiANR
欺いたという情報だけでは、コメントしようがない
スクショくらい撮れよ
スクショくらい撮れよ
5: 名無しのひみつ 2023/07/28(金) 11:40:08.40 ID:aqwdZz1R
ただの統計処理マシンでしょ？
欺くも何も無いと思うんだけどな…
欺くも何も無いと思うんだけどな…
6: 名無しのひみつ 2023/07/28(金) 11:57:23.83 ID:2Vz+Vavy
差別的な言動や有害な情報を表示しないようにフィルターしてるんだが（しないと訴えられる可能性がある）、そのフィルターの回避方法があるよって調査か
8: 名無しのひみつ 2023/07/28(金) 12:34:52.68 ID:Y6avH3k7
脆弱性ってなんだろと思ったら、
プロンプト工夫したら有害発言フィルター回避できた、
ってだけの話だった
どうでもいいわ
12: 名無しのひみつ 2023/07/28(金) 15:23:50.66 ID:2SQVk/Cs
ネットやってる人間全体よりモラル上げるのは無理だわそれは
14: 名無しのひみつ 2023/07/28(金) 16:21:27.83 ID:OiCkskkU
AIはエラーや嘘を見抜けないって調べなくても言われてた事じゃん
17: 名無しのひみつ 2023/07/28(金) 17:30:45.41 ID:wTrJ8XHB
でも人間の方が騙されやすいんだろ
27: 名無しのひみつ 2023/07/30(日) 11:35:08.26 ID:zb7kfCK8
回答に嘘ばかりならべるし、今さらあざむくもへったくれもないだろ
管理人からひと言
現在のところ友人の発言より信頼度低いので妥当
この記事へのコメントはありません。