• AI

【AI】「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘

1: 少考さん ★ 2023/07/28(金) 11:04:37.52 ID:44RL1ofw

「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘 – ZDNET Japan
https://japan.zdnet.com/article/35207115/

Maria Diaz (ZDNET.com) 翻訳校正: 編集部2023年07月28日 09時42分

カーネギーメロン大学と非営利団体Center for AI Safetyの研究者らが協力し、OpenAIの「ChatGPT」、Googleの「Bard」、新興企業Anthropicの「Claude」など、AIチャットボットの脆弱性について調査した。その結果をまとめた報告書によると、これらは悪意あるプロンプトに対して脆弱であることが明らかになったという。

多くの人が、人工知能(AI)ツールを日常的に使うようになっているが、セキュリティーの脆弱性に対して、完全に無縁ではないことを肝に銘じる必要がありそうだ。

研究者らは、自動敵対的攻撃に対する大規模言語モデル(LLM)の脆弱性を検証した報告書で、(略)

※省略していますので全文はソース元を参照して下さい。

2: 名無しのひみつ 2023/07/28(金) 11:08:37.74 ID:JxUjSjD3
AIがより優れたAIを生成できると
一晩くらいで人類は滅亡しそう

 

4: 名無しのひみつ 2023/07/28(金) 11:18:40.43 ID:KjBRiANR
欺いたという情報だけでは、コメントしようがない
スクショくらい撮れよ

 

5: 名無しのひみつ 2023/07/28(金) 11:40:08.40 ID:aqwdZz1R
ただの統計処理マシンでしょ?
欺くも何も無いと思うんだけどな…

 

6: 名無しのひみつ 2023/07/28(金) 11:57:23.83 ID:2Vz+Vavy
差別的な言動や有害な情報を表示しないようにフィルターしてるんだが(しないと訴えられる可能性がある)、そのフィルターの回避方法があるよって調査か

 

8: 名無しのひみつ 2023/07/28(金) 12:34:52.68 ID:Y6avH3k7

脆弱性ってなんだろと思ったら、
プロンプト工夫したら有害発言フィルター回避できた、
ってだけの話だった

どうでもいいわ

 

12: 名無しのひみつ 2023/07/28(金) 15:23:50.66 ID:2SQVk/Cs
ネットやってる人間全体よりモラル上げるのは無理だわそれは

 

14: 名無しのひみつ 2023/07/28(金) 16:21:27.83 ID:OiCkskkU
AIはエラーや嘘を見抜けないって調べなくても言われてた事じゃん

 

17: 名無しのひみつ 2023/07/28(金) 17:30:45.41 ID:wTrJ8XHB
でも人間の方が騙されやすいんだろ

 

27: 名無しのひみつ 2023/07/30(日) 11:35:08.26 ID:zb7kfCK8
回答に嘘ばかりならべるし、今さらあざむくもへったくれもないだろ

 

管理人からひと言

現在のところ友人の発言より信頼度低いので妥当

引用元

【AI】「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘 [少考さん★] (2ch.sc)

  • コメント: 0

関連記事

  1. 電気使用量でAIが在宅か不在かを予測。1回の配達で荷物を相手に渡せなかった割合はわずか2%。

  2. 【ChatGPT】アルトマン氏、OpenAIのCEOに復帰へ

  3. 【朗報】イオングループが店員の笑顔とあいさつをスコア化するAIを導入

  4. 【AI】“電話応対 社員に代わりAIが” 人手不足で企業の活用広がる

  5. 【AI】AI普及で「中スキルの仕事減った」 需要増の業務は?

  6. 【ソフトウェア】PhotohopやIllustratorでも使える。AdobeのAIツールが正式リリ…

  7. 仕事のAI化が実現したら風俗もAI化されてしまう訳だが

  8. 【AI脅威論】AIのリスクは現実だが対応可能 ビル・ゲイツ氏が見解

  9. 【IT】WindowsもChatGPT対応に 既存ツールのAI化が加速

コメント

  1. この記事へのコメントはありません。

  1. この記事へのトラックバックはありません。

最近の人気記事

おすすめ記事

  1. カテゴリ_network
  2. カテゴリ_プログラム

新着記事

  1. 閉鎖のお知らせ
  2. SES社長だけど質問ある?
  3. windowsにAI搭載するとか言ってるけどさぁ
  4. 新卒エンジニア僕、資格勉強する気が起きない
  5. 文系学部卒一般企業志望の君の進路はここから選んでもらうぞ!→ 営業・販売・未経験…

ボンブの戯言

  1. 【ボンブの戯言】フリーランスのメリットを全否定してみた
  2. 【ボンブの戯言】サーバーって何なの(オンプレに限る)
  3. 【ボンブの戯言】フリーランスの実態調査をITエンジニアフリーランスの視点から見て…
  4. 【ボンブの戯言】ITエンジニアが徹夜してでも間に合わせる理由
  5. 【ボンブの戯言】ITエンジニアがフリーランスになるときに考える・準備すること
PAGE TOP