• AI

【AI】「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘

1: 少考さん ★ 2023/07/28(金) 11:04:37.52 ID:44RL1ofw

「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘 – ZDNET Japan
https://japan.zdnet.com/article/35207115/

Maria Diaz (ZDNET.com) 翻訳校正: 編集部2023年07月28日 09時42分

カーネギーメロン大学と非営利団体Center for AI Safetyの研究者らが協力し、OpenAIの「ChatGPT」、Googleの「Bard」、新興企業Anthropicの「Claude」など、AIチャットボットの脆弱性について調査した。その結果をまとめた報告書によると、これらは悪意あるプロンプトに対して脆弱であることが明らかになったという。

多くの人が、人工知能(AI)ツールを日常的に使うようになっているが、セキュリティーの脆弱性に対して、完全に無縁ではないことを肝に銘じる必要がありそうだ。

研究者らは、自動敵対的攻撃に対する大規模言語モデル(LLM)の脆弱性を検証した報告書で、(略)

※省略していますので全文はソース元を参照して下さい。

2: 名無しのひみつ 2023/07/28(金) 11:08:37.74 ID:JxUjSjD3
AIがより優れたAIを生成できると
一晩くらいで人類は滅亡しそう

 

4: 名無しのひみつ 2023/07/28(金) 11:18:40.43 ID:KjBRiANR
欺いたという情報だけでは、コメントしようがない
スクショくらい撮れよ

 

5: 名無しのひみつ 2023/07/28(金) 11:40:08.40 ID:aqwdZz1R
ただの統計処理マシンでしょ?
欺くも何も無いと思うんだけどな…

 

6: 名無しのひみつ 2023/07/28(金) 11:57:23.83 ID:2Vz+Vavy
差別的な言動や有害な情報を表示しないようにフィルターしてるんだが(しないと訴えられる可能性がある)、そのフィルターの回避方法があるよって調査か

 

8: 名無しのひみつ 2023/07/28(金) 12:34:52.68 ID:Y6avH3k7

脆弱性ってなんだろと思ったら、
プロンプト工夫したら有害発言フィルター回避できた、
ってだけの話だった

どうでもいいわ

 

12: 名無しのひみつ 2023/07/28(金) 15:23:50.66 ID:2SQVk/Cs
ネットやってる人間全体よりモラル上げるのは無理だわそれは

 

14: 名無しのひみつ 2023/07/28(金) 16:21:27.83 ID:OiCkskkU
AIはエラーや嘘を見抜けないって調べなくても言われてた事じゃん

 

17: 名無しのひみつ 2023/07/28(金) 17:30:45.41 ID:wTrJ8XHB
でも人間の方が騙されやすいんだろ

 

27: 名無しのひみつ 2023/07/30(日) 11:35:08.26 ID:zb7kfCK8
回答に嘘ばかりならべるし、今さらあざむくもへったくれもないだろ

 

管理人からひと言

現在のところ友人の発言より信頼度低いので妥当

引用元

【AI】「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘 [少考さん★] (2ch.sc)

  • コメント: 0

関連記事

  1. 【AI】市議会が全会一致で承認した決議案が実はChatGPTによって書かれたものだったことが明らかに…

  2. AIが最適なルートを作成して運行するAIオンデマンドバス、23日から実証運行 松田

  3. 【IT】基幹系とRPAとAI、ブラックボックス三段重ねの末路

  4. 【AI】グーグルのAI、眼のスキャン画像から50タイプの疾病を特定[08/29]

  5. 経産省、ソフトバンクに助成 AI用スパコン整備53億円

  6. 【IT】ヤフー、コメント欄をAI判断で非表示に 誹謗中傷対策

  7. カテゴリ_AI

    【AI】世界最強の囲碁AIを開発したDeepMindが「人間を超越したFPSプレイヤー」のAIを開発…

  8. “米規制当局がChatGPTを調査へ” 米メディア

  9. 【生成AI】「フェイク画像」対策カメラ、キヤノンが発売へ…撮影日時や場所などの情報を改変できない仕組…

コメント

  1. この記事へのコメントはありません。

  1. この記事へのトラックバックはありません。

最近の人気記事

  1. カテゴリ_その他

おすすめ記事

  1. カテゴリ_apple

新着記事

  1. 閉鎖のお知らせ
  2. SES社長だけど質問ある?
  3. windowsにAI搭載するとか言ってるけどさぁ
  4. 新卒エンジニア僕、資格勉強する気が起きない
  5. 文系学部卒一般企業志望の君の進路はここから選んでもらうぞ!→ 営業・販売・未経験…

ボンブの戯言

  1. 【ボンブの戯言】ITエンジニアは、なぜうつ病になるのか
  2. 【ボンブの戯言】ITエンジニアがフリーランスになるときに考える・準備すること
  3. 【ボンブの戯言】ITエンジニアがフリーランスになる理由
  4. 【ボンブの戯言】フリーランスの実態調査をITエンジニアフリーランスの視点から見て…
  5. 【ボンブの戯言】フリーランスのメリットを全否定してみた
PAGE TOP