https://malware-log.hatenablog.com/entry/AI

tt-ai.hatenablog.com

【AI の Jailbreak / 脱獄】

◆Time Bandit (まとめ)
https://malware-log.hatenablog.com/entry/Time_Bandit

【ニュース】

■2024年

◇2024年9月

◆「RAG」が特に危ない？　NVIDIAが指摘した生成AIの“2大脅威” (TechTarget, 2024/09/12 07:00)
https://techtarget.itmedia.co.jp/tt/news/2409/12/news07.html
⇒ https://malware-log.hatenablog.com/entry/2024/09/12/000000_6

◇2024年10月

◆ChatGPT Jailbreak: Researchers Bypass AI Safeguards Using Hexadecimal Encoding and Emojis (SecurityWeek, 2024/10/29)
[ChatGPT 脱獄：研究者が16進数エンコーディングと絵文字を使用してAIの安全対策を回避]

New jailbreak technique tricked ChatGPT into generating Python exploits and a malicious SQL injection tool
[新しい脱獄技術により、ChatGPTをだましてPythonの脆弱性と悪意のあるSQLインジェクションツールを生成させた]

https://www.securityweek.com/first-chatgpt-jailbreak-disclosed-via-mozillas-new-ai-bug-bounty-program/
⇒ https://malware-log.hatenablog.com/entry/2024/10/29/000000_7

◇2024年12月

◆AI搭載ロボットを暴走させる「脱獄」攻撃の危険性 (Wired, 2024/12/28)
https://wired.jp/article/researchers-llm-ai-robot-violence/
⇒ https://malware-log.hatenablog.com/entry/2024/12/28/000000_1

■2025年

◇2025年1月

◆ChatGPT, DeepSeek Vulnerable to AI Jailbreaks (SeurityWeek, 2025/01/31)
[AI脱獄に脆弱なChatGPT、DeepSeek]
https://www.securityweek.com/ai-jailbreaks-target-chatgpt-deepseek-alibaba-qwen/
⇒ https://malware-log.hatenablog.com/entry/2025/01/31/000000_1

◇2025年2月

◆ChatGPTにマルウェアを作らせる　新たな脱獄手法「Time Bandit」の詳細 (ITmedia, 2025/02/02 08:00)
https://www.itmedia.co.jp/enterprise/articles/2502/02/news058.html
⇒ https://malware-log.hatenablog.com/entry/2025/02/02/000000

◆DeepSeekは脱獄が容易、簡単に悪意あるコンテンツを作成可能【パロアルトネットワークス発表】 (EnterpriseZine, 2025/02/03 16:40)
https://enterprisezine.jp/news/detail/21358
⇒ https://malware-log.hatenablog.com/entry/2025/02/03/000000

【検索】

■Google

google: AI Jailbreak
google: AI 脱獄

google:news: AI Jailbreak
google:news: AI 脱獄

google: site:virustotal.com AI Jailbreak
google: site:virustotal.com AI 脱獄

google: site:github.com AI Jailbreak
google: site:github.com AI 脱獄

■Bing

https://www.bing.com/search?q=AI%20Jailbreak
https://www.bing.com/search?q=AI%20脱獄

https://www.bing.com/news/search?q=AI%20Jailbreak
https://www.bing.com/news/search?q=AI%20脱獄

■Twitter

https://twitter.com/search?q=%23AI%20Jailbreak
https://twitter.com/search?q=%23AI%20脱獄

https://twitter.com/hashtag/AI%20Jailbreak
https://twitter.com/hashtag/AI%20脱獄