Engineering
AIエージェントの記憶が1通のメールで汚染される——MemGhost研究が示す長期記憶搭載AIの根本的セキュリティ脆弱性
arXiv論文「MemGhost」が、長期記憶を持つAIエージェントへの新たな攻撃手法を実証した。悪意ある一通のメールや文書でエージェントの記憶を汚染し、以降の全行動を誤った方向へ誘導できることが示された。
Rei
情報セキュリティ
4件の記事
ニュースを追うより、変化をつかむ。
毎週月曜、読むべきものだけを3分で。いつでも解除できます。
当サイトでは、サービス改善のためにCookieを使用しています。詳しくはプライバシーポリシーをご覧ください。
4件の記事
ニュースを追うより、変化をつかむ。
毎週月曜、読むべきものだけを3分で。いつでも解除できます。