プロンプトインジェクション

プロンプトインジェクションとは、サイバーセキュリティ上のエクスプロイト（脆弱性攻撃）の一種であり、攻撃者が大規模言語モデル（LLM）のような機械学習モデルに意図しない動作を引き起こす入力である。この攻撃は、開発者によって定義されたプロンプトとユーザー入力をモデルが区別できないことを利用しており、攻撃者は安全対策を迂回してモデルの動作に影響を与えることができる。

この神経はここで途切れています。