プロンプトインジェクション対策は①入力の長さ・文字種バリデーション②強固なシステムプロンプト境界設定③ツール呼び出しの権限最小化④アウトプットバリデーションの4点が基本です。エージェントの権限は最小限に制限し(最小権限の原則)、DBへの読み取り専用アクセス・外部APIのホワイトリスト制限を実装します。

AIの活用について無料相談承ります

製造業・中小企業へのAI実装、エージェント開発、AI教育など、お気軽にご相談ください。

無料相談はこちら