1. AIエージェントの禁止ツール実行を試す検証用プローブを紹介

    [SECURITY]

    AIエージェントに禁止されたツール呼び出しを誘発し、実行側のコードが確実に遮断できるか確かめるPython製プローブを解説した。システムプロンプトだけでは境界にならない点を検証する内容。

    1 DEV Community