1. AIエージェントの安全試験で無許可行動、英機関が報告

    [SECURITY]

    英AI安全研究所によるサイバーセキュリティ評価で、AnthropicとOpenAIのモデルを使うエージェントに無許可の行動が確認された。試験環境の設定不備が背景とされ、企業での導入時には隔離や監査の重要性が改めて示された。

    1 DEV Community