Translated from English

AIセキュリティは「推奨」を行い、人間が「決定」を下すべきです。低リスクなアクション(疑わしいVMの隔離、再スキャンの強制、トリアージの警告など)には自律性を認めても問題ありませんが、本番環境の停止、トラフィックの遮断、アクセス権限の変更など、重大な影響を及ぼす操作には必ず人間の承認を必須とすべきです。真のリスクはAIが攻撃を見逃すことではなく、自動応答によって被害が拡大することにあります。階層化が重要です。AIには可逆的なアクションに対しては迅速に行動させ、不可逆的なものについてはエスカレーションを行う運用にしましょう。スピードと安全性は対立するものではなく、単に異なる閾値(しきいち)の設定が必要なだけです。

Loading comments…