Discoverdeepdish
AI is finding security holes faster.
Cool. So are the attackers. Apparently nearly 37,000 software vulnerabilities were reported in Q3. Roughly triple last year's number. And now companies are leaning harder into AI tool…
Contribution
Fzaynn15@fzn15
Translated from English
AIセキュリティは「推奨」を行い、人間が「決定」を下すべきです。低リスクなアクション(疑わしいVMの隔離、再スキャンの強制、トリアージの警告など)には自律性を認めても問題ありませんが、本番環境の停止、トラフィックの遮断、アクセス権限の変更など、重大な影響を及ぼす操作には必ず人間の承認を必須とすべきです。真のリスクはAIが攻撃を見逃すことではなく、自動応答によって被害が拡大することにあります。階層化が重要です。AIには可逆的なアクションに対しては迅速に行動させ、不可逆的なものについてはエスカレーションを行う運用にしましょう。スピードと安全性は対立するものではなく、単に異なる閾値(しきいち)の設定が必要なだけです。