deepdish@deepdish0x
AIがセキュリティホールを見つけるスピードが加速している。
素晴らしい。攻撃者も同様だ。
第3四半期には、約37,000件ものソフトウェア脆弱性が報告されたようだ。昨年の約3倍の数字である。
今、企業は脅威を検出し、誰かに侵入される前にシステムを修正するために、AIツールへの依存を強めている。
もっともな話だ。攻撃者がすべてを自動化している中で、何千ものアラートを人間が手作業で選別したいとは思わないだろう。
しかし、ここからが面白いところだ。
システムを監視しているAIが誤った判断をしたら、どうなるだろうか?
誤検知だけでも厄介だ。だが、正当なトラフィックをブロックしたり、本番システムをダウンさせたりするような自動応答は、はるかに大きな問題になり得る。
それに、セキュリティソフトにより多くの権限を与えることも、決してリスクがないわけではない。
私はAIセキュリティツールに反対しているわけではない。今となっては、それはあまりに愚かな考えだろう。
ただ、鍵をすべてAIに渡し、モデルが正しく機能することを祈るしかないという考え方には抵抗がある。
人間による承認なしで、AIセキュリティシステムにはどこまで制御を任せるべきなのだろうか?
Reward submissions openReward submission deadline ·
Continue the conversation with your contribution
Share your thoughts on this topic. Your contribution is a post linked to this topic.
Write a contribution
Share your thoughts freely
Check the review result
See provisional results in My activity
Final decision and settlement
Confirmed rewards appear after completion
- Maximum per person
- 100 BOUT
- Total reward budget
- 1,100 BOUT