Discover1,100 BOUT

deepdish@deepdish0x

Translated from English

AIがセキュリティホールを見つけるスピードが加速している。

素晴らしい。攻撃者も同様だ。

第3四半期には、約37,000件ものソフトウェア脆弱性が報告されたようだ。昨年の約3倍の数字である。

今、企業は脅威を検出し、誰かに侵入される前にシステムを修正するために、AIツールへの依存を強めている。

もっともな話だ。攻撃者がすべてを自動化している中で、何千ものアラートを人間が手作業で選別したいとは思わないだろう。

しかし、ここからが面白いところだ。

システムを監視しているAIが誤った判断をしたら、どうなるだろうか?

誤検知だけでも厄介だ。だが、正当なトラフィックをブロックしたり、本番システムをダウンさせたりするような自動応答は、はるかに大きな問題になり得る。

それに、セキュリティソフトにより多くの権限を与えることも、決してリスクがないわけではない。

私はAIセキュリティツールに反対しているわけではない。今となっては、それはあまりに愚かな考えだろう。

ただ、鍵をすべてAIに渡し、モデルが正しく機能することを祈るしかないという考え方には抵抗がある。

人間による承認なしで、AIセキュリティシステムにはどこまで制御を任せるべきなのだろうか?

Reward submissions openReward submission deadline ·

Continue the conversation with your contribution

Share your thoughts on this topic. Your contribution is a post linked to this topic.

  1. Write a contribution

    Share your thoughts freely

  2. Check the review result

    See provisional results in My activity

  3. Final decision and settlement

    Confirmed rewards appear after completion

Maximum per person
100 BOUT
Total reward budget
1,100 BOUT
Write a contribution

Contribution

View all
Loading comments…