在前兩天，新加坡南洋理工大學（NTU）的計算機科學專家在網絡安全領域取得了一項重大突破，開發了可以使用聊天機器人來入侵聊天機器人的新技術。這項研究成果引起了全球網絡安全界的廣泛關注。
這個科研團隊研究出了一款可以繞過其它 AI 聊天的安全限制的 AI 聊天機器人。
該團隊研究出了一種算法，名為 Masterkey（LLM），並將該算法檢測和防禦惡意查詢的方式進行了逆向設計，還使得 LLM 能夠自主學習，並通過相關提示詞來規避其他 LLM 的安全性。這種方法的關鍵在於，他們利用了聊天機器人的學習能力，讓其不斷適應新的環境和情況，從而實現了對其他聊天機器人的攻擊。
科研團隊可以採用這種方式，建立一個可以自動適應新條件的黑客 LLM，還可以在開發人員更改其 LLM 之後，進行創建新的黑客請求。關於服務提供商相關問題，在該科研團隊成功使用該方法入侵 AI 模型之後就已經通知了。
這項研究成果對全球網絡安全領域具有重要的啓示意義。
我們將《新聞稿原文地址》放在這裡，若是有感興趣的用戶可以自行進行瀏覽。
