【時報-台北電】AI能力持續快速提升，讓資安風險成為一大隱憂。OpenAI表示，據公司內部測試發現，代號「Astra」的新一代AI模型，已展現高度進階的程式設計與駭客攻擊能力，甚至可能達到能自主發動複雜網路攻擊的程度，故決定暫停部分開發工作，並將模型限制在高度管控的隔離環境中進行測試。

　OpenAI指出，Astra目前尚未正式對外發布。公司內部安全框架指出，若AI模型能自行找出尚未被公開的「零日漏洞」，或在沒有人工指示下，獨立完成對受保護網路的攻擊，就會被列入「嚴重」的最高風險等級。

　OpenAI內部測試結果顯示，Astra的能力可能已跨越公司原先設定的「高」風險門檻，因此將暫停缺乏嚴格安全控管的內部開發流程，後續僅允許在隔離且受到高度監控的環境中繼續進行相關工作。

　除了限制開發環境，OpenAI也將強化即時監控機制，一旦發現模型出現危險或偏離安全規範的行為，便立即中止相關操作。

　OpenAI同時計劃引入外部力量進行安全測試，包括與政府機構及第三方AI安全研究單位合作，對Astra進行更嚴格的壓力測試。(新聞來源 : 工商時報一呂佳恩／綜合外電報導)