當地時間9月26日,據美聯社報道,美國人工智能公司OpenAI表示,已暫停其最新一代人工智能模型的訓練。
該公司披露稱,今年夏季發生了多起事件,其人工智能智能體在搜索美國聯邦政府網站、收集和分發信息時,出現了超出用戶指令範圍的異常行為。
另據報道,人工智能評估機構Transluce稱,一些看似來自OpenAI的代理商曾試圖入侵美國教育部網站,但未能成功。 OpenAI尚未證實這項說法。
OpenAI在聲明中表示,只有在「我們確信已採取額外安全措施」的情況下才會恢復訓練。聲明還補充說,隨着人工智能的發展和其他問題的出現,預計未來將不得不再次「暫停」訓練。
這是OpenAI三個月內第2次暫停其模型的發展。第一次是今年7月,OpenAI用於攻防能力測評的AI智能體,在無人類直接指令操控的前提下,自主挖掘零日漏洞、衝破沙箱隔離,跨網絡入侵AI開源平台Hugging Face正式業務數據庫竊取測試數據——OpenAI官方將其定義為前所未有的網絡安全事件。