U.S., U.K. 宣布合作安全測試 AI 模型

(SeaPRwire) –   英國和美國政府於本週一宣佈,兩國將合作安全測試人工智慧最強大模型。由英國科學、創新和技術國務卿Michelle Donelan和美國商務部長Gina Raimondo簽署的協議,列出兩國政府在此領域的合作計劃。

「我認為(該協議)標誌著我們在人工智慧安全領域的旅程進入下一階段,與美國政府緊密合作,」Donelan在華盛頓英國大使館的採訪中告訴時代雜誌。「我看美國和英國的角色是推動這個將成為一個研究所網絡的行業的真正驅動力。」

英國和美國人工智慧安全研究所分別於2023年11月英國政府在布萊切利公園舉辦的人工智慧安全峰會後一天內成立。Donelan表示,新的協議「正式」地和「為合作提供實質內容」。她還表示,該協議「為美國政府提供機會借鑒我們的經驗,因為我們的研究所已經運行並完全運作。」

兩個人工智慧安全測試機構將開發共同的人工智慧安全測試方法,使用相同的方法和基礎設施,根據新聞稿。兩個機構將根據國家法律和法規以及合同交流員工和共享信息。新聞稿還表示,兩個研究所計劃對公開可得的人工智慧模型進行聯合測試。

「英國和美國一直明確人工智慧安全發展是一個共同的全球問題,」美國商務部長在宣佈合作夥伴關係時的新聞稿中表示。「反映持續國際合作的重要性,今天的宣佈也將看到兩國在人工智慧模型和系統的能力和風險方面共享重要信息,以及人工智慧安全和安全性的基礎技術研究。」

像英國和美國人工智慧安全研究所開發的安全測試將在立法者和科技公司執行長努力減輕人工智慧系統風險方面發揮重要作用。開放AI和Anthropic公司分別開發的ChatGPT和Claude對話機器人已經發佈了安全測試如何影響其未來產品開發的預期。最近通過的歐盟人工智慧法案和美國總統拜登的行政命令都要求開發強大人工智慧模型的公司披露安全測試結果。

在李錫智首相領導下,英國政府在組織國際應對最強大人工智慧模型的行動方面發揮領導作用——通常稱為「前沿人工智慧」。英國為人工智慧安全研究所提供1億英鎊(約1.25億美元)資金。然而,儘管美國在經濟實力和幾乎所有領先人工智慧公司都設在其國土上的事實,美國政府至今只為美國人工智慧安全研究所提供1000萬美元資金。(負責美國人工智慧安全研究所的美國國家標準技術研究所長期資金不足。)Donelan駁斥美國在這個議題上貢獻不足的說法,認為1000萬美元資金未能充分反映美國政府在人工智慧領域的投入。

「他們在這個議程上投入時間和精力,」Donelan表示,她剛與Raimondo會面,Raimondo「完全認識到我們必須共同應對人工智慧帶來的機遇和風險。」Donelan認為,除了為美國人工智慧安全研究所提供1000萬美元資金外,美國政府「也正在利用政府現有的專家知識財富。」

儘管在人工智慧某些方面處於領先地位,英國政府決定不通過法律減輕前沿人工智慧的風險。英國工黨影子科學、創新和技術國務卿彼得·凱爾表示,工黨政府將通過法律規定科技公司必須與政府分享人工智慧安全測試結果,而不是依靠自願協議。然而,Donelan表示,短期內英國將避免監管人工智慧,以免限制行業增長或通過技術進步可能會過時的法律。

「我們認為現階段不應急於立法,」Donelan告訴時代雜誌。「這是我們與歐盟的分歧所在。我們要促進創新,讓這個行業在英國發展。」

備忘錄承諾兩國將與其他國家建立類似合作夥伴關係。Donelan表示,「許多國家正在或考慮建立自己的研究所」,但沒有具體列出哪些國家。(日本在2月宣佈建立自己的人工智慧安全研究所。)

「人工智慧不尊重地理界限,」Donelan表示。「我們必須在國際層面上合作和共享信息、專長,才能真正確保人工智慧成為人類福祉的力量。」