川普本週簽署一項人工智慧（AI）安全行政命令，旨在緩解AI技術構成的國安威脅。此命令要求AI公司在向公眾發佈其最強大模型前，應自願提交給聯邦政府進行最長達30天的測試與評估。
該行政命令指出，先進的AI能力雖能強化國家實力，但也帶來新的國安考量，需要各行政部門和機構採取協調行動。為此，命令指示聯邦機構制定評估AI模型網路能力的基準，並建立一個「AI網路安全資訊交換中心」，負責審查和分享漏洞資訊，同時加強政府自身的網路防禦。
儘管該命令要求企業自願配合，但其明確聲明此舉並非為了建立強制性的政府許可、預審或發照機制。行政命令強調，政府將持續與業界緊密合作，確保最安全且最先進的技術能迅速部署，以應對國家面臨的所有威脅。
這項命令的推出背景，源於Anthropic在四月宣佈限制其Claude Mythos Preview模型發佈的消息。當時該模型被認為能夠識別及利用軟體安全漏洞，引發各界擔憂。隨後，財政部長史考特·貝森特和即將卸任的聯準會主席鮑爾緊急召集華爾街執行長會議，警告了Claude Mythos帶來的潛在風險。
各方對此命令反應不一。卡託研究所（Cato Institute）政策分析師Juan Londoño認為，這項行政命令雖不完美，卻是「為國家未來先進AI系統的發佈做好準備，邁出了正確的一步」。然而，他也擔憂政府在篩選AI模型和選擇「可信任合作夥伴」上的標準可能模糊，恐為企業帶來潛在的武器化風險。OpenAI的全球事務長Chris Lehane則表示，有效的安全框架應透過民主制度、技術專業知識和廣泛的利害關係人意見來發展，以促進問責制和公眾信任。
美國國會參議院情報委員會副主席馬克·沃納（Mark Warner）參議員對此政策表示歡迎，但也批評川普政府「延遲發現有必要重做其上任第一年倉促廢除的政策」。川普在去年重返白宮後不久，曾廢除前總統拜登的多項AI防護措施。這項新行政命令的簽署，也反映出川普政府對AI安全態度的轉變。
留言