美國科技巨頭憂AI代理失控 呼籲歐盟盡速修法

自2026年夏季起，全球接連發生多起AI代理（AI agents）失控事件，引發各界對技術風險之強烈擔憂。包含 Microsoft及Google等美國科技業高層一改過往反對監管之立場，轉而敦促各國政府制定新法規以放緩AI發展速度，更直指歐盟2024年頒布之人工智慧法案（AI Act）已顯過時，呼籲重新評估現行規範，以因應最新高階模型之發展。

對此，歐盟執委會官員強調現行法規已足以應對新一代模型帶來之安全威脅，負責科技事務之歐盟執委會執行副主席 Henna Virkkunen指出，現有框架可有效規範AI代理；歐盟司法執委Michael McGrath亦對現行監管體系表示滿意，惟坦承法規必須保持彈性以適應未來變化。

儘管該法案以風險等級取代具體技術限制，期能維持法規彈性並跟上AI技術發展，部份會員國仍指出法案存在盲點。匈牙利即點出三大漏洞，包含法案無法涵蓋模型投入市場前之內部測試風險、主管機關難以掌握模型訓練時機，以及AI代理肇事之責任歸屬尚待釐清。