聊天機器人ChatGPT的創建者OpenAI移除了一款模仿一名美國總統參選人聲音的機器人，對政治競選活動使用人工智慧 （AI）的方式施加了限制。生成式AI崛起已開始令人擔心有心人士可能利用ChatGPT和其他平台，透過假消息或AI複製人來製造政治混亂，特別是今年全球各地將舉行多場重大選舉。
一個支持民主黨籍聯邦眾議員菲力普斯（Dean Phillips）的政治團體要求邁阿密一間新創公司創建一款聊天機器人，讓使用者與菲力普斯進行問答。菲力普斯在一眾有意參加總統大選的政治人物中，知名度並不高。
OpenAI说：「我們最近移除了一個開發者帳號，這個帳號故意違反我們的應用程式介面（API）（或平台）使用政策；我們的政策不允許從事政治競選，或在未經同意的情況下冒充個人。」
作為AI聊天機器人業界先驅，OpenAI因為這些顧慮而受到特別嚴格的檢視。OpenAI上週表示，將為使用者提供工具，以減少其技術可能帶來的危害。
惹出這場風波的「狄恩（菲力普斯）機器人」（Dean-bot）原本是要作為菲力普斯在民主黨初選中與現任總統拜登較勁的資訊工具。狄恩機器人仰賴OpenAI的技術。但在《華盛頓郵報》一則報導提供測試這款機器人的連結後，由科技公司微軟（Microsoft）支持的OpenAI火速將這款機器人下架。報導一出，受僱創建這款機器人的新創公司Delphi就被排除在OpenAI的平台之外。
Delphi依靠OpenAI的AI模型來創建能模仿網紅或名人聲音的機器人。在這起爭議過後，Delphi表示，從現在起，將「禁止任何政治團體或個人使用我們的平台」。
留言