來源：騰訊網(wǎng)
（觀察者網(wǎng)訊）“人工智能的快速發(fā)展，可能會讓2024年大選充斥著虛假視頻?！泵绹度A爾街日報》6月5日以此為題發(fā)文稱，新興的生成式人工智能（AI）工具允許用戶更加輕松地合成圖片和視頻，這讓美國社會開始擔(dān)心，隨著政治分裂加劇，AI生成的虛假信息可能會干擾明年的美國總統(tǒng)選舉。
【資料圖】
《華爾街日報》報道截圖
文章稱，美國民主、共和兩黨的顧問表示，他們已經(jīng)開始測試使用ChatGPT等工具幫助起草演講稿、籌款電子郵件和短信，以及建立選民檔案。盡管AI生成的內(nèi)容仍需要進(jìn)一步的審查和編輯，但這項技術(shù)可以大幅減少競選活動的籌備時間。
這似乎意味著，AI正在成為“規(guī)則的改變者”，它允許美國政客在不依賴顧問和數(shù)字專家的情況下，以更低的成本和更快的速度生成內(nèi)容，幫助政客在競選活動中實(shí)時響應(yīng)社會事件。
但《華爾街日報》指出，隨著生成式AI的快速發(fā)展，成千上萬的用戶只需輸入簡單的信息，將可以合成復(fù)雜的視頻、照片、音頻和文本。這使得美國選舉官員面臨新的挑戰(zhàn)，即大量虛假信息可能干擾2024年美國總統(tǒng)選舉。
曾在美國前總統(tǒng)奧巴馬的競選團(tuán)隊擔(dān)任數(shù)字總監(jiān)的泰迪·戈夫（Teddy Goff）說：“AI還不會創(chuàng)造出我們從未想象過的全新類型的虛假信息，但它會讓生成虛假信息變得更容易、更快速、更廉價。其影響將是相當(dāng)深遠(yuǎn)的?！?
今年3月，美國網(wǎng)民使用AI生成的“特朗普被捕”圖片，一度在網(wǎng)上瘋傳
事實(shí)上，AI生成的虛假信息已經(jīng)開始干擾美國的政治活動。《華爾街日報》舉例稱，在今年2月舉行的芝加哥市長選舉第一輪投票前夕，社交媒體上出現(xiàn)了一段關(guān)于候選人保羅·瓦拉斯（Paul Vallas）的音頻，偽造瓦拉斯的聲音發(fā)表了“縱容警察暴力”的言論。
瓦拉斯在2月的第一輪投票中位居第一，但在4月舉行的第二輪投票中落敗。他的競選經(jīng)理布萊恩·湯恩（Brian Towne）表示，競選團(tuán)隊推測這段音頻是用AI偽造的，不過由于音頻沒有廣泛傳播，可能沒有對投票結(jié)果產(chǎn)生太大影響。
湯恩警告說，這起事件可能成為一個“危險的先例”，“對于知情的選民來說，他們能夠確定音頻是偽造的。但還有會很多不知情的選民，他們可能只看到了一小段視頻，然后就傾向于投票反對候選人?！?
5月22日，美國社交媒體上還出現(xiàn)過一張“五角大樓附近發(fā)生爆炸”的圖片。盡管美國政府官員很快證實(shí)，相關(guān)圖片是用AI偽造的，圖片發(fā)布者的賬號已經(jīng)被封禁，但這起事件一度導(dǎo)致美國股市下跌，并引發(fā)混亂。
美國消費(fèi)者新聞與商業(yè)頻道5月22日報道：“偽造五角大樓附近發(fā)生爆炸的AI生成圖像瘋傳”
《華爾街日報》還提到，美國前總統(tǒng)特朗普的競選團(tuán)隊和部分共和黨人最近也開始合成AI圖像，用于嘲諷民主黨陣營。4月25日，在美國總統(tǒng)拜登宣布將競選連任后，美國共和黨全國委員會在社交媒體上發(fā)布了一段視頻，描述了“拜登連任的噩夢場景”。該視頻的畫面均由AI生成。
美國共和黨全國委員會4月25日推文截圖，使用AI生成了有關(guān)“拜登連任”的場景
美國監(jiān)管機(jī)構(gòu)已經(jīng)發(fā)出警告，稱AI技術(shù)可以被用于“邪惡目的”，例如傳播有關(guān)投票時間和地點(diǎn)、選民登記截止日期或投票方式的虛假信息。美國科技行業(yè)領(lǐng)袖也呼吁社交媒體構(gòu)建新的標(biāo)簽系統(tǒng)，幫助用戶確定相關(guān)信息是否由AI生成。
美國國家人工智能安全委員會負(fù)責(zé)人、谷歌前CEO埃里克·施密特（Eric Schmidt）稱，“顯然，用戶不應(yīng)該在不知道信息來源的情況下，受到虛假信息的影響?！闭诖罅ν顿YAI技術(shù)的美國谷歌和微軟公司都表示，它們已經(jīng)著手研發(fā)可以標(biāo)記AI生成內(nèi)容的工具。
出于對AI技術(shù)可能造成危害的擔(dān)憂，拜登政府開始考慮對ChatGPT等AI工具進(jìn)行審查。據(jù)《華爾街日報》報道，美國商務(wù)部在4月11日正式就問責(zé)措施公開征求意見，包括新AI模型在發(fā)布前是否應(yīng)該通過認(rèn)證程序等問題。
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
標(biāo)簽：
