為因應多國重要選舉的到來，社群平台臉書、Instagram的母公司Meta於8日宣布，明年1月1日起，這兩大平台上的政治廣告若是人工智慧（AI）生成技術製作，均須加註標籤。
微軟公司也在7日宣布因應選舉的相關措施，包括讓選戰陣營在廣告中加上浮水印的工具。選民可藉此了解廣告是由誰製作，並確保這些廣告無法被其他人無痕變造。
美聯社報導，近來蓬勃發展的AI生成工具可快速生成仿真的音頻、圖像與影片，這些科技若遭惡意使用，可能被用於製作候選人的不實影像，或捏造選舉舞弊、投票所暴力等不實訊息。這些假訊息若加上社群媒體演算法的推波助瀾，所產生誤導選民效果恐達史無前例的地步。
明年有重大選舉的國家不只美國，還包括台灣、墨西哥、南非、烏克蘭、印度、巴基斯坦。
報導指出，Meta等科技公司都被批評未積極應對AI生成工具引發的風險。Meta發布新措施的8日當天，正好也是美國眾議院舉行有關「深偽」（deepfakes）技術聽證會的日子，而Meta的新政策恐怕難以根除外界的憂慮。
美國今年已不只一次出現AI生成的政治廣告。四月間，共和黨全國委員會（RNC）發布了一則完全以AI生成的廣告，意在展示拜登連任後的未來景象。廣告中以逼真的偽造照片顯示店面被木板圍封、街頭有武裝軍人巡邏、移民潮引發恐慌。這則廣告已被標示為AI生成影片。
今年6月，佛州州長狄尚特（Ron DeSantis）的競選總統團隊也發布針對共和黨內對手川普的AI生成圖像，顯示川普與前白宮防疫大將佛奇（Anthony Fauci）相擁的畫面。
目前歐盟已在積極制定規範AI科技的監管措施，相較之下，美國國會的立法進度還相當落後。美國聯邦選舉委員會先前已展開相關程序，準備在2024年大選前規範AI生成深偽技術製作的政治廣告。美國總統拜登上週也發表行政命令，敦促負責任地開發AI工具，要求AI開發者向政府提供其程式的安全數據等資訊。
