Gemini AI恢復圖片生成功能 數據資料庫進行多層次過濾

Google的Gemini AI圖片生成功能於今年2月因產出具「種族多元化」的1943年納粹德國士兵圖像，遭暫時停用。而Google於8月28日正式宣布，已將新圖片生成模型「Imagen 3」納入Gemini，並開放給大家使用。根據Google《DeepMind》所述，Imagen 3在資料抓取、模型研發與製作過程中，均遵循安全及責任方針。公開在《ARXIV》的報告中提到，數據資料庫進行多層次過濾與標記，以降低有害輸出的機率。研發團隊首先移除不安全、暴力及低品質影像，接著移除AI生成圖像和重複的影像。資料庫中的每張圖片都有原人類作者提供的描述和Gemini生成的文字說明配對在一起，而這些文字均經過過濾。最後，團隊除了進行紅隊演練，還邀請外界團體評估模型內容的公平性、偏見程度及安全性。報告未提及數據資料庫內容的收集來源。負責Gemini的高級總監士川（Dave Citron）於Google官方部落格《The Keyword》中提到，Imagen 3在生成人類影像此方面有很大的改進。Imagen 3不支持生成容易辨認的個體、未成年兒童或帶有血腥、暴力或性意味的影像。士川坦承，Imagen 3並不完美，會等待使用者的回饋，以改善模型並持續進步。