此事是發生在用戶本周利用由Bard改名後的Gemini生成人物圖像的功能。但不少用戶發現Gemini生成的一些人物圖像有離譜錯誤，而歷史人物圖片上特別明顯，例如生成非裔的美國開國元勛、看起來不像Larry Page及Sergey Brin的Google創辦人，以及亞洲臉孔的納粹軍官、非裔天主教教宗等。顯然用以設計Gemini生成內容的平等、多元化原則套用在歷史人物上並不完全適用。

Google昨日已獲報Gemini產生歷史人物圖像發生不精確的問題。Google坦承Gemini的AI圖像生成功能的確產出各種人物，通常這是好事，因為使用者來自世界各地，但此時卻有點尷尬。

Gemini產品經理Jack Krawczyk在稍早的X貼文上指出（現已刪除），Google設計Gemini的圖像生成功能乃為了反映其全球使用者組成結構。

這不是生成式AI第一次出現圖片爭議。去年Midjourney的免費版AI圖片生成服務被人濫用生成天主教教宗方濟各（Pope Francis）穿著貌似知名品牌的外套，脖子上還掛著十字架項鍊。微軟的圖片AI生成工具也被用來產生知名藝人Taylor Swift的不雅照，但微軟隨後修正這項問題。

由於出錯容易引發爭議甚至當局介入，主要業者從OpenAI到微軟、Google、Meta等任何圖片或影片AI生成服務上線前，都會設下使用限制並找來專業團隊執行攻擊演練，防止濫用。