谷歌因右翼反對而暫停人工智慧功能陷入「難堪境地」

(SeaPRwire) –   對於 Google 雄心勃勃的人工智慧策略來說，二月看來會是一個豐收月。該公司將其聊天機器人更名為 Gemini，並發布兩項主要產品升級，以便在白熱化的人工智慧軍備競賽中與各方的競爭對手一較高下。在這一切的過程中，Google 還允許 Gemini 使用者產生逼真的人像。

最初並沒多少人注意到這項功能。像 OpenAI 等其他公司已經提供工具，讓使用者可以快速製作人像，然後用於行銷、藝術和創意激盪。與其他 AI 產品一樣，這些圖像生成器在開發過程中按照餵養資料存在延續偏見的風險。要求提供護士，有些 AI 服務比較可能會顯示女性；要求提供執行長，你經常會看到男性。

在 Google 推出這項功能後的數週內，Gemini 用戶注意到了另個問題。自2 月 20 日開始到整個星期，X 社群媒體平台上的用戶持續湧入大量 Gemini 不顯示白人的例子，即使是在白人很有可能占主導地位的歷史背景下，例如當使用者要求提供建國先賢或 1943 年的德國士兵影像時。不久後，擁有大量右翼受眾的人物和新聞媒體聲稱，他們對 Gemini 的測試顯示，Google 對白人另有隱藏議程，且只用了可疑的證據。

身為 X 所有者的伊隆·馬斯克加入了這場爭論，與數十篇關於這場毫無根據的陰謀的貼文互動，其中幾篇還指出個別 Google 領導人是這項政策的幕後主使。週四，Google 暫停了 Gemini 的人物形象生成。第二天，Google 高級副總裁 Prabhakar Raghavan 宣布暫停這項功能，試圖釐清公司的決定，但沒有深入解釋該功能為何會出問題。

Google 發布一款在處理歷史影像請求時配備不佳的產品，凸顯了科技公司在防止其 AI 系統放大偏見和錯誤資訊時面臨的獨特挑戰，尤其是在 AI 產品競爭帶來的壓力下，要求將 AI 產品快速推向市場。Google 沒有暫停發布有缺陷的圖像生成器，而是嘗試了一種權宜之計。

據兩位知情人士表示，當 Google 推出這項工具時，便加入了一項技術修復措施以減少輸出的偏見。這些人士要求在討論私人資訊時不要透露姓名。但他們說，Google 沒有充分預測到該工具出錯的所有方式，也沒有對其方法保持透明。

Google 過度矯正 AI 眾所周知的對有色人種的偏見，使其容易受到另一場關於多元性的批評風暴。多年來，這家科技巨頭一直面臨批評，錯誤地在「相片」應用程式中搜尋「猩猩」時顯示黑人的影像，並長期公開爭論是否適當地驅逐其道德 AI 團隊的領導人。

在適當地暫停這項工具而沒有充分說明系統為何做出這樣的回應後，Google 員工和其他矽谷人士現在擔心，該公司的舉措會產生寒蟬效應。他們表示，這可能會阻止人才致力於 AI 和偏見問題，這對該領域來說是一個至關重要的議題。

「以 Google 為首的整個科技產業再次陷入他們自己製造的可怕困境中，」東北大學研究 AI 系統和大型網路間資訊流動的助理教授羅拉·艾德爾森說道。「這個產業拼命需要將 AI 描繪成具有魔力，而不是，」她說道，指的是一個流行的比喻，用於描述 AI 系統如何透過統計模式配對模仿人類語言，而沒有真正的理解或理解。「但他們擁有的只是鸚鵡。」

「Gemini 是一個創造力和生產力工具，它可能並非總是準確或可靠，」Google 發言人在一份聲明中表示。「我們將持續迅速處理產品沒有適當回應的事件。」

在週二深夜發送給員工的電子郵件中，Google 執行長桑達爾·皮查伊表示，員工們一直「夜以繼日」地努力解決使用者對 Gemini 回應提出的問題，並補充說，公司已註冊「在各種提示中大幅改進」。

「我知道它的一些回應冒犯了我們的使用者並表現出偏見，說清楚一點，那完全不能接受，我們弄錯了，」皮查伊寫道，備忘錄首先由 Semafor 報導。「沒有 AI 是完美的，尤其是在這個產業發展的初期階段，但我們知道我們的標準很高，我們將不懈追求，直到達成目標。我們會檢討發生的事情，並確保我們大規模地解決它。」

在過去一年裡，隨著公司加快推出 AI 產品的步伐以跟上 OpenAI 等競爭對手，從事道德 AI 的 Google 員工一直飽受士氣低落和無力感。Google 道德 AI 研究小組前共同負責人兼 AI 新創公司 Hugging Face 的首席道德科學家瑪格麗特·米切爾表示，雖然在 Gemini 影像中納入有色人種表明考慮到了多元性，但這也表示公司沒有充分思考用戶可能尋求建立影像的不同背景。當使用者搜尋的影像並非世界實際上在特定歷史時刻的模樣，而是他們認為世界應該有的模樣時，可能會考慮採用不同的多元性考量。

「Google 關注膚色多元性的事實是 Google 在短短四年內取得的長足進步。所以有點像是，進兩步，退一步，」米切爾說。「他們必須獲得認可，因為他們確實關注這些事情。只是他們需要做得更深入一點才能做對。」

Google 的圖像問題

對於 Google 來說，這家公司開創了一些當今 AI 繁榮的核心技術，一直以來都承受著巨大壓力，要求將影像生成做好。Google 非常擔心人們會如何使用他們的 AI 影像生成模型 Imagen，以致於在 Imagen 推出後長時間拒絕向公眾發布這項功能。

多年來，公司的團隊爭論過如何確保其 AI 工具在產生逼真的圖像時負起責任，這兩位知情人士說，他們要求在傳達內部討論時不要透露姓名。據一位消息人士稱，在某個時候，如果在 Google 內部嘗試使用 Google 的 Imagen 的員工要求該程式產生人類的圖像，或甚至包含人們的圖像，例如一座足球場，它就會回應一個黑盒子。另一位消息人士說，Google 在進行多次檢閱後才將產生人物影像的功能包含在 Gemini 中。另一位消息人士說，Google 沒有對該功能可能會產生意外結果的所有方式進行測試，但它被認為對於 Gemini 的圖像生成工具的第一個版本來說已經夠好了，該版本向公眾廣泛提供。他們說，儘管 Google 的團隊在建構這個工具時很謹慎，但公司普遍認為自己沒有為這種類型的後果做好準備。

隨著 X 上的使用者流傳 Gemini 的非歷史人物描寫，一位現任員工表示，Google 的內部員工論壇充斥著關於該模型缺點的貼文。在員工分享取笑公司的迷因的內部論壇 Memegen 上，一篇熱門貼文刊登了一張電視主持人安德森·庫珀用手遮住臉的照片。

「是一個扶額的動作，」這位員工說道。「有一種感覺，這顯然還不成熟……公司事實上正試圖迎頭趕上。」

Google、OpenAI 和其他公司在他們的 AI 產品中建立防護措施，並經常進行對抗性測試——