道德人工智能並非造成 Google Gemini 慘敗的元兇

(SeaPRwire) –   本月稍早，Google 發布了其期待已久的「Gemini」系統，首次讓使用者能使用其 AI 影像生成技術。雖然大多數早期使用者都同意此系統讓人印象深刻，可以在幾秒鐘內根據文字提示創建出詳細的影像，但使用者很快發現很難讓系統生成白人的影像，並很快就有貼文顯示出令人費解的範例，例如 .

有些人批評 Gemini 「過於覺醒」，將 Gemini 當作文化戰爭中用來強調承認歷史歧視影響力的最新武器。許多人表示這反映出 Google 內部的萎靡不振，有些人則將「AI 倫理」領域當作一個令人尷尬的存在。

認為 AI 倫理工作需要負責的想法是錯誤的。事實上，Gemini 展示了 Google AI 倫理的課程。雖然 AI 倫理專注於解決可預見的用例（例如歷史描寫），但 Gemini 似乎選擇了「一刀切」的方式，導致令人尷尬的產出，有令人耳目一新的多樣性，也有令人尷尬的產出。

我應該知道。我在科技公司從事 AI 倫理工作超過 10 年，讓我在這方面的經驗成為世界上最資深的專家之一（這是一個年輕的領域！）。在我和我的共同領導人因我們的報告警告了語言生成中這類問題而被解僱之前，我還創立並共同領導了 Google 的「AI 倫理」團隊。許多人批評 Google 的決定，認為這反映出系統性的歧視，並優先考慮在 AI 中採用魯莽的速度，而沒有經過深思熟慮的策略。有可能，我強烈同意。

Gemini 的慘敗再次暴露了 Google 在我獨特具備資格提供協助的領域中缺乏專業的策略，現在我可以幫助公眾更廣泛地了解這些策略。本文將討論 AI 公司下次如何做得更好，避免在文化戰爭中提供極右派無益的彈藥，並確保 AI 未來能使儘可能多的人受益。

在 AI 中實踐倫理的關鍵環節之一，便是闡述可預見的用例，包括惡意使用和不當使用。這表示要找出以下問題的答案：一旦我們考慮建立的模型部署完成，人們將如何使用它？我們如何才能設計它，讓它在這些背景下發揮最大的效益？ 此途徑承認了在建立 AI 系統時「使用背景」的重要性。這類遠見和脈絡思考基於社會和技術的互動，對有些人來說較困難 — 而這正是人類電腦互動、社會科學和認知科學的專家們特別擅長的地方（說明了科技招聘中跨學科的重要性）。這些職務通常不會像工程職務那樣具有權力和影響力，我的猜測是，在 Gemini 的案例中也是如此：那些最擅長闡述可預見用途的人沒有得到授權，導致一個無法處理多種類型適當用途的系統，例如描繪歷史上白人的群體。

當組織將所有用例當成一個用例，或者根本沒有對用例建模時，事情就會出錯。因此，在沒有針對不同背景下的用例進行以倫理為基礎的分析的情況下，AI 系統可能沒有「引擎蓋下的」模型來幫助識別使用者要求的內容（以及是否應該生成）。對於 Gemini 來說，這可能涉及確定使用者是否正在尋找具有歷史意義或多元化的圖像，以及他們的請求是否模棱兩可或惡意。我們最近看到同樣未能建構健全的模型以預見用例導致了 .

為了提供協助，我多年前製作了以下圖表。任務是填寫單元格；我已經用幾個特別與 Gemini 相關的範例填妥了單元格。

綠色單元格（最上面一行）是 AI 最可能帶來益處的單元格（並不是 AI 永遠都會帶來益處的單元格）。紅色單元格（中間一行）是 AI 最可能造成傷害的單元格（但也可能是無法預見的有利創新發生的單元格）。其餘的單元格比較可能出現混合結果 — 有些結果是好的，有些則不佳。

後面的步驟包括找出不同背景下的可能錯誤，針對受到歧視影響的次群體解決不成比例的錯誤。Gemini 開發者似乎已經很大程度上做對了這部分。團隊似乎有先見之明，認識到在中立或正面的情況下過度代表白人的風險，這會放大有問題的白人主導世界觀。因此，Gemini 內部可能有一個子模組，設計用於向使用者顯示較深的膚色。

顯然，這些步驟在 Gemini 中很明顯，但涉及可預見用處的步驟則不這麼明顯，部分原因可能是公眾對 AI 系統中偏見的認識提高所致：親白偏見是一個很容易預見的公關惡夢，與相呼應，而處理「使用背景」的細微方法並非如此。最終結果是系統在將可預見的適當用例納入考量時「表現不佳」。

高層次的重點是，技術有可能讓使用者受益，並最大程度地減少對最可能受到負面影響者的傷害。但您必須讓擅長處理此事的人員參與開發和部署決策的制定。而這些人在科技領域經常是被剝奪權力（或更糟）的人。事情不一定要如此：我們可以為 AI 採用不同的途徑，讓能力合適的人能夠協助處理他們最擅長協助的事務。在尋求不同觀點而不是打壓不同觀點的地方。要做到這一點需要進行一些粗略的工作和激怒一些人。當我們開始看到科技主管與 Gemini 生成的圖像一樣多元時，我們就知道自己走上了正軌。