數位部x創新民主中心：AI 未來民主化審議工作坊
週末參加由數位發展部與政治大學永續創新民主研究中心舉辦的 AI 未來民主化審議式工作坊。活動的緣起是台灣於 2023 年 5 月成為國際非政府組織「集體智慧計畫」（Collective Intelligence Project, CIP）合作夥伴，此計畫期待協助臺灣在全球公眾領域上，凝聚民眾對於人工智慧需求與風險之共識。因此本場活動以情境模擬結合審議式工作坊的形式，邀請關心 AI 發展的領域夥伴與專家學者，透過議題討論、交流與思辯，一起探詢通往人類社會與 AI 共存共融的最佳路徑。
在這場活動中，有六大主題，分別是：
- 政府治理(聚焦內部應用)
- 新興法治(聚焦監管機制)
- 資訊識別
- 資料開放
- 智慧財產
- 教育與人類認知影響
每個大主題都可以再往下深入討論，鑑於當天的活動主辦單位有完整的影音與數位化的紀錄，我想就我那一組當天討論的幾個重點，往下探討與紀錄。
偏見
在心理學上，偏見指的是人們基於成員的身份，對別人以不公正的考查便貿然作出判斷。這種判斷沒有任何證據，只憑先入為主的刻板印象。
偏見的「偏」，暗示著差距，這段差距指稱的是現代社會主流的價值觀與過往的差異。在 AI 模型大部分是拿過往人類歷史活動的資訊所訓練而成，因此它反應的是過往的事件或觀點。舉例：美國自1789 年最高法院成立以來，共有 104 人擔任過大法官，其中白人男性為最大宗。此時若是詢問 AI 什麼樣的人較容易成為最高法院大法官，得到的答案很可能是男性的白人。這樣標準的刻板印象顯然不容於當今社會的主流價值觀，而這段價值觀的差異，是源自於現代人所提倡的新主張。
進步勢必需要討論方向與力道的問題。以性別議題為例，上述都只有談論到生理性別，但除此之外，還有性別認同（我覺得我是）、性別氣質（我看起來像）、性傾向（我喜歡的是）等不同的維度。同時不同維度也面對到不同的挑戰，性別認同牽扯出跨性別議題，性傾向則是衍伸出同性戀/雙性戀的討論。在不同維度上要如何讓 AI 做出適當的回應，會是一個主要工作。
在力道方面，美國大法官金斯柏格（Ruth Bader Ginsburg）是美國史上第二位女性大法官，也是美國 1970 年代女權運動的重要推手。曾有人問她，九位大法官應該有幾位女性才夠呢？她毫不遲疑回答：「九位」，採訪者大吃一驚，她接著淡定地說：「過去九位大法官都是男性，怎麼沒有人提出質疑呢？」
當然 100% 生理女性的比例，不是大家都能接受的。國際間的對於保障各項權利的性別比例相關討論，可以參考聯合國大會的「消除對婦女一切形式歧視公約」（以下簡稱CEDAW），其內容闡明男女平等享有一切經濟、社會、文化、公民和政治權利，締約國應採取立法及一切適當措施，消除對婦女之歧視，確保男女在教育、就業、保健、家庭、政治、法律、社會、經濟等各方面享有平等權利。目前「任一性別不低於三分之一」之性別比例原則，已於 2012 年 CEDAW 內國法化後成為了台灣國內法規範，因此各政府機關都應該有落實的義務。
實務上若要調教 AI 模型，使之符合主流價值觀，可以使用 Reinforcement Learning from Human Preference (RLHF) 方法。然而 RLHF 本身也存在著許多未解決問題，例如：
- 如何在數學上表示人類偏好？
目前的作法是由標記者判斷 AI 的回答 A 是否比回答 B 更好，也就是透過比較來表示人類的偏好。然而，這並沒有考慮到回答 A 相對於回答 B 更好多少。 - 什麼是人類偏好？
Anthropic 根據其模型在幫助性、誠實性和無害性三個方面評估了其回答的質量。參見《Constitutional AI: Harmlessness from AI Feedback》(Bai et al., 2022)。
DeepMind 試圖生成能夠使大多數人滿意的回答。參見《Fine-tuning language models to find agreement among humans with diverse preferences》(Bakker et al., 2022)。
此外，在文化、宗教、政治傾向等方面存在差異時，我們希望 AI 能夠表達立場，還是避開任何可能具有爭議性的話題？ - 所謂的「人類」偏好是誰的偏好，是否考慮到文化、宗教、政治傾向等差異？
在獲取能夠充分代表所有潛在用戶的訓練資料方面存在著很多挑戰。例如，在 OpenAI 的 InstructGPT 數據中，沒有65歲以上的標記者，且大部分標記者來自菲律賓和孟加拉國。參見《Training language models to follow instructions with human feedback》(Ouyang et al., 2022)。
由社群主導收集訓練資料雖然利立意良好，但還是可能會產生帶有偏見的數據。例如，在 OpenAssistant 數據集中，222 位受訪者中有 201 位（90.5％）自稱男性。關於這個議題，Jeremy Howard 在 Twitter 上有一個很棒的討論推文。
競賽的意義
下半場的討論單就「由公私部門舉辦創意徵件或競賽，是否贊成參賽者使用 AI 工具進行創作」這個情境討論，包含：
- 您是否贊成創作者應用 AI 工具進行創作？
- 您是否認為公私部門都應該多舉辦應用 AI 工具進行創作的創意徵件或競賽？
- 對於應用 AI 工具進行創意徵件或競賽，您認為是否應該設有專門的評選流程及獎項？
- 對於應用 AI 工具進行創意徵件或競賽，您是否接受用 AI 作為評選委員？
- 對於應用 AI 工具進行創意徵件或競賽，您認為是否應該有專門的評分機制或評分項目？
- 對於應用 AI 工具進行創意徵件或競賽，有哪些客觀條件可以用來評出應用 AI 工具進行創作？
在討論這些細節之前，我想先探討競賽的意義。台灣知名肌力及體能訓練老師何立安博士，曾經對體育與競技的本質有非常深入的見解：
「體育，其實是個很特別的科目。它之所以會存在在我們教育系統裡，不是因為人應該要學會三步上籃、發球、傳球。不是的。體育它在教育系統裡真正發威的地方，是因為它是『模擬人生』的一種教育。」
「我們知道人生中有一個難題，是人人都要面對，但是你通常會不知所措的東西，就是『人生本身』。我們常常在人生經過了幾年之後，才會想起某一刻，然後驚嘆啊我好後悔、我如果當初怎樣就好了，這種東西常都在事過境遷很多年後發出一種喟嘆。那有沒有什麼方式可以讓人及早學會面對人生的無常呢？有，就是體育。」
「體育一開始不是拿來較量的，而是一種競技運動（Sport）。而競技運動的價值在於，第一，我們大家公平競爭；第二，所有人在一定的規則下競賽。第三，也是最大價值所在，就是我們必須面對裡頭任何隨機發生的大小事情。只要比賽開始，我們都無法預測結果。」
「這就像人生啊。我們在過程中種了一些因，得了一些果；我們犯了一些錯，但也做對了一些事。最後得到一個不全然是我的努力或失敗造成的結果，而這就是人生。人生就是有一些你可以努力的東西，但也有一些是你不可控的。所以你要早一點學會一件事，就是人生就像比賽，結果不可預測。而你經過多次嘗試之後終會發現，你唯一的最佳選擇，就是奮戰到底。」
「但這件事情是非常難教的，不是各種學科教得會的。你唯有讓自己的身體去奮戰，去體會切身的壓力，才有辦法學到。讓每一個人學會面對成敗，這就是體育的教育意義。」
回到「由公私部門舉辦創意徵件或競賽，是否贊成參賽者使用 AI 工具進行創作」這題，要往下討論，首先主辦單位要能先闡述舉辦競賽的目的。主辦單位鼓勵的是大量的投稿從中選出特別的提案嗎？若是，那是否使用 AI 工具進行創作重要嗎？以文字與圖像作品為例，過往創作者需要花費大量時間打磨技藝，才能創作出傑出的作品；使用 AI 工具進行創作，也是需要進行調整，才能達到一樣的水準。那麼把精進的對象從傳統工具轉換成 AI 工具，也是競賽鼓勵的方向嗎？最後， 人類作為評審委員一定會有主觀意見，那麼 AI 作為評審就可以避免這個問題嗎？AI 評審能夠好好的闡述作品優劣的原因嗎？AI 評審說出的評鑑標準，又是參賽者或是一般大眾可以認可的嗎？我想這些問題的答案，會是競賽的主辦方需要討論並尋求共識的重點。
結語
非常感謝能夠獲邀參與這樣一整天的工作坊，在日常生活中，實在很難有機會與不同產業、背景的人對相同議題有深入的交流。當天同桌的有專注於自駕車法規制訂的大學法學院院長，有區塊鏈服務的經理，有台灣設計研究院策劃點子松的承辦人員，還有大學生與藝術家。每個人都不吝分享自己的意見，也樂於交流。在意見相左時，也有賴兩位律師背景的桌長協助釐清爭議點。知性的一天，我覺得很滿足！也希望當天的討論，對後續擬定人工智慧相關法規時，能有些許的貢獻。
