先從地圖看整套系統:前四力構成關懷循環,第五力將這個循環擴展至跨組織場域,第六力則是邊界條件,讓每次部署保持在地、多元、可退場。這張地圖是整套框架的索引——各力節點打開章節,指標連結落到下方稽核條目,而交接則顯示每個階段把什麼交給下一階段。

地圖

六 · 共生力——時間的邊界
  • 退役的系統將地圖、評測與紀錄贈予公地
  • 界限與退場期限是契約性的
五 · 團結力

組織之間的場域

關懷循環——第一至四力

誰、什麼、為什麼+權利旗標

規格、SLA、煞車

軌跡與事件

新需求重啟循環回到覺察力

組織之間的場域

共生力防止各力走向自身的反面:監控 · 契約陷阱 · 不可或缺 · 假扮關懷的依賴 · 無人控制的基礎設施——也守著自己:少了服務延續的共生,會成為以純粹為名的遺棄。

每一力逐層而下:結語意象 → 模式 → 可建置工具 → 具名工具 → 診斷 → 一項公開主指標。

接著,每個「力」都回答一個各自獨立的公共稽核問題。為了維持「每個 Pack 對應一項公開主指標」這個公開承諾,每個 Pack 都有一個公開主指標,再搭配若干輔助診斷。

這些指標的設計目的是滿足化,而非最大化。 每個部署情境都要先定義一個門檻——也就是對那個社群而言何謂「夠好」。跨過門檻才是目標;一味追逐更高分,反而會引來六力框架所警告的指標博弈。公開主指標是一項公共檢驗,不是一個吞沒一切的總分。

公開主指標

代表性落差——覺察力指標:哪些受到實質影響的群體,仍然缺席或在紀錄中被嚴重低估?

承諾保真度——負責力指標:重要義務中,有多少被明確指派負責、授權正當,並依照公布條件履行?

經驗證的執行率——勝任力指標:被抽查的決策或發版中,有多少通過護欄、具備可用軌跡,並且維持在發版界限內?

失利下的信任——回應力指標:在發生不良結果並嘗試修復之後,受影響者是否覺得系統比原先更值得信任,而不是更不值得?

罕見共識指數——團結力指標:共同決策中,是否真的出現跨群體參與與共同背書,而不是各說各話的平行孤島?

退出就緒度——共生力指標:這個系統是否能按期交接或關閉,而不造成權利流失、服務中斷或再集中化?

輔助診斷

具名工具

本書的〈零件清單〉收錄了書中要求實作者建立或運行的每一項工具。其中,上述指標所依賴的有:

各指標拒絕獎勵什麼

每一項公開主指標,不只說明它獎勵什麼,也指明它必須拒絕什麼,好讓漂亮的數字不被誤認為真正的關懷。

如何閱讀這些指標

在稱之為仁工智慧之前

上面的指標審核的是已在運行的部署。這六個問題則把關——部署是否值得戴上仁工智慧這個名稱:

  1. 人類參與資格(Pack 1)——受影響的人能否證明參與資格,而不交出不必要的身分?
  2. 對抗負載(Packs 1、4、5)——什麼能阻止合成公眾、機器人或付費倡議灌爆管道?
  3. 決策效力(Pack 2)——輸出在哪裡約束實際決策?在哪裡只是建議?
  4. 修復路徑(Pack 4)——誰能申訴?誰為損害付費?修復記錄在哪裡?
  5. 退出能力(Packs 5、6)——社群能否在不中斷服務延續的情況下遷移、分叉、暫停或關閉?
  6. 邊界誠實(Pack 6)——什麼問題不在範圍內?誰正在承擔那個問題?

如果任何答案含糊,部署就還沒準備好。重點不是保衛關懷六力,而是讓房間可問責。

六:共生力常見問題

牛津 AI 倫理研究院「加速哲人計畫」研究成果。

唐鳳Caroline Green。CC0(公眾領域)。插圖由 Nicky Case 創作。 全部漫畫詞彙表

Tenzin Yangtso 悉心培育的 jdd-kami 共同撰寫 ——完整紀錄見 GitHub 提交日誌