橋樑的勝任與否並非取決於藍圖是否優雅;它是因為能承載——並在卡車經過、風起、檢查員檢查螺栓時繼續承載而勝任。

Tronto 堅持:「承擔責任和實際執行關懷工作是兩回事。」勝任力關乎執行:兌現承諾的可運作程式碼,經過稽核、可解釋且安全試錯。而且至關重要的是——Tronto 特別向技術工作者強調這一點——「勝任地關懷不僅僅是技術問題,更是道德問題。」一個以良好意圖交付破損關懷的系統,是道德上的失敗,不僅僅是技術上的失敗。承諾已經許下;橋卻沒能撐住。

插圖的框架:我們檢核流程——不是「相信我們就對了」,而是以透明度和快速的作業回饋來檢查關懷是如何被交付的。在仁工智慧(Civic AI)的脈絡裡,信任不是對供應商一次給定的態度;它是透過展現出來、可供檢驗的實踐,一點一滴掙得的。

定義

為何重要

勝任力之所以重要,是因為公開承諾若沒有可見、可測、可逆的執行,就會落空。Pack 2 綁定承諾;Pack 3 問的是系統是否真的兌現了。對仁工智慧而言,安全必須是人們能在系統運作中檢查的東西,而不是從供應商的意圖中推斷出來。一個以良好意圖交付破損關懷的系統,是道德上的失敗,而不僅僅是技術上的失敗。

學徒模式

這種分階段養成勝任力的模式,有名字,也有傳承:學徒。臺中的一位老師傅,光聽主軸的聲音就知道刀具是不是快要顫振;病房的護理師在凌晨三點,聽得出尋常睡眠呼吸中止的鼾聲,與必須叫醒醫師的動靜之間的差別。這就是內隱知識——Michael Polanyi 用這個詞指稱我們知道、卻無法完全言傳的事。

當這段關係出錯時,失敗很具體:供應商示範打開了「自主進給最佳化」。副駕駛不再等待老師傅接受建議,而是因為實驗室裡的基準圖表好看,就自行調整主軸轉速和切削深度。前幾分鐘,紙面上的切削數據更漂亮。接著聲音變了。老師傅伸手要放慢進給,卻發現自己的覆寫不再是預設路徑:系統辯解、延遲,或把她的輸入當成例外。學徒不再讓她的決定資訊更充分,而是在指揮培育者。

仁工智慧進入這些場域時,是一名數位學徒,而不是替代者:它先在影子模式中觀察、記錄決策軌跡,學會這間工坊、這個病房、這個社群的內隱知識,然後才被信任去提出建議,更不用說採取行動。而在這裡,培育者手上始終握著三樣東西:方向盤(執行始終由人指揮)、煞車(一個醒目的控制,能立刻停下機器,線路直連、定期測試),以及維修手冊(可追溯哪些規則被觸發、哪些輸入引導了輸出,以及模型故障時由誰修復)。可攜性與退出權仍然重要,但它們屬於 Pack 5 的團結力工作;此處較窄的測試,是在任何契約條款生效以前,可檢查性與覆寫權是否真的在房間裡管用。

實作上長什麼樣子

從理念到實踐

  1. 從契約推導規格。 將 Pack 2 參與契約轉化為驗收測試。
  2. 為可觀察性設置儀器。 發出附有來源和收據連結(來自 Pack 1)的決策軌跡。
  3. 運行影子模式。 新政策看到輸入並提議行動但不行動。與人類/先前系統比較。影子模式,就是學徒站在培育者肩後觀摩。
  4. 安全金絲雀。 發布給小型、分層、有代表性的群組,如果漂移超出界限則自動轉返。
  5. 全面發布前稽核。 評測、日誌和防護措施的獨立稽核;公布經證明的報告,並附上經驗證的執行率:被抽查的決策中,通過護欄且具備可用軌跡的比例。
  6. 全面發布並監控。 為所有啟用;觀察漂移監控器;預留隨時可暫停的機制。
  7. 事件後學習。 無責備審查;修復變成測試。

可立即建置的工具

一個案例:賑災機器人

可能出錯的地方

介接

結語意象:掛著檢查標籤的橋

想像一座維護良好的橋樑,上面掛著檢查標籤——日期、載重測試、下次檢查——任何過橋的人都看得到。勝任力不是沒有失敗;而是有人檢查過、而且會再檢查的證明。部署的各個階段,就是檢查時程;決策軌跡,就是檢查紀錄;無責備的事後審查,就是發現問題時提交的報告。

上一章下一章

牛津 AI 倫理研究院「加速哲人計畫」研究成果。

唐鳳Caroline Green。CC0(公眾領域)。插圖由 Nicky Case 創作。 全部漫畫詞彙表

Tenzin Yangtso 悉心培育的 jdd-kami 共同撰寫 ——完整紀錄見 GitHub 提交日誌