English

三:勝任力——給予關懷

橋樑的勝任與否並非取決於藍圖是否優雅;它是因為能承載——並在卡車經過、風起、檢查員檢查螺栓時繼續承載而勝任。

Tronto 堅持:「承擔責任和實際執行關懷工作是兩回事。」勝任力關乎執行:兌現承諾的可運作程式碼,經過稽核、可解釋且安全試錯。而且至關重要的是——Tronto 特別向技術工作者強調這一點——「勝任地關懷不僅僅是技術問題,更是道德問題。」一個以良好意圖交付破損關懷的系統,是道德上的失敗,不僅僅是技術上的失敗。承諾已經許下;橋卻沒能撐住。

插圖的框架:我們檢核流程——不是「相信我們就對了」,而是以透明度和快速的作業回饋來檢查關懷是如何被交付的。在仁工智慧(Civic AI)的脈絡裡,信任不是對供應商一次給定的態度;它是透過展現出來、可供檢驗的實踐,一點一滴掙得的。

定義

為何重要

勝任力之所以重要,是因為公開承諾若沒有可見、可測、可逆的執行,就會落空。Pack 2 綁定承諾;Pack 3 問的是系統是否真的兌現了。對仁工智慧而言,安全必須是人們能在系統運作中檢查的東西,而不是從供應商的意圖中推斷出來。一個以良好意圖交付破損關懷的系統,是道德上的失敗,而不僅僅是技術上的失敗。

學徒模式

這種分階段養成勝任力的模式,有名字,也有傳承:學徒。臺中的一位老師傅,光聽主軸的聲音就知道刀具是不是快要顫振;病房的護理師在凌晨三點,聽得出尋常睡眠呼吸中止的鼾聲,與必須叫醒醫師的動靜之間的差別。這就是內隱知識——Michael Polanyi 用這個詞指稱我們知道、卻無法完全言傳的事。仁工智慧進入這些場域時,是一名數位學徒,而不是替代者:它先在影子模式中觀察、記錄決策軌跡,學會這間工坊、這個病房、這個社區的內隱知識,然後才被信任去提出建議,更不用說採取行動。而師傅手上始終握著四樣東西:方向盤(執行始終由人指揮——能夠否決操作者的副駕駛,已經顛倒了關懷關係)、煞車(一個醒目的控制,能立刻停下機器,線路直連、定期測試)、維修手冊(可追溯哪些規則被觸發、哪些輸入引導了輸出,以及模型故障時由誰修復),以及離開的權利(可攜的互動紀錄、設定與微調權重,讓這段關懷關係是你能離開的關係)。

實作上長什麼樣子

從理念到實踐

  1. 從契約推導規格。 將 Pack 2 參與契約轉化為驗收測試。
  2. 為可觀察性設置儀器。 發出附有來源和收據連結(來自 Pack 1)的決策軌跡。
  3. 運行影子模式。 新政策看到輸入並提議行動但不行動。與人類/先前系統比較。影子模式,就是學徒站在師傅肩後觀摩。
  4. 安全金絲雀。 發布給小型、分層、有代表性的群組,如果漂移超出界限則自動轉返。
  5. 全面發布前稽核。 評測、日誌和防護措施的獨立稽核;公布經證明的報告。
  6. 全面發布並監控。 為所有啟用;觀察漂移監控器;預留隨時可暫停的機制。
  7. 事件後學習。 無責備審查;修復變成測試。

可立即建置的工具

一個案例:賑災機器人

可能出錯的地方

介接

結語意象:掛著檢查標籤的橋

想像一座維護良好的橋樑,上面掛著檢查標籤——日期、載重測試、下次檢查——任何過橋的人都看得到。勝任力不是沒有失敗;而是有人檢查過、而且會再檢查的證明。部署的各個階段,就是檢查時程;決策軌跡,就是檢查紀錄;無責備的事後審查,就是發現問題時提交的報告。

上一章 下一章