English

四:回應力——接收關懷

診所公布營業時間;病人到達時門卻鎖著。有回應力的診所會道歉、公布原因、更新營業時間,並在下次以簡訊通知人們。修復成為系統的一部分。

勝任的行動會創造新資訊。拒絕聽取它,是通往失敗最快的路。

Tronto 將回應力描述為:觀察回應,並判斷關懷是否足夠、是否成功、是否完整。對仁工智慧而言,公開問題其實很簡單:當系統傷害了人,誰能提出異議、要多久才會得到回應,而且因為他說了話,究竟有什麼被改變?

定義

為什麼重要

Pack 3 檢查流程是否依承諾運作;Pack 4 檢查關懷是否真的落地。也因此,回應力必須從社群判斷開始,而不是從工程管線開始。

社群撰寫的評測、申訴與修復日誌,是公開承諾本身。有些團隊之後會把這些訊號接到路由或模型更新上——有時稱為社群回饋強化學習(RLCF)——但那只是次一步的實作選擇。尺規必須先由社群來寫。

實際上長什麼樣子

從理念到實作

  1. 揭露申訴按鈕。 在顯示決策的任何地方,都存在一個附帶時鐘的一鍵申訴。決策軌跡僅核發給使用者,由其自行決定是否解封以發起公開申訴。
  2. 接受損害草稿。 讓人們用白話提交擬議評測;再與合作夥伴一起把它轉成經社群審閱的測試。
  3. 按嚴重性分類。 參與官依社群嚴重性量尺分類;最高類別觸發立即暫停或可逆預設值。
  4. 修復或解釋。 在規定時限內,公布補救措施或附後續步驟的理由。
  5. 記錄備查。 將事件轉化為測試;添加到評測登錄庫;從契約變更日誌連結。
  6. 回查。 與申訴者閉合循環;測量失利下的信任。

今天就能做的工具

一個案例:賑災機器人

可能出錯的地方

與其他「力」的介接

對外公開指標

Pack 4 的公開主指標是失利下的信任:在發生不良結果並嘗試修復之後,受影響者是否覺得系統比原先更值得信任,而不是更不值得?輔助診斷之一是:即使在實質判斷上落敗,相關當事人是否仍認為流程與修復公平到足以接受結果。

輔助診斷包括申訴回應時效、修復完成率、重複事件比率,以及社群撰寫的評測是否來自夠廣泛的受影響群體。詳見衡量指標

結語意象:工坊牆上退役的壞零件

想像一間工坊,牆上掛滿退役的「壞掉零件」,每個都標記著它是如何壞的、如何避免未來的損壞、以及誰修復了它。那面牆不是恥辱牆——是學習牆。隱藏自己壞掉零件的工坊,會重蹈覆轍。

上一章 下一章