ga-post 2 [HTML9]

2018-10-11

保護自由:勸服科技的倫理守則

許多哲學家(和社會學家)擔心技術逐漸取代甚至凌駕人性,變成人類的牢籠。一般科技尚且如此,更何況是刻意設計來影響人們日常生活的行為嚮導技術。雖然行為嚮導技術意在幫助人們過得更健康、更經濟、更環保,但其背後的預設——人類常常缺乏做出正確行為的能力因此需要被控管——與當代民主社會的想像格格不入甚至針鋒相對,因此很容易被認定需要謹慎以待、小心以對,相關設計規範也逐一被提出。

勸服科技的倫理守則 Ethics for Persuasive Technology

勸服科技(persuasive technology)是最早發展出倫理守則的行為嚮導技術領域。雖然名稱創始者 B. J. Fogg 已經明白區分勸服與脅迫(coercion),但仍有學者提倡所謂「黃金準則」以為規範:設計者絕對不能透過勸服科技來勸服使⽤者去做設計者本身不會同意去做的事。雖然拗口,但邏輯是不是很熟悉?沒錯,它其實就是「己所不欲,勿施於人」的勸服科技版本。

此外,也有學者受到「勸服」一詞啟發,把人與人相處的溝通倫理應用到人與物的互動上。最簡單的,比如說,人與人之間不應「欺騙」,那麼送出虛假訊息的勸服科技也不應該。例如,電腦偵測到你久坐然後跳出「多坐一小時,智商少三十」的訊息,可能很有說服力但顯然過份誇張,這樣的設計就有違倫理。如果勸服科技被使用者發現不夠真誠(truthful),那麼使用者可能因此厭惡這個產品、甚至廣為宣傳,最終導致勸服科技以失敗收場。

另一個常被提到的守則是:勸服科技的設定目標必須獲得使用者同意。這條守則主要為了彌補黃金準則的不足。黃金準則預設了「設計者認同的價值,使用者也會認同」,然而實際上設計者和使用者可能採用十分不同價值標準或排序,在這樣的情況下即使遵守黃金準則,也可能侵範使用者自由、造成反感。例如,支持完全禁煙的設計者可能製作一個不斷大聲提醒使用者戒菸的程式,但對於已有抽菸習慣或者認為抽菸純屬個人喜好的使用者來說,這個程式可能相當擾人、令人厭惡。

最好的情況是,勸服科技僅是使用者「自我勸服」的工具。也就是說,使用者對勸服科技的目標早有認同,只是利用勸服科技來克服自己的「意志力軟弱」。延續上例,對於試圖戒菸的菸癮者來說,上述程式可資利用甚至值得購買。這樣的使用者是主動選擇並接受勸服科技的嚮導作用,因此沒有太多需要哲學家(和社會學家)費心的倫理問題。

勸服科技最好與使用者目標一致

簡言之,保護使用者的自由乃是勸服科技的倫理核心,而達到核心的方法,就是確保使用者同意勸服科技的設定目標(註)。只要選擇和決定目標的權力仍然在使用者身上,那麼勸服科技的權力效果與對自由的削減就不再令人焦慮。也因此,許多論者認為勸服科技必須像「教育」一樣——理想的教育協助孩子透過獨立思考做出決定,而非直接幫他設定人生目標。

據此,設計完善的勸服科技需要遵守最後一條守則:勸服科技的理想目標是結束勸服。如果孩子一直需要老師陪伴才能做出正確決定,那麼這個老師可能教得並不好,同樣的,如果勸服科技只是加深使用者對它的依賴,一旦勸服科技損壞或消失,使用者便故態復萌的話,那麼這個勸服科技比較類似於操弄,而不是教育。這條「教育」與「操弄」的紅線,也是助推(nudge)領域的核心問題(之後會談)。

上述幾條守則試圖幫助設計者減低倫理疑慮,並設計出更廣被接受的勸服科技產品。然而,姑且不論是設計符合全部守則的勸服科技是否可能,下期我將談到,這些守則其實不無問題,甚至可能導致勸服科技「自廢武功」,失去其作為行為嚮導科技的意義。

註釋:
Spahn, A. (2012). And lead us (not) into persuasion…? Persuasive technology and the ethics of communication. Science and Engineering Ethics, 18(4), 633–650.

※本文(不含圖片)原刊登於《週刊編集》第 11 期,2018.05.10