嘿！即將開始你的第一個AI項目？
- 2019 年 10 月 7 日
- 筆記
1 將用戶需求作為出發點
Always start with user needs
如果一個設計的出發點不是實際的用戶需求，那麼你可能會製作出一個功能強大技術複雜的軟體，但這個軟體只能解決一個很小，甚至根本不存在的問題。以用戶為中心，這句話確實是老生常談，但是在AI設計中尤為重要，因為很多設計者會陷入「為了AI而AI」的誤區中。
那麼什麼樣的產品適合AI化呢？什麼樣的產品又不適合AI化呢？Google設計中心羅列了以下例子可以作為參考。
適合AI化的產品
產品中會為了不同的用戶提供不同的資訊或內容；
預測未來可能發生的活動；
個性化的內容對用戶體驗關係重大；
自然語言識別；
在短時間內辨別大量實體（例如在人來人往的監控錄像中辨識目標人物）；
在某一領域內的顧問機器人
不適合AI化的產品
任務可預測性非常高；
提供的資訊是靜態的，大多情況下沒有任何變化；
發生錯誤的成本非常大；
對操作透明度要求高的產品；
搶佔投入市場的先機或要求控制成本；
一些非常重要的任務，尤其與人身安全相關的
2 了解 AI 的局限性
Know the limits
確認了產品適合AI化之後，了解AI的局限性就尤為重要。AI不是魔法，所以設計者要做的，並不是天馬行空的產生一些幾十年內技術都無法實現的想法，而是在現在的技術限制中，最大化的滿足用戶需求。
2.1 不要將不成熟的AI假裝成人類
不是所有用戶都知道聊天機器人是有局限的，所以將產品的局限傳達給用戶是必要的。很多產品在宣傳階段，將自己的AI技術過度誇張、渲染，甚至打出「像真人一樣智慧」的口號。這樣會導致的結果就是，用戶對產品的期待過高。於是當系統不夠智慧，無法滿足期待的時候，用戶就會變得尤為憤怒，對產品的失望也是加倍的。
2.2 給用戶一個「退出」的方法
當系統無法正確的完成一個任務的時候，用戶需要一個退出的方法。用戶應有拒絕AI所做的推薦、決定或結果的權利。當AI出錯的時候，強制用戶與AI進行交互，或者要求用戶接受AI所做的決定，會導致用戶規避這個產品。這時為用戶提供一個退出的方法，就顯得尤為重要。
2.3 不要自作聰明
因為AI具有局限性，所以可能頻繁出現的情況就是，AI無法提供給用戶一個100%正確的結論。這個時候，AI要做的，就是不要自作聰明。
picdescbot可提供圖片識別的服務，在它辨別下圖的時候，它的讀圖結果是：一個站在衝浪板上的恐龍：
但是如果查看它的邏輯程式碼，就會發現，對於恐龍的識別，picdescbot的信度是96%，而對於衝浪板的識別，信度只有25%。但是從前端來看，picdescbot給用戶的感覺是picdescbot對給出的結果非常自信。
這裡可以拿微軟做一個對比，依舊是這張圖片，依舊被識別為一個站在衝浪板上的恐龍，但是前端是這樣呈現的：
「或許是一個站在衝浪板上的恐龍？」下方同時標記信度26%。這裡微軟明確地告訴了用戶，系統對當前識別並不是非常自信。將AI的局限巧妙的展示給用戶是非常聰明的做法，它規避了可能會產生的責任，更重要的，建立用戶的信任感。
3 與用戶建立良好的信任關係
The most important thing is to build trust
對於一個AI系統來說，最重要的就是給用戶信任感。通常，AI將結果直接提供給用戶，用戶會根據AI的結果做出一些決定。同時，用戶也想要知道AI提供的答案是如何得出的，用戶應該有權利看到結果生成背後的邏輯，在此期間，更好的建立信任關係。
3.1 透明化
用戶並不喜歡「黑盒子」。用戶希望能了解一個推薦是基於怎樣的邏輯而產生的。例如下圖中亞馬遜的例子，用戶的主頁上被推薦了商品，同時標明了推薦理由是 「價格適宜的禮物」 、「低價珠寶」 。
3.2 以用戶的回饋來改善用戶的體驗
正面的告訴用戶，系統接受了來自用戶的回饋，是一個可以快速建立信任感的方法。在AI的系統里，則是告訴用戶，當前用戶的回饋，會如何影響AI的下一次決定。
下圖中是一個來自Google的例子，這是一個跑步軟體，軟體推薦給用戶一條跑步路線。用戶跑完後覺得該路線無趣且毫無挑戰性。收到用戶的回饋後，系統提示「感謝你的回饋」。這似乎是一個非常常見的交互行為，那麼，如何更好的建立用戶的信任感呢？
在第二個例子中，還是這個軟體，用戶依舊覺得該路線無趣且毫無挑戰性，而後系統的回應則是「了解！為你找到另一座1.2千米內的山路」，這時候，系統了解了用戶的訴求，並且根據用戶的回饋實時改善了用戶下一次的體驗。
在為AI設計的時候，從設計師到開發人員，人人都知道用戶的交互會影響AI的判斷，AI是在不斷學習的。而這裡的重點是要讓用戶也知道AI是在不斷學習的，由此來建立用戶對系統的信任。
3.3 為 AI 產生的結果建立優先順序
在為AI系統設計的時候，一個常見的情況就是，系統會返回大量的結果，那麼在展示這些結果的時候，就需要建立優先順序的機制，來幫助用戶更快的做出決定。這個概念非常普遍，例如淘寶的「綜合排名」，新聞軟體的「Trending News」, 這裡不再過多闡述。
3.4 精確度並不是一切
很多模型在產生結果的時候會提供給用戶非常精確的數字。這裡導致的問題就是嚴重增多了的用戶大腦處理這個資訊的時間成本。例如，一個房產，預計價格58萬3790美元，並不一定比58萬3000美元更有價值，尤其是考慮到預估本身的誤差值。
將結果以範圍或程度來呈現可能會是一個更好的辦法。比如下面例子中的健康狀況，AI提供的是精確的數值，例如75%，但是前端可以用不同的方式來呈現，比起直接顯示數字，將健康情況分為「不好，一般，好，非常好」更容易被用戶所理解。
3.5 將演算法的能力展示給用戶
先來講一個例子，Paul是一個公司的從材料訂購人員，某一天，Paul被提醒現在有一種材料即將短缺，為了保證後續的生產工作，需要訂購更多的材料。Paul計劃購買420噸材料，而這時AI助手提醒，根據以往的三個歷史短缺材料的進貨記錄來看，Paul計劃購買的材料已超量，然後對購買材料量進行了推薦 ( 見下圖 )。
在這個例子中，AI不僅提供了購買的建議，並且提供了建議的理由，即根據以前的購買歷史進行計算。這裡面有兩個概念值得參考，第一，告訴了用戶在建議背後的邏輯，並展示了演算法的可信性，建立用戶的信任感。第二，一旦用戶使用了推薦的方案，就等於對演算法進行了正向的回饋。如果（大量）用戶拒絕了推薦的方案，則需要提示設計者進行邏輯檢查。
4 巧妙地處理錯誤
Fail gracefully
要謹慎對待第一次系統出現的錯誤，用戶很容易在這個時候對產品失望。同時，出現的錯誤也是一個機會，如果能把握好這個機會，就能讓錯誤成為系統進行學習，逐步改進的機會。
依舊是來自Google的運動APP的例子，當前這個跑步軟體沒辦法識別出用戶的跑步路線，所以出現報錯。左圖是一個反面例子：系統機械的報了錯，但是在右側的正面例子中，提供給了用戶一個功能：手動標記跑步路線。
這裡表達了AI設計中錯誤處理的兩個要點：1）當AI不能正常運作的時候，應該有一個不依賴AI也能完成任務的方法。2）當錯誤出現的時候，把錯誤變成一個系統學習的機會。
5 摒棄偏見
Root out bias
這裡有兩個故事，希望能提示AI設計者在設計時，摒棄設計者偏見。
2016年的一項研究發現，Google的語音識別具有性別偏見。研究發現，當你隨機挑選一名男性和女性與Google助理交談時，有70％的可能性，對男性的識別更準確。而實際上，（在英語中）平均女性說話的語速更慢，母音發音更長，所以女性的識別幾率應該更高。
為什麼會發生這個問題？推測是在訓練語音助手的時候，使用了大量的男性的數據，忽略了對女性聲音數據的取樣。對女性來說，表面上的經歷可能是「我無法理解你」，但實際上更像是「你無關緊要。」
另一個故事關於一個護照檢測系統，檢測過程中認為該亞洲人照片不合格，因為照片中的人沒有「睜眼」 （下圖）。由此可以看出該影像識別系統在亞洲人像數據上的缺失。
為了解決這樣的偏見問題，設計者能夠做什麼？
1）應該保證測試數據的多樣性；
2）應該使用大量的測試，來儘可能減少此類錯誤的發生；
3）如果類似的問題無法避免，應該充分向用戶解釋，這是系統的局限性；
4）提供用戶手動修正錯誤的機制。
上面我們講述了在為AI項目設計時，需要注意的五個要點，以用戶為中心出發，了解技術的局限性，建立用戶的信任感，巧妙的處理錯誤和摒棄設計者偏見。希望能幫助到正在或將要進行AI項目的設計者和開發者們。
Reference
- Human-Centered Machine Learning, Jess Holbrook, 2017
- People + AI guidebook, Google
- How to Meet User Expectations for Artificial Intelligence, Kathy Baxter, 2017
- Design In The Era Of The Algorithm, Josh Clark , 2017
- Machine Learning is Very Much a UX Problem, Yael Gavish, 2017
- UX for AI: Building Trust as a Design Challenge, Vladimir Shapiro, 2018
- AI UX: 7 Principles of Designing Good AI Products, Dávid Pásztor, 2018
— 完 —
