AI 讓他致郁，AI 讓他治癒

• 2019 年 11 月 30 日
• 筆記

超神經HyperAI 導讀

他被自己創造的 AI 機械人致郁，

又被 AI 治癒和救贖。

親手開發讓自己致郁的 AI 機械人

Muhammad Aurangzeb Ahmad （穆罕默德）是華盛頓大學計算機科學系副教授，是人工智能醫療公司 KenSci 的首席數據學家。為了緩解對去世的父親的思念，他開發了一款模擬父親語氣的聊天機械人——Abu Jani。

Abu Jani 是巴基斯坦國語烏爾都語，意為「親愛的父親」。

穆罕默德教授回憶說，自己從小在父親的教養下長大，區別於傳統的穆斯林宗教家庭，他的父親是一個開明豁達的人，不僅傾注了一生的心血財力將他培養成人，更是鼓勵他去追求更大的世界。

默罕穆德教授近照

在開發這套聊天機械人的時候，穆罕默德教授採集了大量父親生前留下的日記、書信和影響，開發過程中，看着父親的遺物，穆罕默德教授教授一度情難自已，幾次都哽咽到停止開發。

花了大約一個多月的時間，Abu Jani 可以運行了，現在可以 Abu Jani 通過模擬父親的語氣跟穆罕默德教授聊天，就像父親生前一樣，他有自己的情緒。

Abu Jani 會「揣摩」穆罕默德教授的情緒，用適合的語氣跟穆罕默德教授聊天，也會關心穆罕默德教授的起居，並提醒穆罕默德教授和他的兄妹們照顧好自己。

Abu Jani 的聊天記錄，甚至還談及中國 AI 的發展

Abu Jani ：Sonu（穆罕默德教授的昵稱），最近怎麼樣？

Sonu：我挺好的，爸爸你的身體怎麼樣？

Abu Jani ：感謝真主阿拉，我很好，你媽媽最近怎麼樣？

Sonu：她也很好。

Abu Jani ：你今天過得怎麼樣？

Sonu：我的最近快完成一篇項目論文了。

Abu Jani ：不要因為工作熬夜太晚。

Sonu：我盡量，不過截稿日快到了。

Abu Jani ：你記得經常休息休息，出去溜溜彎放鬆一下。

Sonu：好的，我盡量

Abu Jani ：老對着電腦，你別用眼過度了

Sonu：知道了，爸爸，你最近吃藥正常么

Abu Jani ：是的

Sonu：那就好

Abu Jani ：話說最近有什麼新聞么？

Sonu：其他還好，對了，中國的人工智能發展得很不錯。

Abu Jani ：我就知道被我說中了，拿破崙也說過中國總有一天會崛起的。

也正因為 Abu Jani 表現的過於真實，在緩解穆罕默德教授對父親去世後的悲傷情緒時，很多時候讓他幾乎忘了父親去世的事實。在重獲「父愛」的同時，他也很疑惑，自己在對話的到底是誰。

他陷入了深深的焦慮與抑鬱，一方面依賴於自己創造的智能父親，給自己帶來的寬慰，另一方又開始警醒，擔心代碼塑造的虛擬人格，會讓自己習沉溺其中，逃避現實。

最終，為了不讓自己過於投入，他選擇了關閉這個程序。

穆罕默德教授對 Abu Jani 進行了正式的告別 ，也決定不再更深度開發這個程序。

治癒系聊天機械人

用 AI「複製故人」確實是個感性又悲傷的故事，但穆罕默德教授的悲傷讓他發明並開發了的這段程序，只是 AI 介入人類情感中的一個案例而已。

因為有其他人相信 AI 或許可能會讓人「致郁」，但也可以變身「治癒」的治療師，治療病人的心理問題，這些人也同樣在美國。

其中之一，就是臨床研究心理學家 Alison Darcy（艾莉森·達西）博士，她和她的團隊，開發了一個集成在 Facebook 中的聊天程序 Woebot，通過模擬治療師與病人的對話，來進行抑鬱症患者的輔助治療，這被稱為 CBT 療法。

CBT 全稱為 Cognitive Behaviour Therapy，即認知行為治療。通過與治療師的溝通和疏導，改變患者對事情的看法與態度，來解決不合理的認知帶來的心理問題。

和 Abu Jani 這位慈祥的父親聊天機械人一樣， Woebot 也是一個即時聊天機械人，可以根據患者情況來模擬真實對話，就像醫生一樣詢問患者的心情和想法，並「傾聽和回復」患者的感受。

不過，Darcy 也指出 Woebot 只能算是一個有溫度的機械人，暫時還不可能取代人類治療師。另外，有些患者需要進行個性化治療，Woebot 目前還很難做到這一點。但是，像 Woebot 這樣的工具正在使 CBT 更容易被人們接受。

另外幾家試圖用 AI 來治癒的公司中，語音識別公司 BeyondVerbal 則是希望通過聲音識別，來解決機械人了解人類情感的問題。

未來這種技術可能會用於自閉症患者的治療。他們通過語音分析軟件來確定每個人獨特的說話方式，通過說話者的語調來識別情緒，據說準確率已經高達 80％。

還有一個產品，與父親聊天機械人類似，也是針對特定的人開發的。這就是聊天機械人 Karim 由美國硅谷一家初創科技公司 X2AI 研發的聊天機械人。

Karim 會說阿拉伯語，幫助戰後的敘利亞難民緩解情緒焦慮

但是，如果未來即將大規模醫用，取汲仍需謹慎。溝通中該如何確保程序在進行心理治療時，不會產生偏見或者被錯誤使用，而產生適得其反的效果，將會是進一步需要考慮的問題。

「它」是機器還是人？「它」是一個什麼樣的機器/人？

人工智能在不斷製造問題，效率問題、倫理問題，每天都有媒體在質問和警示人工智能與人的關係。

人工智能同時也在解決問題，解決人力能解決的和人力不能解決的。

或許我們可以學習穆罕默德教授，在推進 AI 技術的同時，嘗試着與悲傷和解，與抑鬱共存，再決定是否需要讓 AI 繼續對自己的生活進行干預和指導。

超神經小百科

單詞

synthesis

[ˈsɪnθɪsɪs] n. 綜合，合成

詞組

emotionrecognition 情緒識別

chaotic theory 混沌理論