“組織在針對客戶體驗實施人工智能時可能犯的最大錯誤之一是，將效率置于道德、人性化的互動之上”。AI能夠復制甚至有時超越人類的能力。但這些技術(shù)必須遵循的道德原則是什么，人們在實踐中又是如何應用它們呢？以確保AI技術(shù)能夠安全、可靠、公平地服務(wù)于人類。
圖源：Shutterstock
我們都有過這樣的經(jīng)歷。你的筆記本電腦壞了，你錯過了航班，或者你需要打電話給保險公司。你希望通過快速交談解決問題，但相反，你遇到的是一個沒有同情心的空洞聲音，給出照本宣科的問題和答案，讓你在一個又一個的選項列表中選擇，讓你比開始時更加沮喪。
在這樣破碎的客戶體驗之后，你開始提出更難的問題，比如這種技術(shù)中可能嵌入了哪些偏見，它是如何處理我的數(shù)據(jù)的，它多久被審計一次以確保公平和透明，它真的能被教導以道德的方式行事嗎？
隨著人工智能在客戶服務(wù)中扮演更大的角色，這些問題變得越來越緊迫——首席信息官和其他高管也很清楚這一點。參與CX Network（是客戶體驗行業(yè)中最知名的公司之一，成立于2012年，旨在支持專業(yè)人士縮小客戶期望和實際體驗之間的差距。該公司通過提供廣泛的有洞察力的報告和視頻，以及吸引人的播客、網(wǎng)絡(luò)研討會和新聞，來推動企業(yè)的領(lǐng)導力，從而徹底改變客戶服務(wù)行業(yè)。CX Network納入了營銷、數(shù)字、洞察力、服務(wù)和客戶體驗領(lǐng)域的全球決策者，通過激發(fā)創(chuàng)新和項目突破，確定行業(yè)方向。該平臺主持認證的網(wǎng)絡(luò)研討會和播客，向最相關(guān)的觀眾群轉(zhuǎn)達當前的行業(yè)標準。此外，CX Network關(guān)于客戶體驗的視頻和報告幫助營銷人員優(yōu)化他們的CX戰(zhàn)略并實現(xiàn)特定的業(yè)務(wù)目標。）的Global State of CX 2024/《2024年全球客戶體驗狀況》調(diào)查的來自世界各地的三分之二的客戶體驗從業(yè)者、服務(wù)領(lǐng)導者、分析師和顧問都同意或強烈同意他們越來越關(guān)注人工智能的道德使用及其未來發(fā)展。
除此之外，38%的人認為透明度是客戶今天最關(guān)心的問題之一，而55%的人強烈認為數(shù)據(jù)隱私和安全是客戶的主要關(guān)注點。
人工智能正在迅速改變客戶服務(wù)，它不再僅僅是模仿人類的互動，而是關(guān)于創(chuàng)造公平且感覺自然的體驗。Royal Holloway, University of London（倫敦大學皇家霍洛威學院，?是一所位于英國大倫敦地區(qū)薩里郡艾格鎮(zhèn)的公立綜合性大學，簡稱“皇家霍洛威”或“RHUL”。該學院成立于1886年，維多利亞女王親自授予其皇家特許狀并主持了開校典禮。1900年，皇家霍洛威學院加入倫敦大學，成為獨立組成學院之一，專門進行科學教學與研究的五所院校之一。）的數(shù)字營銷高級講師、數(shù)字組織和與社會研究中心主任Nisreen Ameen（尼斯林·阿明）說：“組織在針對客戶體驗實施人工智能時可能犯的最大錯誤之一是，將效率置于道德、人性化的互動之上。”
印度Mudra Institute of Communications（MICA，?是位于印度艾哈邁達巴德的一所著名教育機構(gòu)，專注于營銷和傳播領(lǐng)域的教育和研究。MICA成立于1991年，被印度經(jīng)濟時報評為“最好的教育品牌”，并且在戰(zhàn)略營銷和傳播領(lǐng)域享有極高的國際聲譽，是全球排名前20的營銷學院之一。該機構(gòu)不僅在印度國內(nèi)，而且在國際上都有著廣泛的影響力，是印度乃至全球營銷教育的重要基地之一。）的AGK營銷主席教授Varsha Jain（瓦爾莎·賈恩）對此表示贊同?！叭祟惐仨汄?qū)動人工智能，而人工智能不應該驅(qū)動人類，”她補充道。
對于負責增強客戶體驗的CIO和其他高管來說，真正的挑戰(zhàn)在于教導AI更加人性化，并確保它以同情心和公平感來正確、有道德地行事。
一、制定一套原則
近年來，首席信息官和他們工作的公司已經(jīng)找到了幾種在客戶支持中利用人工智能的方法。尤其是銀行和其他金融機構(gòu)，正在整合人工智能以簡化客戶互動并提高服務(wù)效率。例如，許多機構(gòu)使用人工智能驅(qū)動的聊天機器人來處理日常任務(wù)，如查詢余額、交易歷史，甚至貸款申請，釋放出人類助手（崗位）來處理更復雜的問題。人工智能還被用于欺詐檢測，分析交易模式，并實時標記可疑活動，比手動系統(tǒng)更快、更準確。ING Group（International Netherlands Groups，ING荷蘭國際集團。是一家全球化的金融服務(wù)集團，源自荷蘭。它由Nationale-Nederlanden和NMB Postbank Group于1991年合并而成，擁有超過155年的歷史。ING Group的總部設(shè)在荷蘭阿姆斯特丹，在全球60多個國家擁有金融服務(wù)網(wǎng)絡(luò)，服務(wù)超過5000萬客戶。是全球排名第11大的資產(chǎn)管理公司。）的首席分析官巴Bahadir Yilmaz（巴哈迪爾·伊爾馬茲）表示，僅該跨國公司面向客戶的聊天機器人在荷蘭每天就能處理多達5000個查詢，并且它還增加了生成式人工智能功能以提高客戶滿意度和轉(zhuǎn)移率。
他補充說，ING在AI方面有這樣一套分步指導原則：
公平性——確保決策過程不受偏見影響。
可解釋性——確保目標受眾能夠理解這些邏輯。
透明度——解釋并證明模型開發(fā)的整個過程。
責任性——為每個做出的決策確定責任。
安全性——確保模型不產(chǎn)生意外結(jié)果。
在人工智能開發(fā)過程中擁有健全的道德標準和政策可以有所幫助。Ameen（阿明）說：“這確保了道德考慮從一開始就融入人工智能系統(tǒng)的結(jié)構(gòu)中，而不是事后才想到。”
首席信息官以及首席技術(shù)官應該倡導衡量他們的人工智能驅(qū)動服務(wù)的人性化程度，因為通常情況下，我們更傾向于改進我們決定衡量的東西，Jain（賈恩）補充道。
二、建立人性化團隊
許多組織在考慮在客戶服務(wù)支持中使用人工智能時是從削減成本的角度出發(fā)。但據(jù)AirHelp（是一家專門幫助乘客進行航空索賠的公司。它成立于2013年，主要為遭遇航班延誤、取消或超額預訂的乘客提供服務(wù)，幫助他們進行航空索賠。AirHelp的服務(wù)旨在“代替客戶處理整個索賠過程并包攬所有相關(guān)的文書工作”。該公司通過在線填寫包括個人信息和航班號的表格來幫助乘客索賠，如果乘客的航班被取消、延誤或者超額預訂，AirHelp將協(xié)助乘客進行索賠。追回的賠款并不全歸客戶所有，AirHelp會收取賠款金額的25%作為服務(wù)傭金。）首席技術(shù)官Tim Boisvert（蒂姆·博斯韋爾特）稱，他們公司并非完全如此。
AirHelp幫助航空公司乘客獲得航班延誤、取消或超售的航班獲得賠償，其人工智能驅(qū)動的聊天系統(tǒng)因能有效處理常見的與服務(wù)相關(guān)的詢問而受到認可。
“我們基于聊天的人工智能客服的目標不是取代人類，或減少我們對人類客戶服務(wù)代理的投資，”他說，“因此，我們沒有將其設(shè)置得讓客戶在需要時（AI客服）難以與人類交談。我們的客戶提出的很多問題都可以很容易地通過人工智能和機器人回憶起來，但我們已經(jīng)努力防止用戶感覺與我們的客戶服務(wù)代理隔閡?！?/span>
在設(shè)計基于聊天的人工智能系統(tǒng)時，有一個規(guī)則是要確切知道它能做什么和不能做什么，這樣才不會讓客戶感到沮喪。
“我們的客戶服務(wù)機器人旨在向客戶提供某些類型的信息，而不是陷入認為有某種版本的機器人可以接近取代人類代理與人們之間關(guān)系的誘惑，”Boisvert（博斯韋爾特）說。構(gòu)建簡單的出口，或者在客戶尋找機器人無法輕易提供的東西時主動將客戶引導給人類，這是該公司遵循的另一個原則。
AirHelp還使用其他人工智能驅(qū)動的工具來解讀航空公司發(fā)送的有關(guān)客戶索賠狀態(tài)更新的自動消息，或分析客戶上傳的登機牌和電子機票中的信息。
Boisvert（博斯韋爾特）說：“這兩項措施都大大減輕了我們代理的負擔，從他們的任務(wù)中去除了瑣碎的工作，使他們能夠更多地專注于在具有挑戰(zhàn)性或非標準的情況下直接與客戶合作?！?/span>
【睿觀：AirHelp本質(zhì)上是一個連接乘客與航空公司的平臺，它利用了歐盟等地關(guān)于航班延誤、取消和超售的嚴格規(guī)定。其商業(yè)模式主要包括以下幾個方面：
索賠服務(wù):
乘客提交信息:?乘客只需提供航班信息和其他相關(guān)細節(jié)，AirHelp就會評估其是否有資格獲得賠償。
評估和處理:?AirHelp的人工智能系統(tǒng)會對這些信息進行初步篩選，并由專業(yè)團隊進行更深入的評估。
代表乘客索賠:?如果符合條件，AirHelp會代表乘客向航空公司提出索賠，并負責整個索賠過程。
成功收費:?只有在成功獲得賠償后，AirHelp才會從賠償金額中抽取一定比例的服務(wù)費。
訂閱服務(wù):
AirHelp Plus:?提供更全面的服務(wù)，包括航班延誤的費用報銷、法律援助等。
會員制:?通過會員訂閱，AirHelp可以獲得穩(wěn)定的收入來源，并為用戶提供更個性化的服務(wù)。
數(shù)據(jù)分析:
航班數(shù)據(jù):?AirHelp收集大量的航班數(shù)據(jù)，用于分析航班延誤的原因、航空公司的賠付情況等。
用戶數(shù)據(jù):?通過用戶行為分析，AirHelp可以更好地了解用戶的需求，優(yōu)化服務(wù)。
行業(yè)洞察:?這些數(shù)據(jù)還可以為航空公司提供有價值的反饋，幫助他們改善服務(wù)。
AirHelp的成功之處
AirHelp之所以能夠在市場上脫穎而出，主要得益于以下幾個方面：
自動化流程:?人工智能的應用大大提高了索賠處理的效率，縮短了處理時間。
專業(yè)團隊:?AirHelp擁有一支經(jīng)驗豐富的法律團隊，能夠處理復雜的索賠案件。
用戶體驗:?簡潔的用戶界面和透明的收費標準，提升了用戶滿意度。
市場營銷:?通過社交媒體、搜索引擎優(yōu)化等方式，AirHelp成功地吸引了大量用戶。
AirHelp對航空業(yè)的影響
AirHelp的出現(xiàn)對航空業(yè)產(chǎn)生了深遠的影響：
提升乘客權(quán)益意識:?AirHelp的宣傳讓越來越多的乘客了解到自己的權(quán)利，并敢于維護自己的權(quán)益。
推動航空公司改善服務(wù):?為了避免大量的賠償，航空公司不得不更加重視航班的準點率和乘客服務(wù)。
促進行業(yè)透明度:?AirHelp的索賠數(shù)據(jù)可以反映出不同航空公司的服務(wù)質(zhì)量，促進行業(yè)的良性競爭。
總結(jié)：AirHelp的成功證明了科技創(chuàng)新在傳統(tǒng)行業(yè)中的巨大潛力。通過利用人工智能和大數(shù)據(jù)，AirHelp不僅為乘客提供了便利的服務(wù)，也促進了航空行業(yè)的健康發(fā)展?！?/span>
ING的人工智能驅(qū)動聊天機器人也與人類緊密合作。“ING有同事審查每一次對話，以確保系統(tǒng)不使用歧視性或有害的語言，或產(chǎn)生hallucinate（幻覺，指模型生成不基于實際數(shù)據(jù)或與現(xiàn)實顯著不同的內(nèi)容的現(xiàn)象。），”Yilmaz（伊爾馬茲）說，“無論人工智能如何部署，有一點始終是正確的，那就是人是我們流程的核心。”
目前，這是正確的做法，倫理學者們表示同意。“人工智能非常有幫助，但需要在人類的嚴格監(jiān)督下使用，”Jain（賈恩）說。
三、留意偏見
人工智能可以通過多種方式加以利用，包括用于客戶獲取目的。例如，ING使用生成式人工智能工具來創(chuàng)建個性化的營銷活動，為外籍人士、年輕夫婦和Gen Z（Z世代，指的是1995年至2010年間出生的一代人。這一代人是在數(shù)字和移動技術(shù)高度發(fā)達的環(huán)境下成長起來的，是歷史上第一個完全沉浸在數(shù)字和移動技術(shù)下成長起來的群體。Gen Z的平均年齡在16歲到26歲之間，他們是美國歷史上最年輕、種族最多樣化、人數(shù)最多的一代，占美國人口的27%。Gen Z群體性格鮮明，對于出海品牌來說，是一個日益重要的受眾人群，他們的消費習慣和行為模式將重塑未來的消費模式并改變零售業(yè)的格局。）量身定制內(nèi)容和優(yōu)惠。“始終在客戶同意的情況下，”Yilmaz（伊爾馬茲）說。
ING和Commonwealth Bank of Australia/CBA（?澳大利亞聯(lián)邦銀行，?是澳大利亞最大的商業(yè)銀行之一，總部位于悉尼。該銀行成立于1912年，擁有悠久的歷史和豐富的金融經(jīng)驗。澳大利亞聯(lián)邦銀行在全球范圍內(nèi)擁有大量的客戶和業(yè)務(wù)，致力于為客戶提供高質(zhì)量的金融服務(wù)。銀行注重創(chuàng)新和科技投入，不斷推出新的金融產(chǎn)品和服務(wù)，以滿足客戶的需求。業(yè)務(wù)范圍廣泛，包括個人銀行業(yè)務(wù)、商業(yè)銀行業(yè)務(wù)、機構(gòu)銀行業(yè)務(wù)以及財富管理等多個領(lǐng)域。該銀行還積極拓展海外業(yè)務(wù)，尤其是在亞太地區(qū)，如中國、印度、印尼和越南等，通過參股、并購等方式擴大其影響力。）都使用人工智能驅(qū)動的工具來提高網(wǎng)絡(luò)安全，并為他們的客戶創(chuàng)造更安全的銀行體驗，特別是那些處于弱勢環(huán)境中的客戶。
“我們可以掃描不尋常的交易活動，識別被認為是高風險的模式和實例，以便銀行可以進行調(diào)查和采取行動?！?/span>CBA人工智能實驗室卓越中心負責人Luiz Pizzato（路易斯·皮扎托）表示，“我們已經(jīng)使用人工智能來保護客戶免受欺詐和詐騙，實時響應自然災害地區(qū)的客戶，甚至通過我們的福利查找工具，將客戶與他們有權(quán)獲得的超過12億美元的政府福利和退稅聯(lián)系起來。”
在處理客戶數(shù)據(jù)的情況下，組織應該優(yōu)先考慮用戶隱私和數(shù)據(jù)保護，確保組織符合最新的法規(guī)。
同樣至關(guān)重要的是確保用戶隱私和數(shù)據(jù)保護始終是核心焦點?！坝捎谌斯ぶ悄芟到y(tǒng)通常依賴于大量的個人數(shù)據(jù)，保護這些信息對于維護信任和維護道德標準至關(guān)重要?！?/span>Ameen（阿明）說，“這意味著要實施嚴格的數(shù)據(jù)保護措施，并對數(shù)據(jù)使用保持透明?！?/span>
另一個重要的焦點應該是確保人工智能的開發(fā)、決策和應用的包容性。這意味著讓多元化的團隊參與創(chuàng)建人工智能系統(tǒng)，并使用廣泛的數(shù)據(jù)和觀點來訓練和改進它們。
當然，組織需要致力于定期測試他們的人工智能是否存在任何潛在的偏見，并采取措施來糾正它們——首席信息官應該對此保持警惕。“偏見可能在人工智能開發(fā)和部署的各個階段悄然潛入，從數(shù)據(jù)收集到算法設(shè)計，”Ameen（阿明）說，“定期審計和偏見測試應該是一個持續(xù)的過程，要有相應的機制來解決和糾正發(fā)現(xiàn)的任何偏見?！?/span>
四、讓人工智能具有代表性
當涉及到使用人工智能來增強客戶體驗時，領(lǐng)導者所承擔的責任是巨大的。Ameen（阿明）說：“首席信息官和高管們可以通過在領(lǐng)導層面倡導道德舉措并培養(yǎng)負責任的創(chuàng)新文化來實現(xiàn)更人性化的人工智能。”他補充說，他們應該與人工智能專家密切合作，并為所有員工投資包容性道德培訓。
“至關(guān)重要的是，高管們必須在人工智能開發(fā)團隊中優(yōu)先考慮多樣性，例如，積極雇用在人工智能工作中代表性不足的女性和少數(shù)族裔人士，”她表示，“確保在人工智能相關(guān)決策和代表性數(shù)據(jù)集中具有多樣化的觀點對于創(chuàng)建公平、無偏見的人工智能系統(tǒng)的關(guān)鍵，這些系統(tǒng)能夠有效地為所有用戶服務(wù)?！?/span>
由于我們在教導人工智能變得人性化方面還不是特別高效，因此實施機制以收集關(guān)于人工智能驅(qū)動的客戶交互的反饋并增強這種能力變得更加重要。
她說：“這包括實時反饋選項、專注于人工智能體驗的客戶調(diào)查，以及對服務(wù)日志的分析。”建立焦點小組和專門的渠道來報告與人工智能相關(guān)的問題可以幫助獲得關(guān)于何時應解決道德問題的寶貴見解。
Boisvert（博斯韋爾特）補充說，首席信息官、首席技術(shù)官和首席執(zhí)行官不應該從人工智能可以簡單地取代事物的假設(shè)開始，然后發(fā)現(xiàn)在某些情況下，人工智能根本不合適。他建議從另一個極端開始：假設(shè)沒有人工智能能像人類一樣人性化。
“尋找提供小或邊際價值的具體場景，并將其整合進去，”Boisvert（博斯韋爾特）說，“永遠不要讓工作流程完全依賴人工智能，以至于基于人工智能的系統(tǒng)與客戶的任何直接通信都不能由人類審查和批準?！?/span>
Yilmaz（伊爾馬茲）同意這一觀點，他說人工智能不是立即釋放商業(yè)利益的解決方案。
“如果你有一個無法運行的業(yè)務(wù)流程，注入人工智能元素只會讓事情更加復雜，限制價值實現(xiàn)，”他補充說，“當業(yè)務(wù)、技術(shù)、數(shù)據(jù)和分析團隊共同努力簡化流程并創(chuàng)造我們客戶想要的體驗時，才會創(chuàng)造真正的價值。”
作者：Andrada Fiscutean（安德拉達·菲斯庫坦）
國際科技記者，在Ars Technica、Vice Motherboard、ZDNet、Nature、CSO Online等網(wǎng)站上發(fā)表專題報道。擁有超過20年的電臺記者工作經(jīng)驗，10年的科技記者工作經(jīng)驗和4年的電視新聞配音工作經(jīng)驗。
譯者：寶藍
