兩年前，在蘋果公司（Apple）還沒有正式推出蘋果信用卡（Apple Card）的時候，就有很多人在討論，這張不收費的信用卡將如何助力這家科技巨頭進軍金融服務行業。

但現如今，當人們討論蘋果信用卡的時候，那經常是因為蘋果的人工智能算法出現了故障——該公司用這種算法來確定準持卡人的信用額度。

2019年11月，一名丹麥人在推特上發文稱，雖然他和太太使用相同的財務信息申請蘋果信用卡，但他獲得的信用額度足足是妻子的20倍——即使正如他承認的那樣，他妻子的信用評分其實更高。

火上澆油的是，就連蘋果公司的聯合創始人史蒂夫·沃茲尼亞克也聲稱，他的太太遇到了同樣的事情。蘋果信用卡于2019年8月正式推出。到2020年年初，估計有310萬美國人持有該卡。

所以，這個問題很可能影響了數以萬計的女性。紛至沓來的投訴促使紐約州金融服務管理局（New York Department of Financial Services）展開調查。

盡管該機構最近洗脫了這家數字巨頭的性別歧視罪名，但這是在蘋果悄悄地將太太們的信用額度提升到與其丈夫相匹配的水平之后才發生的事情。

隨著企業開始大規模部署人工智能，人們的關注點正在日益從利用這種技術創造和捕獲價值，轉向使用人工智能系統所帶來的固有風險。諸如人工智能事件數據庫（Artificial Intelligence Incident Database）這類監管機構，已經記錄了數百起與人工智能相關的投訴——從學生考試的可疑評分，到招聘流程對算法的不當使用，再到醫療系統對患者的差別對待，不一而足。

結果就是，企業很快就不得不遵守多個國家的監管新規。這些法規旨在確保人工智能系統是值得信賴、安全、強大且公平的。在這方面，歐盟（European Union）再次引領潮流，去年在其《人工智能白皮書：追求卓越和信任的歐洲之道》（White Paper on Artificial Intelligence:A European Approach to Excellence and Trust）中概述了一個框架，并在2021年4月提出了一個法律框架提案。

企業必須學會應對人工智能風險，不僅因為這將成為一項監管要求，還因為利益相關方期望它們這樣做。根據經濟學人智庫（Economist Intelligence Unit）最近的一項研究，多達60%的高管表示，出于責任方面的擔憂，他們的組織去年決定不與人工智能服務供應商合作。

為了有效地管理人工智能，企業必須把握監管法規和社會期望對其使用這項技術的影響，同時銘記該技術獨有的特性。我們最近在《哈佛商業評論》（Harvard business Review）撰文詳細探討了這個問題。事實上，搞清楚如何平衡使用人工智能的回報和風險，很可能成為一項新的、具有可持續性的競爭優勢。

學習，還是不學習？

從一開始，人們就大肆吹噓人工智能的超凡能力，即通過學習它研究的數據而不斷變好——正是這一特性使人工智能成為一項獨特的技術。這種良性循環可能導致人工智能的行為總是無法預測，就像微軟（Microsoft）2016年推出的聊天機器人Tay所示；或者正如亞馬遜（Amazon）使用人工智能篩選求職簡歷時生動展示的那樣，它會導致可能引發公平擔憂的結果。

人工智能系統可能在某一天做出一項決定，然后從隨后提供給它的數據中學習，并在第二天得出一個迥然不同的決定。這就是為什么美國食品與藥品管理局（Food and Drug Administration）等監管機構只批準那些在使用過程中不會演變的算法。

同樣，企業也需要決定是否允許自家的人工智能系統實時學習。遺憾的是，不允許人工智能持續學習，將迫使企業放棄該技術的一大關鍵好處——在某些情況下，它能夠隨著時間的推移表現得更好。在其他情況下，企業需要在風險水平和算法準確性之間進行權衡，而如果企業不允許持續學習，就會妨礙這種準確性的形成。

不斷演變的人工智能系統也會增加運營的復雜性，因為同樣的人工智能嵌入式產品或服務將在不同國家以不同方式運行。每個國家在監管法規和社會期望方面的細微差異將使得這些運營挑戰變得更加復雜。

企業將不得不使用當地數據訓練其人工智能，并根據當地法規進行管理。而這勢必會限制人工智能的擴展能力。

此外，企業必須將人工智能視為一個需要謹慎管理的應用組合。它們將不得不開發“哨兵”流程來監控這一組合，不斷確保它公平、安全和高效運作。組織將不得不頻繁測試人工智能系統的輸出，而這無疑將增加成本。

例如，紐約市在2017年通過立法成立了一個工作組，專門就自動決策系統的信息應該如何分享給公眾，以及公共機構應該如何應對人們可能受到自動決策系統傷害的情況提供建議。

為人工智能的決定負責

另一個關鍵的差異化因素是人工智能做出復雜決定的能力，例如，在網上向誰推送哪些廣告，或者是否給予基于人臉識別的訪問權限。責任與決策能力攜手并進。迄今為止，那些按照“負責任的人工智能”原則（Responsible A.I.）行事的企業和其他組織，專注于確?；谌斯ぶ悄艿臎Q定對所有利益相關者——消費者、雇員、股東和其他利益相關者——一視同仁。

如果人工智能算法待人不公，企業就會像蘋果公司那樣面臨法律和聲譽風險。它們需要理解其算法可能對人類產生的影響，甚至在某些情況下選擇不使用人工智能。隨著人工智能系統不斷擴展，這些關切將會加??；就平均而言，一種算法可能是公平的，但在特定的地理環境下仍然可能是不公平的，因為當地消費者的行為和態度可能不符合均值，因此可能沒有反映在企業對算法的訓練中。

企業別無選擇，只能開發流程、角色和功能，以確保人工智能系統是公平和負責任的。一些機構，比如聯邦住房貸款抵押公司（Federal Home Loan Mortgage Corporation，也就是人們熟知的房地美公司），已經任命了人工智能倫理官，并建立了人工智能治理結構，以及諸如可追溯協議和多樣性訓練這類流程來應對這一挑戰。這是朝著正確方向邁出的一小步。

此外，這些先行者正在建立審計流程，并開發監控工具來確保人工智能系統的公平運行。

問責制要求企業解釋為什么它們的算法會做出這樣的決定。這種“可解釋性”要求將迫使企業做出取舍。相對容易解釋的算法通常不如所謂的“黑匣子算法”準確。有鑒于此，如果企業只使用前者，就會限制人工智能的能力和質量。

考慮到企業高管將不得不在“可解釋性”和準確性之間進行權衡，這勢必會在全球范圍內創造一種不平等的競爭環境，因為市場法規和社會期望因國別而異。

因此，人工智能公司究竟可以瞄準哪些市場，將在很大程度上受制于監管法規，這將對企業戰略產生重大影響。事實上，在2019年的《通用數據隱私條例》（General Data Privacy Regulation）頒布后，一些公司，比如游戲開發商Uber Entertainment，選擇遠離歐盟。

隨著越來越多的政府頒布人工智能的使用規則，企業在部署人工智能之前必須考慮一些關鍵問題。它們必須捫心自問：

■ 我們應該在多大程度上差異化我們的產品或服務，以適應不同地區在人工智能法規和市場預期方面的差異？

■ 在考慮了新的監管格局后，我們是否還應該致力于為全球所有市場提供服務？

■ 如果人工智能業務的去中心化是大勢所趨，我們是否應該建立一個中央組織來領導，或者至少連接和共享數據、算法及最佳實踐？

■ 考慮到人工智能法規和市場預期，我們將需要哪些新角色和組織能力，以確保我們的戰略和執行相一致？我們將如何聘用或重新培訓人才來獲得這些能力？

■ 我們的戰略視野是否適當，能否將我們應對不斷變化的技術和監管環境的短期反應與我們的長期人工智能愿景結合起來？

隨著人工智能在企業內部和外部流程中的應用變得日益普遍，利益相關者對公平、安全和可信賴的人工智能的期望值不斷攀升，企業必然會遭遇人與機器的沖突。首席執行官們越早認識到使用人工智能系統的價值-風險權衡，他們就越可以在一個由人工智能驅動的世界中，更好地應對監管法規和社會期望。

關于作者

范史華（Fran?ois Candelon）是波士頓咨詢公司（BCG）董事總經理、全球資深合伙人，BCG亨德森智庫全球聯席負責人。

西奧多羅斯·葉夫根尼奧（Theodoros Evgeniou）是歐洲工商管理學院（INSEAD）的決策科學和技術管理學教授，專攻人工智能和商業數據分析研究。

|行業最新研究報告（下載）|最新熱點報告（下載）|