他們還將試圖賄賂設計演算法的人

美國賓夕法尼亞大學商業社會責任教授、法律研究與商業倫理學教授，美國國際法學會反腐敗法利益小組聯合主席

龔鵬程教授：您好。在您的論文《使用同構的社會學理論來評估通過貿易制裁改變政權的可能性》中，您通過社會學理論來預測貿易制裁的結果。社會學對理解貿易制裁有什麼幫助，您可以舉一些例子嗎？

菲力浦·M·尼科爾斯教授：龔教授，您好。國家或某些政體是為了推進一些政策或目標而去實施貿易制裁的。例如，世界大部分地區在南非推行種族隔離制度時對南非實施貿易制裁，這既是為了表達對種族隔離的譴責，也是為了推動南非走向變革。

事實上，制裁的實施通常是為了激勵特定國家/地區的規則變化。社會學的一個分支，稱為制度社會學，研究規則和制度為什麼以及如何在政體中發生變化。

他們的研究闡明了一些例如路徑依賴性和有限知識（bounded knowledge）等有用的概念。

路徑依賴性描述了制度的強大慣性，除非政體經歷了強大的變革推動，否則它們將會一直保持類似的模式。以黎巴嫩為例，即使他們知道在特定群體之間分配政府權力的系統不再有效，但還是繼續構想類似形式的政府制度。

另一方面，有限知識（bounded knowledge）指出，即使對於外部觀察者來說有些制度的改變是有意義的，但是政體依舊不會採用他們不知道的制度。

有時，政體實施貿易制裁，是為了推動另一個政體使其制度遵照標準。例如，美國對古巴實施貿易制裁，以推動古巴“加入在西半球蓬勃發展的民主國家共同體”，換言之，使其制度與美洲國家組織成員國的制度一致。

制度社會學家將這種改變自身制度以看起來像其他制度的過程稱為‘同構’。消極或積極的誘因都可以導致‘強制同構’，使用積極誘因的最著名最成功的例子是向中歐和東歐新獨立的國家提供歐盟成員資格。加入歐盟需要將許多制度與歐盟標準保持一致，而這些國家也在創紀錄的時間內完成了這些工作。

而貿易制裁，則是一種負面誘因。因此，當貿易制裁的目的是推動一個政體使其制度符合某種標準時，社會學制度學家應該對這些制裁的結構有深刻的見解。

例如，為什麼對南非的制裁最終成功，而對伊朗的制裁迄今都失敗了？什麼時候對個人（如在俄羅斯入侵烏克蘭後）的制裁，比那種對整個政體（如在委內瑞拉可疑選舉與隨之而來的鎮壓後）的制裁更有效？ 這些問題屬於制度社會學家的範疇，可以為制裁的運作提供真正的見解。

    龔鵬程教授：嚴重的腐敗，損害著公共和私人組織的利益。這個問題在新興經濟體中似乎很嚴重，因為它們正在經歷快速的變化，所以這使它們更容易受到腐敗的影響。在您的論文《通過打擊腐敗創造共用價值》中，您提出了“創造共用價值”的戰略，來提高盈利能力。這個商業戰略需要什麼？公司如何實施它？您能舉一些例子嗎？

菲力浦·M·尼科爾斯教授：創造共用價值戰略 (CSV) 是由邁克爾·波特和他的同事命名並廣為人知，但這個概念在波特之前便已出現。CSV 並非慈善，而是一種提高商業公司底線的策略。

簡而言之，該戰略認識到商業公司不是在真空中運營，而是深深植根于其周圍的社會結構和制度中：企業就像花盆裡的植物、池塘裡的魚。如果植物想要保持健康和生長，就必須改善土壤品質並更換花盆。如果魚開始生長，它將需要更好的水質和更大的池塘。同樣，如果企業想要保持健康和成長，它可能需要改善其運營所在的社會環境。

其實有很多公司使用CSV 策略的例子，只是很少在北美出現。

我最想提到的是食品公司Aace Foods的例子。一對曾在國外工作的奈及利亞夫婦回國後成立了投資基金並收購了Aace，隨後發現它所依賴的當地農業產業基礎設施不合格、技術不可靠且知識過時。他們沒有像一些顧問建議的那樣將業務轉移到東歐，而是著手改善奈及利亞的農業。

他們幫助建立了一些金融專案以平衡農業週期並為改進技術獲得信貸。他們幫助建立了合作社以增強農民的商業力量，同時還傳播最新的知識與實踐。所有農民都可以獲得這些幫助（但將農民與Aace 綁定是不可能的），因此他們的生活全都得到了提升。Aace 的運營和收入也是如此，現在成為了一家蓬勃發展的食品公司。

腐敗，對社會和全球都會造成重大損害，也給個體商業公司帶來了實際成本。腐敗降低商業成本的神話已被徹底推翻。

因此，很明顯，一家商業公司可以通過改善其經營所在的社會環境來提高其地位，這種模式也就是努力減少腐敗。現在越來越多的商業公司開始相互合作，為世界各地的反腐敗做出貢獻。CSV有助於解釋原因，並可能根據其他領域的CSV 經驗提供有用的指導。

   龔鵬程教授：控制腐敗的一種方法，是在組織中營造一種濃厚的道德環境。在您的論文《最大化利益相關者信任作為控制腐敗的工具》中，您建議使用可衡量的利益相關者信任作為公司道德文化的代表。您能解釋一下這種方法是如何工作的嗎？

菲力浦·M·尼科爾斯教授：“道德環境”一詞描述了組織文化中處理對與錯以及應該與不應該的問題。因為為文化制定一個衡量標準其實是一個非常困難的挑戰，就像衡量愛情一樣，所以我們可以轉向尋找可衡量的代表。

然而，使用錯誤的代表可能會導致結果不準確甚至產生風險。就準確性而言，文化是異質的並因地而異。例如，如果我們以一家商業公司的成員拒絕行賄要求的次數作為代表，那麼我們該如何比較一家面對100次行賄要求中拒絕了99次的公司和一家從未面臨行賄要求的公司？就風險而言，使用錯誤的白標會引發對古德哈特定律的擔憂：使用代表會導致人們將該代替視為目標甚至操縱該代表，並且無視其他行為。

作為個體，我們應以多種方式展現我們的社會成熟和善良，商業公司也應如此。

過分強調一兩個行為而忽視其他行為，可能導致用有害的方式扭曲該行為。例如，如果一家商業公司的高道德文化的代表是拒絕賄賂要求，那麼它既可能會將自己置於需要賄賂的境地，同時也可能會忽略其他幾十個同樣應該成熟、負責任地行為處事的方面。

使用利益相關者信任作為代表，則可能可以規避這類風險。利益相關者是與組織互動或受組織影響的個人和實體，信任是一種行為者在有風險的情況下會表現合宜的感覺。信任是可以通過反復成功的互動來建立的（而聲譽在很多情況下都是類似情形的其他人的報告）。

有趣的是，人們認為合宜的行為，與我們認為的一般道德行為有很大的重疊。因此，信任感不依賴于特定的行為，而是依賴于適合該關係和該背景的行為，但仍屬於反映強烈道德氛圍的行為類別。這種概括，意味著我們避免了伴隨特定行為選擇的不準確性，以及過分強調或玩弄該行為的危險。利益相關者的信任，似乎是衡量道德氛圍強度的有用指標。

   龔鵬程教授：您最近寫了幾篇關於機器學習演算法（machine learning algorithms）腐敗的文章，例如，您的論文《賄賂機器：在革命開始時保護演算法的完整性》就深入談及了這個問題， 這很有趣。，看來機器學習也存在腐敗的可能性。但是，演算法究竟是如何被破壞的呢？ 社會可以做些什麼來控制這種腐敗？

菲力浦·M·尼科爾斯教授：演算法是人工構造的，而不是自然產物。 演算法由處理資料的規則組成（如果 x，則 y——如果從外部監視器流入的資料表明亮度已降至 80 流明以下，則完成電路以打開燈）。通過收集足夠數量的資料並使用簡化模型解釋該資料來創建演算法。

交通感測器可能會收集幾個月的資料，然後使用簡化模型解釋資料，該模型表明資料中的每個積極跡象都代表一輛車，所有車輛的目標是盡可能快地移動從一點到另一點。 不是所有的積極跡象都是車輛，一大群人可能會在感測器上註冊，並不是所有的車輛都想快速移動，有些可能是觀光，有些只是開車，但我們需要簡化模型 資料感。

這些示例使用非常簡單的演算法。實際上，現在許多重要的決策都是通過演算法做出的，而且很快大多數決策都會使用非常複雜的規則集來處理資料。 與今天的非演算法決策一樣，數十億和數萬億歐元將在這些演算法決策的基礎上流動。

關於交通流量的決定會影響交付公司的成本和收入，關於許可的決定會影響建設範圍，關於醫療保健的決定會影響藥品和醫療設備的盈利能力。會有很多誘惑，特別是在已經經歷地方性腐敗的建築行業等領域，破壞將做出這些決定的演算法。

有幾種方法可以故意破壞演算法。用於創建演算法的資料可能存在偏差（例如，快遞公司可能會關閉一些感測器並反復駛過其他感測器）。資料的存儲和檢索，可能會出現偏差（對競爭對手有利的資料可能會被降低使用的可能性，就像商業公司試圖在出現在搜尋引擎中獲得優於競爭對手的優勢一樣）。使不同資料具有可比性的方式可能會出現偏差（有關睡眠的資料可能優先於有關飲食的資料）。

這些都是可能的，並且可能已經在某種程度上發生了。更有可能的是，設計演算法的人可能會被賄賂使用傾斜的簡化模型（我們已經在簡化模型時遇到了有害偏見的問題）或編寫有利於一個參與者而不是另一個參與者的規則。

這似乎有些牽強，但在製藥等行業，商業公司目前經常賄賂醫生開藥，即使這些藥物對患者有害或患者不需要它們。似乎不可避免的是，他們還將試圖賄賂設計演算法的人，這些演算法將有助於大規模處方決策。

在當前規則下，很難檢測到演算法的損壞。大多數演算法都以商業機密的形式免受公眾審查。 這些規則需要改變。伴隨著數字革命的社會發展中也出現了許多深刻變革，法律法規也將在未來幾十年發生很大變化。 在這些變化中，我們必須確保法律能夠讓我們對演算法進行審查和評估，這些演算法將做出影響我們生活品質和地球狀況的決策。