從數(shù)百萬美元的勒索軟件賠款，到數(shù)億用戶私人信息的數(shù)據(jù)泄露，圍繞惡意技術(shù)的頭條新聞一直很吸引眼球，但它們并不能說明全部問題。
真實情況是，惡意技術(shù)遠(yuǎn)不止蓄意的、有針對性的破壞系統(tǒng)或竊取用戶數(shù)據(jù)。盡管黑客攻擊、勒索軟件攻擊、數(shù)據(jù)泄露和 DDoS 攻擊在這類新聞敘述中占據(jù)著主導(dǎo)地位，也的確造成了嚴(yán)重?fù)p害，但實際上它們只是滄海一粟。
認(rèn)識所有形式的惡意技術(shù)行為
首先要擺正心態(tài)，不要對 "惡意技術(shù) "一詞感到過于恐慌。這里談?wù)摰牟粌H是技術(shù)攻擊本身，我們需要更廣泛地思考這一問題。
惡意技術(shù)并不單純指非法行為，我們甚至不是在談?wù)撃切┍厝皇菒阂獾氖虑?。例如，有些人完全樂于接受在線監(jiān)控，因為這可以幫助他們獲得更精準(zhǔn)、更具個性化的推薦。與此同時也有另外一些人會不遺余力地躲避任何數(shù)字監(jiān)控的追蹤，因為這在他們看來是不道德的。
有些技術(shù)看似惡意，其出發(fā)點卻并不如此。例如，圖像識別軟件的開發(fā)者不會刻意讓軟件在識別到黑人婦女面孔時提供不一致的結(jié)果，只是由于軟件現(xiàn)階段有一個糟糕的數(shù)據(jù)集，才會呈現(xiàn)出看似有偏見的結(jié)果，而這些并非開發(fā)者的本意。這些都不是惡意的項目，當(dāng)然也不歸屬于惡意的品牌。在許多情況下，它們甚至不是設(shè)計或規(guī)劃上的失敗，而是團(tuán)隊沒有充分考慮到一項技術(shù)決定會對所有潛在的利益相關(guān)者群體產(chǎn)生怎樣不同的影響。
這是一個關(guān)鍵點。在設(shè)計之初，軟件通常有一個特定的利益相關(guān)者群體，設(shè)計者試圖直接服務(wù)或滿足這一群體的需求，卻常常忽視了該產(chǎn)品對其他利益相關(guān)者的影響。比如訓(xùn)練一個自然語言處理模型所產(chǎn)生的二氧化碳排放足跡，與紐約和北京之間往返125次航班相同——很少有人考慮到這種環(huán)境上的影響。除此之外還有很多人忽視的公平、公正問題。例如，疫情期間很多教育轉(zhuǎn)入線上，一些家庭沒有良好的網(wǎng)絡(luò)情況，根本無法同時支撐幾個孩子共同參與線上課程，更不用說父母也要同時在家辦公。許多人看到的是數(shù)字教育的精彩革命，但他們沒有看到那些因數(shù)字不平等而被落下的人。
為什么現(xiàn)在是擁抱道德技術(shù)的正確時機？
疫情所暴露的數(shù)字不平等和正在發(fā)生的氣候危機只是原因之二。現(xiàn)如今，技術(shù)幾乎深深扎根于我們生活的各個方面——醫(yī)療決定、信貸決定、緩刑或判刑決定，所有這些對個人生活有巨大影響的事情，都受到技術(shù)選擇的巨大影響。這其中的利害關(guān)系是非常真實的，而技術(shù)決策者在做這些決定時卻很少做到全面考慮。這就是為什么對各種組織來說，樹立負(fù)責(zé)任的技術(shù)思維是如此重要。
負(fù)責(zé)任技術(shù)的定義
負(fù)責(zé)任技術(shù)——有時也被稱為道德技術(shù)或公平技術(shù)——是一個總括性的術(shù)語，包含了多種概念，總之就是用技術(shù)做正確的事情——這可能意味著任何事情，從采取措施使更容易獲得一個應(yīng)用程序，到實施政策以幫助持續(xù)提供公平的技術(shù)體驗。
從字面上看，這是一個相對簡單的概念，但仍然被誤解所籠罩。我最近讀到一些信息，說“責(zé)任”在土木工程等領(lǐng)域很容易定義，你的責(zé)任是確保建筑物穩(wěn)定，不倒塌，不對相關(guān)居民的生活產(chǎn)生負(fù)面影響。其隱藏的含義是，在軟件或技術(shù)領(lǐng)域，這一點很難定義。
是的，我們并不像醫(yī)療行業(yè)那樣受到任何形式的“希波克拉底誓言”的約束。但是，當(dāng)涉及到用技術(shù)做出道德以及負(fù)責(zé)任的決定時，我們常常給自己留了過多的余地。
我們可以采取哪些措施來變得更加負(fù)責(zé)？
為了減少技術(shù)所附帶的無意傷害并做出負(fù)責(zé)任的決定，今天的企業(yè)需要著重關(guān)注的是，識別可能受到特定技術(shù)決定影響的潛在利益相關(guān)者。這意味著需要關(guān)注：
- 受測群體——他們是否真正代表了預(yù)期中將使用該產(chǎn)品的終端用戶群體?這個過程是否涵蓋了所有利益相關(guān)群體，他們是否有發(fā)聲渠道？
- 服務(wù)所需數(shù)據(jù)集的質(zhì)量和準(zhǔn)確性——是否沒有偏見，是否能夠提供真實、全面的反饋和包容性體驗？
- 設(shè)計中是否考慮到了平等和易用性——以及復(fù)雜的特征或功能是否以整體可用性和可及性為代價？
- 這一決策是否會對人類社會產(chǎn)生更廣義的負(fù)面影響?例如，它是否與我們的可持續(xù)發(fā)展目標(biāo)相一致，是否有可能破壞環(huán)境？
我希望鼓勵組織做的另一件事是，明確聲明組織關(guān)心什么，以及希望所采用的技術(shù)能幫助實現(xiàn)什么。正如《數(shù)學(xué)毀滅武器》的作者Cathy O'Neil所說，有些時候，你必須在公平和利潤之間進(jìn)行交易。
這取決于你想在這個光譜上處于什么位置，但重要的是要明確目標(biāo)和意圖。我曾與一個組織合作，該組織制定了一個框架，表達(dá)了他們在使用客戶數(shù)據(jù)方面的價值觀和原則，清楚地闡述了他們打算如何操作這些數(shù)據(jù)，以及為什么會做出這個決定。這花了幾個月的時間，但這使他們的意圖和道德立場十分清晰，并且容易保持一致。
減輕技術(shù)的無意識傷害
技術(shù)所產(chǎn)生的無意識傷害有多種形式，可能潛伏在任何技術(shù)決策中。作為技術(shù)管理者，我們有責(zé)任提出正確的問題，并考慮這些技術(shù)將如何被每個人使用，以及可能對使用者的生活和經(jīng)歷產(chǎn)生怎樣的影響。
轉(zhuǎn)向這種負(fù)責(zé)任的方法和心態(tài)在理論上相對簡單，但在看到有意義的結(jié)果之前，整個行業(yè)的組織和專業(yè)人士需要作出真正的奉獻(xiàn)。正如我們有責(zé)任保護(hù)客戶數(shù)據(jù)免受惡意威脅一樣，我們也有道德責(zé)任盡我們所能減少技術(shù)所產(chǎn)生的負(fù)面影響，并為所有人建立一個平等、可訪問的數(shù)字世界。
