近日，有亞馬遜高管表示，公司會“堅定不移”地為美國政府和軍方服務(wù)，政府執(zhí)法部門、士兵和公務(wù)人員都應(yīng)該獲得AI技術(shù)的幫助。亞馬遜并未就參與國防事務(wù)問題上劃定任何“紅線”。不久前公司的人臉識別軟件將議員誤認(rèn)為罪犯，是因?yàn)?a target="_blank">ACLU的實(shí)驗(yàn)設(shè)定的精確度閾值存在問題，屬于對軟件的使用不當(dāng)。

在向軍方和執(zhí)法部門提供尖端AI技術(shù)是否會有違道德這件事上，一些硅谷巨頭企業(yè)一直態(tài)度曖昧，但亞馬遜對此似乎態(tài)度鮮明，沒有保留。

亞馬遜的員工一直在抗議公司將面部識別技術(shù)賣給執(zhí)法部門。不過上月底在科羅拉多州舉辦Aspen安全論壇上，亞馬遜AWS全球公共部門副總裁Teresa Carlson對這一問題表明了立場。在被問及亞馬遜的員工（亞馬遜員工抗議與公司的“管理層”利益之間存在文化上的“鴻溝”時，Carlson對此作出坦率回應(yīng)，她表示：“我們致力于服務(wù)我們的客戶，我們會堅定不移地為美國政府和世界各地與我們有合作關(guān)系的政府服務(wù)?！?/p>

Carlson的這番言論在媒體上鮮有報道，最近幾個月以來，關(guān)于亞馬遜在為軍方和執(zhí)法部門提供AI技術(shù)中起到的重要作用，已經(jīng)引發(fā)了長時間的公眾討論，并引發(fā)了巨大爭議。

亞馬遜將“堅定不移”地為美國政府和軍方服務(wù)，未設(shè)任何紅線

亞馬遜眾多員工最近向公司的CEO杰夫·貝索斯發(fā)出了一封公開信，抗議亞馬遜將面部識別軟件Rekognition出售給執(zhí)法部門。信中引用了美國國土安全部“對難民和移民越來越不人道的對待?！泵绹褡杂陕?lián)盟（ACLU）對亞馬遜出售技術(shù)表示擔(dān)憂，指Rekognition可以讓警察不間斷地監(jiān)視和騷擾少數(shù)族裔和持不同政見人士。微軟和Salesforce同樣面臨來自員工的內(nèi)部壓力。

對于近期的批評之聲，Carlson表示，“員工需要發(fā)聲渠道。我不能代表任何其他公司發(fā)言，但我們希望與我們的政府合作，”她補(bǔ)充說。“我們感到有這個義務(wù)。政府也應(yīng)該擁有相應(yīng)的能力，在戰(zhàn)場上作戰(zhàn)的士兵、我們的公務(wù)人員，都應(yīng)該具備相應(yīng)的能力?！盋arlson承認(rèn)“壞人總是難免的”，但接著就開始夸贊對Rekognition軟件的積極應(yīng)用。

當(dāng)有記者問到，亞馬遜是否“在國防事務(wù)上劃定了任何紅線，制定了任何標(biāo)準(zhǔn)、指導(dǎo)方針，確定要做哪些事、不做哪些事”時，Carlson表示，并沒有。

“我們沒有劃定任何界限，”Carlson回應(yīng)道。 “我們會堅定不移地支持執(zhí)法部門、國防部門和情報部門?！彼硎?，亞馬遜經(jīng)常不了解“自己的軟件工具的服務(wù)對象的一切”，但同時堅持認(rèn)為美國政府應(yīng)該擁有最具“創(chuàng)新性和前沿性的工具”，以使其不受其“敵人”的影響。Carlson提出“符合道德的使用權(quán)”作為一種機(jī)制，亞馬遜可以通過該機(jī)制收回被非法使用的技術(shù)，不過公司不清楚這會對執(zhí)法行動造成什么影響，比如美國移民局和海關(guān)的執(zhí)法部門所采取的執(zhí)法行動。

以網(wǎng)絡(luò)服務(wù)和電子商務(wù)業(yè)務(wù)聞名的亞馬遜公司，目前正迅速進(jìn)入國防和國土安全領(lǐng)域，為五角大樓和全國各地的警察機(jī)構(gòu)提供一系列機(jī)器學(xué)習(xí)工具。亞馬遜目前正在為美國情報機(jī)構(gòu)管理一個大型云計算解決方案，并正在競標(biāo)一項(xiàng)價值100億美元的合同，為國防部提供類似的云解決方案。

“議員變罪犯”事件是因?yàn)锳CLU對臉部識別軟件使用不當(dāng)

上周，ACLU的一項(xiàng)研究發(fā)現(xiàn)，亞馬遜的面部識別軟件錯將28名國會議員識別為罪犯，這些議員大多數(shù)是有色人種，隨后，亞馬遜遭遇了又一波批評。

一位不愿透露姓名的亞馬遜發(fā)言人表示，ACLU的研究結(jié)果是“校準(zhǔn)不當(dāng)”所致。該發(fā)言人表示，在ACLU的實(shí)驗(yàn)設(shè)定的精確度閾值下，亞馬遜的面部識別技術(shù)未能在“合理的確定度”內(nèi)使用。

據(jù)Intercept獲得的泄露電子郵件中顯示，亞馬遜在去年國防部提出的飽受爭議的Project Maven中做了“一些工作”。該合同是五角大樓首次積極嘗試將硅谷開發(fā)的機(jī)器學(xué)習(xí)技術(shù)融入軍事項(xiàng)目中。該計劃利用人工智能技術(shù)，對人員、建筑物和事件進(jìn)行自動編目，以幫助分析人員識別無人機(jī)在戰(zhàn)場上捕獲的圖像。

根據(jù)Defense One的說法，這一計劃將用于支持“捕食者”和“收割者”無人機(jī)攻擊“中東地區(qū)”的目標(biāo)。批評人士稱，在無人機(jī)戰(zhàn)爭中使用先進(jìn)的人工智能技術(shù)只會導(dǎo)致“對攻擊方式的改變”，讓無人機(jī)攻擊的目標(biāo)人群不再基于已知的活動，而是基于遠(yuǎn)程監(jiān)控錄像的得出的概率。據(jù)報道，特朗普總統(tǒng)部署無人機(jī)的速度達(dá)到了奧巴馬時期的四到五倍，而奧巴馬將無人機(jī)的攻擊次數(shù)提升至小布什時期的10倍。

最終，谷歌贏得了Project Maven合同，但試圖隱瞞公司參與該項(xiàng)目。谷歌的幾名員工辭職抗議，數(shù)千人聯(lián)名發(fā)表公開信，要求谷歌終止與軍方的聯(lián)系。許多人對此表示震驚，谷歌與軍方合作似乎違反了自身“不作惡”的信條，并且聲稱“與五角大樓的任何合作成果都不會用于致命目的”，這實(shí)際上是在誤導(dǎo)自家員工。

谷歌于此后表示，Project Maven合同于明年到期后不再續(xù)簽，并且在努力制定一套使用人工智能技術(shù)的道德守則，不過并未表示在未來會拒絕與國防事務(wù)有關(guān)的合同。