6月24日，美國馬薩諸塞州的首府和最大城市波士頓的市議會以13票贊成、0票反對的結(jié)果通過了《波士頓禁止人臉監(jiān)控技術(shù)條例（Ordinance Banning Face Surveillance Technology in Boston）》。
條例規(guī)定，波士頓市的任何市政機關(guān)和公務(wù)員均不得獲取、保留、擁有、使用人臉監(jiān)控系統(tǒng)及通過此類系統(tǒng)獲得的信息，而且不能通過與第三方合作繞過條例。違反條例規(guī)定獲取的人臉監(jiān)控數(shù)據(jù)將被視為違法數(shù)據(jù)，一經(jīng)發(fā)現(xiàn)會被刪除。
市政府官員表示，波士頓警察局此前并未使用過該技術(shù)，但警局目前使用的一款名為BriefCam的視頻分析軟件，它的升級版確實有人臉識別功能。波士頓警方在市議會的工作會議上表示，他們不會注冊這部分軟件更新。
此次條例通過，等于從源頭掐滅該項技術(shù)在波士頓的使用。
目前，在禁用人臉識別的城市里，波士頓城市規(guī)模排第二，僅次于舊金山。
而舊金山和波士頓，一個是推特、愛彼迎和優(yōu)步的總部所在地；一個是哈佛、MIT等知名高校的所在地。都是充滿了科技活力的地區(qū)，為什么會自己禁止人臉識別這種先進的人工智能相關(guān)技術(shù)？
反對者們提出了兩個原因：
第一，他們認為這項技術(shù)將威脅到公民權(quán)利，第二，他們認為面部識別技術(shù)存在缺陷，將導(dǎo)致嚴重的種族問題。
在種族抗議活動愈演愈烈的當下，第二條原因更為重要。
提出了該法案的波士頓市議員里卡多·阿羅約（Ricardo Arroyo）與市議員吳弭（Michelle Wu）指出，這項技術(shù)對于有色人種來說是非常不準確的。
"它有明顯的種族偏見，這很危險，"阿羅約在聽證會前說。
法案中稱，“已有證據(jù)表明，人臉識別技術(shù)在識別非裔和亞裔人群體時準確率更低。人臉識別監(jiān)控中的種族偏見有可能傷害有色人種群體，而有色人種本身就已經(jīng)受到更多的監(jiān)控和騷擾?！?/p>
在周三的會議上和投票前，吳弭表示，波士頓不應(yīng)該使用種族歧視的技術(shù)。"我們正在努力結(jié)束系統(tǒng)性的種族主義，所以，結(jié)束對有色人種社區(qū)的過度監(jiān)視需要成為其中的一部分。"
值得一提的是，吳弭是美籍華裔議員，父母從臺灣移民至美國，她也是波士頓第一個當上市議員的亞裔女性。
紐約時報曾在一篇文章中提到，人臉識別在針對有色皮膚時錯誤率明顯增大。
MIT媒體實驗室（MIT Media Lab）研究員Joy Buolamwini與來自微軟的科學(xué)家Timnit Gebru合作的一篇研究論文《性別圖譜：商用性別分類技術(shù)中的種族準確率差異》（Gender Shades: Intersectional Accuracy Disparitiesin Commercia lGender Classification）中，作者將微軟、IBM和曠視科技三家人臉識別技術(shù)進行對比，結(jié)果顯示，AI應(yīng)用人臉識別針對黑人女性的錯誤率高達21％－35％，而針對白人男性的錯誤率則低于1％，不同種族的準確率差異巨大。
紐約時報稱，該項研究也引發(fā)了關(guān)于“AI是否存在社會不公甚至種族歧視問題”的探討，但顯然并不是。膚色較深女性較難識別，除了天然人臉特征更難提取之外，可供訓(xùn)練的數(shù)據(jù)集較少也是影響因素之一。
文章表示，當下的人工智能是數(shù)據(jù)為王，數(shù)據(jù)的好壞和多少會影響AI的智能程度。因而，如果用來訓(xùn)練AI模型的數(shù)據(jù)集中，白人男性的數(shù)據(jù)多于黑人女性，那么系統(tǒng)對后者的識別能力就會不如前者。
現(xiàn)有的數(shù)據(jù)集中存在這一現(xiàn)象，比如根據(jù)另一項研究的發(fā)現(xiàn)，一個被廣泛使用的人臉識別數(shù)據(jù)集中，75%都是男性，同時80%是白人。
曠視回應(yīng)表示，深色人種數(shù)據(jù)集比較難獲得，所以會差一些；另外，使用RGB攝像頭進行人臉識別時，深膚色人的人臉特征比較難找，特別是在暗光條件下，這也是一方面的原因。
圖源紐約時報
也是因為如此，今年6月初，IBM致信美國國會議員，宣布公司將退出通用的面部識別業(yè)務(wù)，并表示反對將這種技術(shù)用于大規(guī)模監(jiān)控和種族定性分析。
在本月早些時候的聽證會上，波士頓警察局長威廉·格羅斯說，目前的技術(shù)并不可靠，而且該部門也沒有使用這項技術(shù)。
"在這項技術(shù)100%準確之前，我對它不感興趣，"他說。"我沒有忘記我是非洲裔美國人，我也會被誤認。"他補充道。
不過，波士頓的禁令并不會影響私人公司或聯(lián)邦機構(gòu)（如FBI）使用該技術(shù)。
除了波士頓和舊金山外，馬薩諸塞州的其他五個社區(qū)——薩默維爾，布魯克林，北安普頓，斯普林菲爾德和劍橋也有此條禁令。美國公民自由聯(lián)盟馬薩諸塞州分會推動了這些地方的禁令，并正在游說州立法者采取行動。
目前還沒有全州范圍內(nèi)的禁令，不過一項暫停使用人臉識別系統(tǒng)的法案目前正在馬薩諸塞州聯(lián)合司法委員會待審。
