kuso::他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

本文獲得微信公眾號 英國那些事兒(hereinuk 授權,原始標題:他偷輛車就被人工智慧評估重判8年。當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

現如今,AI(人工智慧)已經成為了一個逃不掉的話題..

不管是橫掃圍棋界各大高手的Alpha Go….

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

 

還是用不同化名在網路上發表詩歌,都沒有被人察覺的微軟小冰…

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

 

最複雜的遊戲,最微妙的情感,

AI似乎夠能和人一樣做出來,甚至,比人做得更好.....

 

但它們不止於此,更是早已來到了司法界。

 

最近美國有一起充滿爭議的案子,

一個因為偷竊罪被判刑的男人把威斯康星法院告了,

因為...

他被判整整8年有期徒刑,不是因為他的罪行,也不是因為法官的判斷,

而是因為,一個AI認為,他對社會具有『高危險性』!

 

事情要從2013年說起...

那年的2月11日,威斯康星州的拉克羅斯市出現了槍擊案。

有目擊者們看到一輛車行駛過Kane大街2200號房子的時候,車裡的人突然掏出槍向屋子開了兩槍。

目擊者馬上報警,並且告訴警察關於車子的信息。

 

之後, 警方在別的地方找到這輛車,馬上展開激烈追捕,最後好不容易把車子逼停了,看到了31歲的Eric Loomis和他的小夥伴....

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

警方在車子裡發現一些槍支,

本以為是人贓俱獲,但仔細徹查後發現.....

這兩人,根本不是槍擊案的罪犯,而是在錯誤的時間錯誤的地點出現的竊車的小偷。

 

警方調查發現,槍擊案罪犯棄車逃跑後,這個小偷順手把這輛車給偷了.....

 

案情確鑿,於是法院判兩人有盜竊罪和拒捕罪。

 

原本,這案子並不算大,但是在Eric Loomis接受了一個叫做COMPAS的軟件系統的提問後,法官宣布,判處Eric Loomis 長達8年6個月的有期徒刑。

 

這麼長的刑期,Eric Loomis簡直傻眼了.....

法官Scott Horene給出的理由是這樣的:

『根據COMPAS的測試,被告被認定為對社會具有高危險性的人。』(「identified, through the COMPAS assessment, as an individual who is at high risk to the community.」)

 

COMPAS......這到底是個啥??

 

COMPAS是一個由私營企業編寫出的、能夠幫助司法人員做出判斷的智慧AI。

它通過向被告詢問137個問題(比如『你在學校多久打一次架』;『你有多少朋友非法使用藥物』;『你受過的最高教育是什麼』),還有搜索他曾經的犯罪記錄,得到一堆數字,

然後經過公司設定的複雜算法,最終得出一長串數據。 

裡面包括他的孤僻程度、犯罪型人格的得分、性格穩定度....以及最重要的,他的 『危險指數』,也就是 『未來再次犯罪的可能性』。

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

COMPAS在美國很多個州中都被使用,其中使用最廣泛的是威斯康星州。

 

從2012年起,威斯康星州就鼓勵在全州所有法庭上都用COMPAS,在監獄系統中的每一部分也使用它,給犯人做出評估,協助司法人員進行判刑到假釋的判斷....

因為....COMPAS實在太好用了,

它告訴人們的答案太清晰了!

這個AI能清楚地說出每個被告的『 危險指數』是多少,從1到10,10為最危險,說明被告再次犯罪的可能性極高。

根據這個數據,能夠幫助法官判斷,

是判他早早出獄,還是在監獄裡多待兩年,免得出去禍害社會.....

 

除此外,COMPAS還能告訴司法人員,

最適合被告的監禁類型是什麼,

被告什麼時候才能被假釋,

監獄裡這麼多人,誰最適合提前釋放,

保釋金需要多少錢,

......

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

只要有人問,

COMPAS幾乎能回答關於罪犯和監禁的所有問題!

 

威斯康星州懲教部的部長Jared Hoy曾經說,這個AI簡直太好用。 

它給人的驚喜不斷,建議每個工作人員做決定的時候都可以用一用。

 

對工作人員可能是好事....

但對被告來說,這簡直就是莫名其妙....

 

Eric Loomis聽到結果後,馬上表示不服,

『為什麼我會被評為是對社會有高危險度?理由呢?

而且還是用一個軟件來評判我,這不合理!』

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

按照美國第六修正案,被告有權知道被控告的理由,

那麼他被控『 有高危險度』的理由是什麼呢?

COMPAS: 抱歉,我不能說。

 

是的,因為COMPAS是一個商業產品,有知識產權,所有除了公司的核心成員, 它的具體算法不能被外界知道,

就算是用它用了很多年的法院,他們也不知道算法長什麼樣,只能看到結果....

 

所以,COMPAS就像是一個黑匣子。

Eric Loomis被判為『高危險』,也許是由於他在『受教育程度』那裡分數很低,也許是由於在『是否住在危險街區』中回答了『是』,也許是COMPAS認為他在回答中撒謊.....

總之,沒人知道。

 

於是,不滿的Eric Loomis決定上訴,一路鬧到威斯康星州最高法院,

但最終,法院仍然認為COMPAS的判斷沒有問題,它『科學又有效』。

在扯了幾年的皮後,Eric Loomis的刑罰最後被降到6年,但他覺得還是很長.....

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

 

為什麼威斯康辛星就是對COMPAS如此痴迷呢?

法院方面表示,因為COMPAS的優點很大啊!

它就是一堆冷冰冰的算法,很客觀,完全不受個人情感因素的影響。

使用COMPAS,法官能夠更公正無私地看待案子,最大化地消除偏見。

這就是法院大力使用的原因.....

 

但根據非盈利新聞社ProPublica的研究,

COMPAS似乎並沒有那麼完美.....

 

在COMPAS的137個問題中,沒有詢問被告關於『 種族』的問題,這也是人們說它客觀的原因。

但在2016年,ProPublica卻發現了很多『 AI種族歧視』的情況。

比如,黑人女孩Brisha Borden和白人大叔Vernon Parter因為盜竊罪被捕,兩人都被控竊取價值80美元的東西。

女孩之前有過4次行為不當,沒有入獄經歷;而大叔有過兩次持槍搶劫,還曾經坐過5年牢。

結果女孩被COMPAS判斷的危險指數是8,屬於『 高危』,而大叔的指數卻是3,屬於『 一般危險』.....

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

再比如,下面兩小哥都因為攜帶毒品被捕,

左邊的白人Fugett曾經因為持有可卡因和大麻,被警方抓捕過三次,還犯過一次搶劫案,COMPAS認為他的危險指數是3分;

而右邊的Parker,只有過一次拘捕,只是逃跑,沒有襲警,卻被COMPAS認為危險程度極高,有10分。

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

明明是個死物的COMPAS,為什麼會像種族歧視者呢?

人們不知道,但考慮到COMPAS在問題中問的各種因素,

比如家庭、街區、是否有工作、最高學歷、父母是否吸毒等等,看上去和個人有關,但實際上是受社會大環境影響,黑人處於的弱勢環境,讓他們在AI的評測中更加吃虧....

 

因為算法本身不客觀,

那麼COMPAS的正確率也不會有多高....

在2016年,ProPublica通過COMPAS計算了7000多名罪犯在刑滿後再次犯罪的可能性。

這些罪犯來自加利福尼亞州的Broward市,被COMPAS測評『危險指數』的時間是2013年到2014年。

結果...只有20%的人會按照COMPAS預測的那樣再次犯罪,

如果把所有的犯罪類型都算上,比如用一個過期的駕照開車這種小罪, 那麼COMPAS的正確率為61%。

他偷一輛車「被人工智慧評估重判8年」瞬間傻眼!當AI觸角伸向司法界,是合理,還是荒唐? ​​​​

 

 

而Eric Loomis的這個案例....

因為所謂的『危險指數』偏高,而不得不被聽信AI的法官判更長時間的牢。 他自己覺得,確實感覺挺冤...

 

現在,猶他州、弗吉尼亞州,很多地方都在使用類似的AI來幫助審判,預測犯罪,

這是美國司法界的趨勢,

也許,這也將是是全球的趨勢....

 

但犯罪是一個極其複雜的社會問題,

AI能幹得好嗎,它真的能像公正無私的審判者一樣,做出完美的判決嗎?

 

法官判案,有人說法官受人性影響,會有偏差...

讓AI來評估,實際證明也不完美....

那,什麼又才是正確的路呢? 

 

ref:

https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

 

http://bigthink.com/robby-berman/a-judge-lets-an-app-help-him-decide-a-wisconsin-mans-6-year-sentence

http://www.northpointeinc.com/files/downloads/DataSheet_Classification.pdf

http://www.equivant.com/solutions/inmate-classification

https://www.theatlantic.com/technology/archive/2016/06/when-algorithms-take-the-stand/489566/

 

-------------------

 

 

 

本文獲得微信公眾號 英國那些事兒(hereinuk 授權,原始標題:

分享

相關推薦

[推薦] 媽~~我不要啦~~那些年不堪回首的童年藝術照

還記得小時候拍的各種照片嗎?在那一堆或淘氣或賣萌的照片裡,總有那麼幾張,讓長大後的自己看了哭笑不得。 近日,網友們掀起了新的潮流,大家紛紛上傳自己小時候拍下的各種“雷照”,這些照片或打扮雷人,或濃妝豔抹,讓圍觀者直呼“囧爆了”。 儘管以前小時候還沒有&...

作為男工程師原PO被公司唯一的女同事嚇哭了

身為一個男程式員,沒錢沒時間沒女人就算了,身邊連一個意淫的對象都沒有。女程式員這群不明種族的生物你敢嗎?喏,就是下面這樣的...         這就是我們公司唯一的女生程式員啊!!!!她的自拍照啊!!!!   而且最近不知道為什麼,她越來越明目張...

中國人搞笑防曬...

泳裝了一種新的趨勢正在席捲中國在中國東部的山東省青島海灘。隨著天氣變熱,男女雙方都出現在海灘上穿著全身西裝,涵蓋從頭部到腳趾。孔切出適當的地方留下眼睛,鼻子和嘴角露出泳衣的上部有一個滑雪面罩,讓佩戴者一個奇LUCHA免費看看。網民呼籲泳裝「面對面kinis」   面具是中國泳客的方式來保護...