芬蘭反歧視及平等審裁局日前宣布，禁止在金融信貸中“歧視性”地使用人工智能。

在該部門審查的一個(gè)案例中，芬蘭某金融機(jī)構(gòu)僅根據(jù)申請(qǐng)者的性別、語(yǔ)言、年齡和居住地等信息就拒絕其信貸申請(qǐng)，而沒(méi)有讓申請(qǐng)者提供財(cái)務(wù)狀況。審裁局認(rèn)為，僅根據(jù)數(shù)據(jù)而不做個(gè)人評(píng)估就對(duì)客戶信用作出評(píng)定是一種歧視行為。

同時(shí)，這家金融機(jī)構(gòu)的自動(dòng)化系統(tǒng)會(huì)篩選使用芬蘭語(yǔ)和瑞典語(yǔ)的人群，這實(shí)際上會(huì)讓使用其它語(yǔ)言的人處于不利地位。審裁局認(rèn)為，基于申請(qǐng)者所使用語(yǔ)言來(lái)做財(cái)務(wù)評(píng)估，是明顯的歧視行為。

鑒于此，芬蘭反歧視及平等審裁局責(zé)令該金融機(jī)構(gòu)不得“以歧視的方式”使用統(tǒng)計(jì)方法，并對(duì)其處以10萬(wàn)歐元的罰款，警告其不得繼續(xù)對(duì)客戶實(shí)施歧視行為。這是該部門首次對(duì)自動(dòng)化程序信貸評(píng)估導(dǎo)致歧視現(xiàn)象作出裁決。不過(guò)，審裁局并沒(méi)有完全禁止在信用決策中使用人工智能。

受處罰的金融機(jī)構(gòu)辯解稱，審查申請(qǐng)人的個(gè)人財(cái)務(wù)狀況會(huì)增加貸款過(guò)程的成本，他們使用的系統(tǒng)并無(wú)不當(dāng)之處，因而該機(jī)構(gòu)將會(huì)就這一裁決向行政法院提起上訴。

芬蘭平等監(jiān)察官基爾西·皮米埃在接受《赫爾辛基新聞》采訪時(shí)說(shuō)，她曾與該金融機(jī)構(gòu)進(jìn)行過(guò)商談，試圖尋求雙方均可接受的解決方案，但沒(méi)有達(dá)成一致意見(jiàn)，最終導(dǎo)致這項(xiàng)禁令。

皮米埃表示，她還將與其他金融機(jī)構(gòu)保持接觸，以便找到在信貸決定中使用人工智能可能會(huì)遇到的其他問(wèn)題，并尋求合理的解決方案。目前，芬蘭有多家銀行在信貸工作中采用自動(dòng)化信息處理和引入人工智能。

關(guān)鍵詞： 芬蘭 歧視性 監(jiān)管部門