10.2 演算法偏見與數據時代的父權陰影#

2018年，路透社報導了一個震驚科技業的事件：亞馬遜悄悄廢棄了一個用於篩選履歷的人工智慧系統。原因是這個系統學會了歧視女性。它在過去十年的男性主導履歷中訓練，學會了給包含女性一詞的履歷降分，甚至貶低女子學院的畢業生。工程師試圖修正，最終放棄，因為他們無法保證系統不會找到其他方式繼續歧視。

偏見如何進入代碼#

演算法偏見的根源不是工程師的惡意，而是數據的過去。機器學習是從歷史數據中學習模式的：如果過去的招聘歧視女性，學習招聘數據的模型就會歧視女性；如果過去的醫療研究以男性身體為標準，學習醫療數據的模型就會對女性誤診。演算法把昨天的偏見寫進明天的決策，並且以數學的中立面貌出現，比人類偏見更難被質疑。

案例在2010年代快速累積。人臉辨識系統對深膚色女性的錯誤率遠高於淺膚色男性，MIT 的 Gender Shades 研究揭露了這一點，商用人臉辨識對深膚色女性的誤差率可達34%，而對淺膚色男性低於1%。信貸與保險模型可能間接歧視性別與種族。生成式人工智慧則以更直接的方式複製刻板印象：早期圖像模型輸入醫生時幾乎只生成男性形象，輸入家務時幾乎只生成女性形象；語言模型在描述職業時也再現了性別聯想。

偏見的放大效應#

演算法偏見的危險在於規模與反饋。一個有偏見的人影響的是身邊的人，一個有偏見的系統影響的是每天數百萬次的決策。更嚴重的是反饋循環：如果演算法讓女性更難獲得貸款或工作，下一輪訓練數據中的女性成功案例就更少，偏見自我加強。

這對女性歷史意味著什麼？意味著父權偏見第一次獲得了一個自動化、規模化、且看似客觀的載體。幾千年來，女性主義者對抗的是法律、宗教與文化的偏見，可以透過立法、教育與運動改變；但偏見若藏在模型權重裡，看不見、摸不著、難以究責。

治理的進展#

治理的嘗試也在加速。歐盟2016年《一般資料保護規範》賦予個人不受全自動決策的權利，2024年《人工智慧法案》要求高風險系統進行偏見評估。多國的演算法審計、數據多元性標準、模型偏見基準測試陸續出現。科技業內部，公平機器學習成為研究領域，性別多元的訓練數據、差異性評估與解釋性要求逐漸成為標配。

根本的教訓與歷史一貫：偏見的技術形式會變，偏見的結構根源不變。演算法反映的是數據的社會，而數據的社會是我們生活的社會。要讓演算法公平，先要讓訓練它的社會公平。這也是為什麼，技術治理不能替代女性主義的政治與文化鬥爭，兩者必須並行。

而在技術治理之外，還有一個更激進的問題：如果連性別本身都是可以被重新思考的範疇，那麼女性主義的未來，將不再只是關於女性，而是關於所有人如何擺脫性別的既定劇本。