近日，軟件所計算機科學國家重點實驗室的研究論文“Accurate Fairness: Improving Individual Fairness without Trading Accuracy”被第37屆AAAI人工智能大會接收，第一作者為碩士生李旭然，通訊作者為吳鵬副研究員。論文首次提出兼顧準確性的公平性評估標準——準確公平性（Accurate Fairness），以評估模型的預測結果是否既準確且公平。同時，首次提出孿生公平算法（Siamese Fairness Approach），實現了在提升模型準確公平性的同時，不損失其準確性與個體公平性，并應用于消除現實生活中的服務歧視問題。 

　　隨著機器學習的迅猛發展，如何保證機器學習系統的可靠性變得十分重要。可靠的機器學習系統不僅需要具有較高的性能，其預測結果還應滿足社會、法律、倫理等公平性要求。但現有的機器學習評估標準無法同時兼顧準確性與公平性；現有機器學習算法在提升準確性或公平性二者之一時，往往以損害另一方為代價 

　　為了從兼顧準確且公平的角度評估機器學習模型，論文首次將個體公平性標準的相似性條件與準確性標準中的真實標注信息相結合，提出新的公平性標準——準確公平性，從準確且公平的角度度量模型的可靠性，進一步提出了準確公平性度量標準，即公平查全率、公平查準率、公平-F1得分。論文首次將孿生算法應用于歧視消除，提出孿生公平算法。該算法可以在訓練過程中同時接收多個相似輸入，在提升模型公平性的同時不損失其準確性。 

　　在公平性基準數據集Adult、COMPAS和German Credit上的實驗結果表明，準確公平性標準可以發現準確性和個體公平性標準所忽略的準確但歧視、錯誤但公平的預測，同時孿生公平算法可以在提升模型準確公平性的同時，不損失其個體公平性與準確性。最后，論文將準確公平性標準以及孿生公平算法應用于檢測并消除現實生活中的服務歧視問題，能夠幫助酒店在不損失收益的情況下，消除服務歧視問題，為具有不同消費習慣的客戶提供準確且無差別的房間服務。 

算法流程圖

　　論文地址： 

　　https://arxiv.org/abs/2205.08704 

　　模型地址： 

　　https://github.com/Xuran-LI/AccurateFairnessCriterion