人們敦促政府分享其計劃的更多細節，以促進人工智能的使用，以對福利索賠進行風險評分。
工作和養老金部透露了計劃擴大該技術的使用范圍，以解決欺詐問題。
活動人士表示，需要更多信息來確保系統不會對福利調查進行有偏見的轉介。
該部門堅稱已采取適當的保障措施，并計劃與國會議員分享更多信息。
DWP 已將新技術置于其解決欺詐問題計劃的核心位置，在新冠疫情期間，由于一些現場支票被暫停，欺詐行為有所增加。
據估計，今年的福利多付了83億英鎊，比前一年有所下降，但是大流行前去年41億英鎊的兩倍。
自去年以來，它使用一種算法來標記潛在的欺詐性通用信貸（UC）預付款索賠。這些是為有緊急需要的人提供的臨時付款，然后每月償還。
它使用機器學習（一種廣泛使用的人工智能AI形式）來分析歷史福利數據，以預測新索賠欺詐或不正確的可能性。
然后，被評為有風險的索賠將被轉交給公務員進行調查，并暫停付款，直到轉介得到處理。
在上周的年度賬目中，DWP 披露了計劃試點“類似”模式，以審查多付率較高的四個領域的案件，包括未申報的自營職業收入和不正確的住房成本。
該部門尚未給出全面部署這些模型的日期。
該部門表示，它會持續監控算法，以防范意外偏見的“固有風險”，并表示案件工作人員不會被告知模型何時標記案件。
但活動組織“隱私國際”表示，它對其使用方式“持續缺乏透明度”感到“持續擔憂”。
該組織告訴媒體，DWP未能提供有關其正在使用的工具的“實質性信息”。
它補充說，鑒于算法做出的決策“對基本權利構成了有據可查的嚴重風險”，因此應該讓外部機構發揮監督作用。
兒童貧困行動組織表示，它對更多地使用機器學習的計劃感到震驚，并補充說，DWP數字化方法中的“關鍵缺陷”尚未得到解決。
首席執行官艾莉森·加納姆(Alison Garnham)補充道：“擴大技術的同時，忽視對透明度、嚴格監控和防止偏見的呼吁，將會給弱勢家庭帶來嚴重傷害?！?br />
英國支出監管機構國家審計署署長加雷斯·戴維斯(Gareth Davies)也敦促該部門公布其機器學習工具中任何潛在偏見的詳細信息，以“提高公眾對系統的信心”。
他在賬目聲明中表示，
靜態混合器廠家承認其測試與受保護特征（例如年齡、種族和殘疾）相關的不公平性的能力“目前有限”。
他寫道，部分原因是索賠人并不總是回答有關其背景的可選問題，而且還因為出于安全原因，某些信息已從系統中刪除。
該部門表示，正在采取措施盡快將數據整合到其系統中，并承諾每年向國會議員報告人工智能工具如何影響不同的索賠群體。
它還認為，它面臨著一個“挑戰”，既要平衡提高透明度的呼聲，又要避免通過透露太多有關如何識別潛在欺詐的信息來“揭發”潛在欺詐者。
預計該部門將在今年晚些時候對NAO的建議做出回應。
工黨還支持使用人工智能來解決欺詐問題，影子工作和養老金大臣喬納森·阿什沃斯表示，這可以幫助打擊“欺騙納稅人”的犯罪分子。
在周二向社會市場基金會發表的演講中，他補充說，該部門對該技術的使用尚未“適當擴展”。
該黨表示，它致力于采取保障措施，防止算法使用中出現偏見，但尚未提出詳細建議。
