大語言模型的城市安全判斷存在地域刻板印象：研究揭示 LLM 如何根據社區名稱而非實際風險評估安全性

Is Your Neighborhood Safe? Place-based Stigma in Large Language Models' Urban Safety Judgments

arXiv cs.AI · 2026-08-29

摘要

研究團隊對七個大語言模型進行了測試，發現這些模型在評估城市社區安全性時，主要依賴社區名稱而非實際地理位置或犯罪數據。研究跨越洛杉磯和芝加哥的 186 個社區，發現模型對少數族裔聚居區（芝加哥的非裔社區、洛杉磯的西班牙裔社區）給予更低的安全評分，反映出訓練數據中的社會刻板印象。這項發現對於依賴 LLM 做出城市安全決策（如租賃建議、安全路線規劃）的應用構成重大偏見風險。

●開發者：需要在城市安全相關應用中實施去偏差機制，謹慎評估 LLM 的地理與社會判斷能力

●投資人：城市服務、房地產科技、出行應用等領域的 AI 解決方案需要額外的公平性審計

●一般用戶：使用基於 LLM 的租房、安全導航等應用時應了解其可能的系統性偏見風險

重要性評分

76/100

🟠 值得關注

大語言模型演算法偏見城市安全

原文出處

上一則← 拒絕不等於穩健性：大型語言模型在臨床疼痛語音轉錄上的自信虛構行為審計研究下一則法官裁定 Trump 政府將 Anthropic 列入黑名單屬違法 →

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。