我们常常将人工智能誉为客观的力量，一种能够超越人类能力洞察模式并得出结论的工具。但是，当这种洞察力被蒙蔽时会发生什么？最近的研究揭示了一个令人不安的事实：人工智能，尤其是在计算机视觉领域，存在一个显著的“经济盲点”。
🫘涵盖 🗜️突显比 🧠AI拓展 🛹援用 🛟分布 指点迷津 | Brief
想象一个任务是分类房屋图像的系统。理论上，它应该只是标记它所看到的东西。但研究表明，当分析来自较低社会经济背景的图像时，这些系统的性能会显著下降。准确性骤降，置信度动摇，更令人担忧的是，分配负面或冒犯性标签的可能性会增加。
这不仅仅是一个理论问题。其影响是深远的。考虑一下自动化房屋估值或城市规划等应用——人工智能系统正越来越多地被用于做出直接影响社区的决策。如果这些系统本身就存在偏见，它们可能会加剧甚至放大现有的社会不平等。
这个问题并不局限于较旧的人工智能架构。即使是旨在更复杂的最新模型也表现出这种经济盲点。它们难以准确分类来自不太富裕地区的图像，常常会使用模糊或回避性的描述。
此外，还存在一种更深层次、更微妙的偏见。这些系统通常将来自较富裕地区的图像与积极的概念联系起来，而将来自较贫困地区的图像与消极的概念联系起来。这种隐含的偏见虽然不太明显，但同样令人担忧。
为什么会发生这种情况？部分原因在于用于训练这些系统的数据。数据集通常是倾斜的，过度代表富裕地区，而低估资源较少的地区。无意中嵌入在标注过程中的人类偏见进一步加剧了这个问题。
解决方案不仅仅是构建“更好”的算法。我们需要从根本上重新思考如何创建和训练人工智能系统。我们必须优先考虑多样化和具有代表性的数据集。我们必须承认并解决不可避免地渗透到我们技术中的人类偏见。
人工智能的承诺在于其创造一个更公平、更平等世界的潜力。但是，如果我们未能解决其经济盲点，我们就有可能创造一个技术加强而非消除现有不平等的未来。
AI's Economic Blind Spot plus AI Expansion