2033年初春,上海外滩的梧桐刚抽新芽,一封匿名举报信却像块冰疙瘩,砸进了金监总局局长办公室的邮箱。
“‘智融宝’AI风控系统,刻意压低新市民和低收入人群的授信额度!”信里附着的用户画像分析图触目惊心——居住在城乡结合部、快递站点集中片区、月薪低于8000元的群体,贷款通过率仅有21%,而商务区高收入人群的通过率高达79%。
当晚十点,沈逸风被急促的电话铃声惊醒。
他揉了揉发酸的眼睛,盯着屏幕上跳动的邮件标题,眉头拧成了川字。
二十分钟后,金监总局23层的应急会议室里,十几盏顶灯将墙面照得雪亮,投影幕布上正循环播放着举报信里的关键数据。
“技术不能染上歧视的污点。”沈逸风一拳砸在会议桌上,震得茶杯里的水溅了出来,“AI算法要是成了‘嫌贫爱富’的帮凶,我们监管的就是数字时代的‘高利贷’。”
坐在左侧的金监总局局长老陈推了推眼镜:“初步核查,‘智融宝’的开发方是某头部互联网平台,他们解释说是‘基于大数据的风险定价’——说白了,就是用历史还款记录、消费习惯这些标签,给用户打‘信用分’。”
“历史数据本身就是偏见的产物!”沈逸风调出技术员刚整理的案例:住在闵行区某城中村的外卖骑手小王,月收入稳定在9500元,连续三年按时归还花呗,却因为居住地址邮编被系统判定为“高风险区域”,授信额度只有2000元;
而陆家嘴某投行经理,尽管信用卡曾有过逾期记录,却拿到了30万授信。
数据中心的技术员小林打开演示屏,指着算法逻辑图解释:“系统会把‘快递站点密集区’‘城中村’这些地理标签,与‘收入不稳定’‘违约率高’的历史数据关联,默认这些区域的用户风险更高。”
他敲了敲键盘,屏幕上跳出一组对比数据:“同样的信用评分,住在静安寺附近的用户能拿到10万额度,而住在浦东新区某动迁小区的用户只能拿到3万。”
“这不是效率,是数字鸿沟!”沈逸风的声音陡然拔高,“技术越智能,越要把公平放在第一位。”
他转头对老陈说,“立刻成立专项工作组,我亲自牵头——第一,彻查所有持牌金融机构的AI风控模型;第二,研发‘公平性审计’工具包,强制要求模型定期接受反偏见检测;第三,消费信贷领域先行试点,限期整改。”
专项工作组的办公室设在总局一楼的数据中心,二十台显示器同时闪烁着不同金融机构的算法代码。
沈逸风戴着防蓝光眼镜,俯身盯着技术员小周的操作界面——某消费金融公司的风控模型里,赫然写着“若用户职业为‘外卖骑手’‘快递员’,初始额度下调30%”的规则。
“这规则是谁定的?”沈逸风皱眉。
“是历史数据训练出来的。”小周指着屏幕下方的数据流,“系统分析了过去五年这类职业用户的还款情况,发现逾期率比白领高1.2个百分点,所以自动优化了这个参数。”
“那是因为他们没被平等对待!”沈逸风拍了下桌子,“外卖骑手为了准时送餐,经常得自掏腰包垫付餐费,逾期可能是因为平台结算延迟,不是信用问题!”
他调出小王的订单记录,“看见没?这小伙子上个月有12笔准时送达记录,客户好评率100%,就因为系统‘默认’他是高风险,额度被砍了一半。”
会议室的门被推开,受影响的年轻打工人代表小李走了进来。
他穿着褪色的外卖制服,手里攥着手机,屏幕上是他第7次被拒贷的通知:“沈领导,我跑单五年,没欠过一分钱网贷,就因为住城乡结合部,连租电动车都要押一付三……”