Banner

证监会科技监管局局长:智能算法潜在风险不容忽视

证监会科技监管局局长:智能算法潜在风险不容忽视
产品详情

发布时间:2021-12-01 02:08:46

  中新社北京9月3日电 (记者 王恩博)中国证监会科技监管局局长姚前3日在北京表示,算法在改善经济运行效率同时亦隐藏风险,加强监管是必然之举。

  算法滥用是其一。姚前说,算法规则的背后是商业利益,为了追求利益最大化,算法有可能违背社会公平、道德和人心。比如其滥用人性弱点、诱导客户,使人习惯被“喂养”,不自觉地对算法推送的商品上瘾,将人“异化”为简单的数据、商品和工具。

  算法偏见是其二。“算法数据不一定全面,片面数据得到的结果必然导致某种偏见”,姚前提醒,算法的设计者是人,算法设计师乃至企业管理者价值观偏见可能被嵌入算法。

  他进一步指出,在特定领域算法还可能引致特定危险,比如智能投顾领域金融算法给出的资产配置组合有可能推荐与金融机构自身利益高度相关的商品,涉嫌利益侵占。