即时新闻:
新闻

“算法误导”可能是至今仍被忽视的严重问题

2018年03月12日 09:54    来源:微信号墩墩舆情课   作者:墩爸   

  “算法误导”可能是一个至今仍被忽视的问题。新闻客户端、搜索平台、媒体网站乃至购物平台,都或多或少地存在各种针对用户“浏览习惯”“关注倾向”“兴趣爱好”等个体特点的大数据算法规则,以便根据计算结果进行倾向性的推荐和推送,最终达到信息传输后实际成果转化的效益最大化。

  对此,我担忧得是,如果这种算法规则被一些不良群体或敌对组织利用,后果可能不堪设想。具体分析如下:

  一是利用规则误导“民意走向”。用户浏览新闻、接受信息都会或多或少地表现出一些政治倾向、情绪特点和兴趣选择。如果用户通过客户端、社交媒体等平台浏览点击较多的社会负面新闻,平台就会通过浏览记录、点击频率等痕迹算法,分析出更容易让该用户点击和传播的新闻种类和信息类型,进而有选择地进行定向推送。个人分析认为,一旦有灰黑势力、极端组织利用这样的规则算法,对一些“愤青”用户进行恶意信息定向灌输的话,极易造成“愤青”用户接受的信息更加“愤青”、“嗜丑”用户接受的信息更加“嗜丑”的偏离局面,甚至诱导这些用户无故产生“社会十分黑暗”“到处充满罪恶”的心理错觉,最终达到“民意误导”的险恶目的。

  二是借助算法分析用户数据。网址IP、浏览习惯、兴趣爱好、购物记录这些孤立的数据维度,一旦加以系统整合,就很容易定位和分析出用户的职业、年龄、性别、地址。我们可以想象,这些数据算法被敌对组织利用和加以针对性分析,等到他们分析出用户信息后,就会通过“人肉威胁”“线下施压”“线上围攻”等方式,对任何一位不利于该组织目的的网民进行“定点清除”,社会危害隐患极大。从当前多起“正能量网民频受人身威胁”类似案例来看,这或许是一大重要原因。

  三是根据结果推送有害信息。算法本质在于结果,如果有人根据结果,有预谋地组织人员频繁输入易被平台置顶推荐的热词热搜,同时又对有害信息进行针对性包装的话,那么,大量有害信息就会通过算法结果推送到大批用户手里,还能最大限度规避了“被拦截”“被屏蔽”的风险,将给社会稳定面管控带来重大风险难题,很难应对破解。

  四是“碰瓷”规则创设虚假热点。当用户习惯逐步养成,规则算法推送成为平台潜规则,就会令社会圈层分化越发明显,三观界限越发清晰。而这时候,如果有人“碰瓷”规则算法创设某一个符合某个群体的热点时,就会令该群体产生“热点假象”,造成“民意错觉”,同时会表现出对圈外群体反应极强的排斥感,进而形成群体间的争论提前,给后续引导应对和线下处置带来极大难度。此外,如果陷入群体争论,还会反向触发“逆向传播”,反而落入预设的负面“议题陷阱”。

  要切实破解“算法误导”,存在较大的事实难度和客观难点。

责任编辑:仇海琼
中国警察网官方微信:扫一扫,免费订阅!
最权威、最及时、最全面的公安新闻发布平台。
精彩的警察故事,靓丽的警花警草,靠谱的预警知识……实乃广大“警粉”微信必备!
推荐阅读
点击排行
猜你喜欢