以后，鉴别和掌握收集虚伪信息流传曾经成为一个世界性话题。虚伪信息不只令我国收集空间深受其扰，一些东方国度也日趋认识到它的伤害。客岁美国年夜选中，分歧好处团体互相责备和控告对方制作和流传虚伪信息，吃相好看，颜面尽掉。
虚伪信息及低俗内容，在互联网情况中跨地区年夜范围疾速流传的景象，重要涌现在具有海量用户的互联网运用平台发生今后。每一个用户都可以在这个平台上宣布信息，并在平台外部战争台之间疾速流传信息。在必定的好处念头和社会意理机制造用下，一些平台用户试图宣布虚伪信息及低俗内容谋取各类好处。因为这类信息和内容常常传播甚快甚广，使得社会原本的鉴别及防备机制难和时做出反响。
关于这一新成绩，有多种处理思绪。比拟传统的办法，诸如进步"流传素养，更多施展传统媒体把关功效，加年夜对虚伪信息及低俗内容宣布者的处分力度，减轻平台义务等。
互联网企业的反响，倒是更多地借助技巧手腕。如脸谱推出“现实核对对象”，约请用户经由过程下拉菜单将他们看到的可疑消息报导在该平台长进行标志。第三方现实核对人员随后剖析标出的报导，并剖断其为真实报导照样虚伪消息；谷歌消息试验室提议成立了一个名为“FDN”的消息学术和技巧同盟，研讨偏向重要是社交媒体消息的原创断定和真实性认证。我国的互联网平台也作出了多方尽力。例如，北京字节跳动科技公司在“昔日头条”平台上，依附人工智能技巧，模拟人脑机制，对低俗图片的拦阻率较之前纯人工拦阻进步了73.71%；针对“题目党”景象，一些网站构建了“人工+机械”的形式构建防火墙，对敏感词、题目党和虚伪信息停止技巧性拦阻。
但是，一些业界人士担忧人工智能没法处置庞杂的价值断定成绩，也有互联网人士以为算法没有价值不雅。其实，人工智能的算法自己就是依据特定范畴的纪律和规矩制订的，在这些纪律和规矩中，就包含着价值选择与断定。在确立模子其实不断进修以后，履行算法的机械完整可以或许具有超出人脑的才能，这在不久前围棋的人机年夜战中曾经得以验证。
若何更好地控制纪律、制订规矩，给算法供给准确指引，让人工智能可以或许更有用地鉴别虚伪和低俗内容并掌握其流传，是以后业界和学界要重点研讨的成绩。
起首，我们须要更周全地梳理和剖析发生虚伪和低俗内容的好处构造和念头，剖析各类好处主体系体例造和流传虚伪及低俗内容的行动特色，如追求政治好处和追求经济好处的行动主体，在制作和流传虚伪及低俗内容的行动方面有哪些异同。经由过程这些剖析，为树立模子供给根据。
其次，可以经由过程对收集平台上虚伪及低俗内容流传者临盆的内容停止文天职析，对其流传行动停止跟踪研讨，以控制其心思特点及行动特点，支撑辨认模子的构建。
另外，还可以经由过程对人们收集信息吸收和接收的心思特点及行动的剖析，树立模子，摸索若何经由过程算法干涉这一进程，阻断虚伪及低俗内容的流传，减低其流传后果。
