从2017年9月至2018年8月，作业帮累计处置违规信息661万条。其中，色情类的信息占比3%，大约20万条。在色情类的违规信息当中，小学生群体的占比高达58%，初、高中生群体占比分别为21%。这是作业帮联合创始人李博洋公开的数据。
如何正确引导学生们健康地适应数字学习、数字生活，成为在线教育平台的当务之急。日前，青少年在线学习平台作业帮正式发布国内首个青少年信息安全防护平台——“寸功”平台。
据介绍，依托作业帮的大数据科技，“寸功”平台通过“AI赋能信息审核”、“全量数据监测和预警”、“数据分析适当干预”、“综合防护”这四大功能，全面防护青少年信息安全，在不良信息的源头建立起网络“防火墙”的同时，构建完整的网络信息安全体系，帮孩子抵御不良信息，免受其侵扰和影响。
作业帮副总裁苏静表示，尽管青少年学习平台不良信息远低于大众平台，但是一旦出现了不良信息，其影响是非常大的。因此，必须引起高度重视。在作业帮处置的色情类违规信息中，小学生上传的比例超过了初中生和高中生，这说明并不是年龄越大，对色情信息越好奇。其中，从五年级到初一年龄段的孩子占比是最大的，最容易关注这些色情信息。
据悉，作业帮“寸功”平台将人工智能技术引入到审核全流程，利用其技术上最擅长的图像识别、OCR文本识别等技术，训练完成了用于青少年信息审核的特有模型，有效识别海量信息中的色情图片、优质图片、试题图片，以及图片中的文字、URL地址、推广信息等。
