家教機現(xiàn)成人內(nèi)容：破除技術(shù)依賴 打造風(fēng)清氣正的內(nèi)容生態(tài)

近日，一款名為“小肚皮”的App軟件在眾多家長之間引起了軒然大波。起因是一名家長發(fā)現(xiàn)家教機里這款定位為“超好玩的00后小窩”的社交聊天軟件里竟含有不適合孩子觀看的“成人內(nèi)容”。

目前“小肚皮”軟件已經(jīng)緊急下架，開發(fā)者表示問題“可能是審查疏忽導(dǎo)致”，受制于機器識別的算法水平，難免有內(nèi)容的“漏網(wǎng)之魚”，而人工處理又需要時間。從安卓系統(tǒng)的應(yīng)用商店顯示，該App下載量為657.3萬，面對如此龐大的用戶群體，“審查疏忽”的解釋顯得過于蒼白無力，針對未成年群體的內(nèi)容審核，我們更應(yīng)該破除技術(shù)依賴，協(xié)同多方力量，打造風(fēng)清氣正的內(nèi)容生態(tài)。

據(jù)共青團中央維護青少年權(quán)益部、中國互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC)聯(lián)合發(fā)布的《2019年全國未成年人互聯(lián)網(wǎng)使用情況研究報告》顯示，2019年我國未成年網(wǎng)民規(guī)模為1.75億，未成年人互聯(lián)網(wǎng)普及率達到93.1%?；ヂ?lián)網(wǎng)對于低齡群體的滲透能力持續(xù)增強，32.9%的小學(xué)生網(wǎng)民在學(xué)齡前就開始使用互聯(lián)網(wǎng)。

目前市場上針對未成年人的網(wǎng)絡(luò)信息產(chǎn)品和服務(wù)越來越多，包括早教、游戲、社交等等不一而足，此類網(wǎng)絡(luò)信息范圍廣、種類多。由于目標(biāo)群體的特殊性，相關(guān)網(wǎng)絡(luò)內(nèi)容監(jiān)督管理和針對性保護機制應(yīng)具有更高的要求。

杜絕違禁內(nèi)容的出現(xiàn)是未成年人網(wǎng)絡(luò)生態(tài)治理的首要要求。未成年人正處在探索世界的關(guān)鍵階段，充滿了十足的好奇心，而且辨別能力不足，甚至因為“不禁不為”“愈禁愈為”的逆反心理，對此類違禁內(nèi)容具有更多的探索欲望。這些內(nèi)容往往因為刺激、獵奇，能夠?qū)⒆觽儺a(chǎn)生一定的吸引力和感召力。自我約束能力在面對這些信息時，有時較難起到作用。如果在同伴之間傳播開來，衍生的話題性和分享感更是會加速傳播的進程。只有從根本上斬斷違禁內(nèi)容生產(chǎn)和傳播的鏈條，才能更好地保護未成年人免受毒害內(nèi)容的侵蝕。

人工審核的協(xié)同是處理違禁信息的關(guān)鍵。機器識別作為一種更高效、成本更低的審核方式，已經(jīng)成為互聯(lián)網(wǎng)內(nèi)容安全審核的主力。但我們無法否認的是，目前的機器識別水平對于很多內(nèi)容來說審核難度過大，且識別效果不準(zhǔn)確：如文字中攜帶的形變、音變與直接赤裸顯示粗陋內(nèi)容;圖片中常見的血腥、帶有諷刺性、暗示性的內(nèi)容導(dǎo)向，等等。這些內(nèi)容恰恰是不良內(nèi)容的“重災(zāi)區(qū)”，因此，我們不能對機器算法抱有過高的期待，必須要加強人工審核力度、提高審核標(biāo)準(zhǔn)。

家庭的引導(dǎo)和監(jiān)督是內(nèi)容安全防護不可或缺的一環(huán)。作為網(wǎng)絡(luò)原住民的00后一代幾乎可以無師自通地學(xué)會上網(wǎng)，但他們?nèi)鄙俚氖潜匾木W(wǎng)絡(luò)風(fēng)險識別能力。很多父母經(jīng)常用一部手機來讓“熊孩子”們安靜下來，但是也很容易讓他們暴露于網(wǎng)絡(luò)空間的危險之中。因此，即使是玩手機，父母的陪伴和引導(dǎo)也同樣不可缺席，家長需要合理引導(dǎo)孩子的興趣點，及時規(guī)避不健康內(nèi)容。

正在審議中的未成年人保護法特別提出了針對未成年人的網(wǎng)絡(luò)保護，專家建議在第六十四條中增加完善針對未成年人的網(wǎng)絡(luò)信息產(chǎn)品和服務(wù)的準(zhǔn)入制度，加強對網(wǎng)絡(luò)信息產(chǎn)品和服務(wù)的監(jiān)管。我們也期待，在頂層設(shè)計之下，能夠切實多方合力，營造健康、文明、有序的網(wǎng)絡(luò)環(huán)境，抵御不良侵害，為未成年人提供更多的成長力量。

常菲