網(wǎng)絡(luò)賭博、血腥暴力、游戲沉迷和詐騙信息以及淫穢軟色情等不良網(wǎng)絡(luò)信息,正逐漸加深影響未成年人網(wǎng)絡(luò)沖浪環(huán)境。共青團(tuán)中央維護(hù)青少年權(quán)益部和中國互聯(lián)網(wǎng)絡(luò)信息中心2020年聯(lián)合發(fā)布的研究報(bào)告顯示,當(dāng)前未成年人網(wǎng)民數(shù)已超過1.75億,有66%的未成年人曾遭遇過網(wǎng)絡(luò)安全事件,46%的未成年網(wǎng)民遭遇了各類不良信息,這嚴(yán)重危害了未成年人的身心健康成長。
6月1日,按全國“掃黃打非”辦公室“新風(fēng)2021”集中行動(dòng)安排部署,積極配合“凈網(wǎng)2021”“護(hù)苗2021”工作,阿里安全、阿里公益與抖音安全中心正式聯(lián)合發(fā)起綠網(wǎng)計(jì)劃2.0公益項(xiàng)目,旨在幫助未成年人解決遇到的各類網(wǎng)絡(luò)安全問題。
阿里安全、阿里公益與抖音安全中心正式聯(lián)合發(fā)起綠網(wǎng)計(jì)劃2.0公益項(xiàng)目
“AI擺渡人 ”救助4400多人
在靜默無聲的網(wǎng)絡(luò)世界,每天都會(huì)發(fā)生暗流涌動(dòng)的故事。
會(huì)有17歲的男孩在網(wǎng)上搜索農(nóng)藥時(shí),問商家吃多少能死;也會(huì)有12歲小女孩通過搜索安眠藥尋找解脫的辦法;還有一些成年或未成年人,會(huì)在網(wǎng)絡(luò)搜索木炭,然后通過社交軟件建群約死……
他們或是因?qū)W習(xí)壓力大,也有因和家人拌了口角,還有是因遭遇同學(xué)朋友孤立,不能得到理解。
阿里安全小二武綱以往幾乎每周都會(huì)遇到這類決絕赴死的悲痛故事,于是他決定發(fā)起專門守護(hù)這類人群的項(xiàng)目——守護(hù)生命公益行動(dòng)。
一旦疑似自殺人群在網(wǎng)上進(jìn)行非正常關(guān)鍵詞搜索,觸發(fā)“AI擺渡人”技術(shù),平臺(tái)客服就會(huì)迅速響應(yīng),聯(lián)動(dòng)商家、警方等第三方力量進(jìn)行線下守護(hù)。截止目前已救助超過4408人,針對(duì)包括未成年人在內(nèi)的心理健康知識(shí)科普視頻,播放也超過數(shù)十萬次。
類似這樣幫助未成年人營造良好網(wǎng)絡(luò)環(huán)境的技術(shù)還有許多,阿里安全統(tǒng)計(jì)數(shù)據(jù)顯示,2020年平臺(tái)就遭遇72億次非正常關(guān)鍵詞搜索,而百度平臺(tái)三個(gè)季度就遭遇358億次用戶非正常搜索行為。
面對(duì)大量涉及軟色情、毒品、賭博、電子煙、暴力游戲等不合規(guī)的非正常搜索,此前互聯(lián)網(wǎng)平臺(tái)普遍做法是將非正常搜索頁面做屏蔽和攔截處理,顯示“抱歉,搜索頁面找不到”,雖然短期內(nèi)規(guī)避了風(fēng)險(xiǎn),但治標(biāo)不治本,用戶難免會(huì)換其他平臺(tái)進(jìn)行搜索。
去年11月底,在浙江省市場監(jiān)督管理局的指導(dǎo)下,阿里安全、阿里巴巴公益基金會(huì)、百度安全聯(lián)合發(fā)起“綠網(wǎng)計(jì)劃”公益項(xiàng)目,關(guān)注“守護(hù)生命健康”、“野生動(dòng)植物保護(hù)”和“未成年人保護(hù)”三大領(lǐng)域,將458億次非正常搜索轉(zhuǎn)化為積極的公益引導(dǎo)教育。
今年1月,有新聞稱河南商丘近1000家養(yǎng)殖戶飼養(yǎng)的費(fèi)氏牡丹鸚鵡,因無法出售造成大量死亡,商家不僅損失慘重,還可能面臨法律責(zé)任的追究。很多養(yǎng)殖戶說,他們之前并不了解費(fèi)氏牡丹鸚鵡屬于國家保護(hù)動(dòng)物,直到外地公安部門多次來商丘調(diào)查,他們才后知后覺。
為避免因“不懂法”“不認(rèn)識(shí)”而觸碰野生動(dòng)植物保護(hù)的紅線,在“綠網(wǎng)計(jì)劃”中,任何人搜索野生動(dòng)植物名稱,會(huì)跳轉(zhuǎn)到綠網(wǎng)計(jì)劃公眾宣導(dǎo)頁,一個(gè)多月下來,“綠網(wǎng)計(jì)劃”做了28萬多次宣導(dǎo)。
做這件事情并不容易。綠網(wǎng)計(jì)劃運(yùn)營小二趙平介紹,即使是通過智能技術(shù)方案對(duì)發(fā)現(xiàn)的野生動(dòng)植物風(fēng)險(xiǎn)進(jìn)行治理,仍有很多困難。
一萬多種受保護(hù)的動(dòng)植物,每種都有繁雜的細(xì)分種類,光記名字遠(yuǎn)遠(yuǎn)不夠,必須結(jié)合實(shí)物圖片和各種背景資料綜合學(xué)習(xí),比如鸚鵡里的牡丹鸚鵡(也叫愛情鳥),除了桃臉牡丹鸚鵡、虎皮鸚鵡等大部分都被納入《華盛頓公約》附錄二,個(gè)人不可隨意飼養(yǎng)。其中的費(fèi)氏牡丹鸚鵡屬于保護(hù)物種,都是牡丹鸚鵡,費(fèi)氏牡丹俗稱“頭類”,桃臉牡丹俗稱“面類”。一般可以依靠眼圈和嘴的顏色進(jìn)行區(qū)別,“頭類”眼睛四周有一圈眼白,通常嘴偏紅,而“面類”沒有這些特征。
為科學(xué)分類,阿里運(yùn)營小二聯(lián)動(dòng)保護(hù)動(dòng)植物相關(guān)NGO機(jī)構(gòu)、動(dòng)植物保護(hù)協(xié)會(huì)的專業(yè)人士等,請(qǐng)專家做培訓(xùn)講座,建立動(dòng)植物圖文科普知識(shí)體系,與同樣鉆研苦學(xué)的技術(shù)專家一起打造技術(shù)進(jìn)行識(shí)別。
綠網(wǎng)計(jì)劃升級(jí)加強(qiáng)保護(hù)未成年人
近日,在全國“掃黃打非”辦公室“新風(fēng)2021”集中行動(dòng)安排部署下,阿里安全、阿里公益與抖音安全中心決定,6月正式聯(lián)合升級(jí)綠網(wǎng)計(jì)劃公益項(xiàng)目上線2.0版,積極響應(yīng)配合“凈網(wǎng)2021”“護(hù)苗2021”工作,保障未成年人網(wǎng)絡(luò)安全。
圖說:綠網(wǎng)計(jì)劃2.0未成年人保護(hù)專題,將擴(kuò)大覆蓋包括對(duì)軟色情、毒品、賭博、防游戲沉迷、個(gè)人信息安全、守護(hù)生命健康(自殺/抑郁用品)等的科普引導(dǎo)。
趙平介紹,今年“綠網(wǎng)計(jì)劃2.0”將新增上線包括人身公共安全(管制器具、危化品等)、個(gè)人信息安全等領(lǐng)域在內(nèi)的非正常搜索公益科普教育,而針對(duì)重點(diǎn)關(guān)注的未成年人群,綠網(wǎng)計(jì)劃2.0未成年人保護(hù)專題,將擴(kuò)大覆蓋包括對(duì)軟色情、毒品、賭博、防游戲沉迷、個(gè)人信息安全、守護(hù)生命健康(自殺/抑郁用品)等的科普引導(dǎo),未成年人發(fā)起非正常搜索,平臺(tái)將引導(dǎo)其至綠網(wǎng)計(jì)劃科普宣導(dǎo)頁面。
“技術(shù)不是萬能的,但我們希望能做多做一些,再往前邁一步,同時(shí)也希望公眾能參與進(jìn)來,一起把‘綠網(wǎng)計(jì)劃’公益做好。”趙平說。
“‘綠網(wǎng)計(jì)劃’的公益理念非常好,所以很快與阿里安全、阿里公益達(dá)成了共識(shí),抖音將深入?yún)⑴c‘綠網(wǎng)計(jì)劃2.0’項(xiàng)目,幫助項(xiàng)目覆蓋更多用戶。”抖音安全中心負(fù)責(zé)人黃海則介紹說,抖音每年在不同內(nèi)容方向上也都攔截了大量非正常搜索行為,例如解除游戲沉迷、各類詐騙、野生動(dòng)物等。抖音也希望通過升級(jí)“綠網(wǎng)計(jì)劃2.0”,更進(jìn)一步利用抖音豐富的知識(shí)類視頻和溫馨提示內(nèi)容,上線科普教育、公益引導(dǎo)教育功能。同時(shí),頭條百科在反詐防詐、未成年保護(hù)、醫(yī)療藥品、野生動(dòng)物保護(hù)等領(lǐng)域,在多家專業(yè)機(jī)構(gòu)的指導(dǎo)下,為“綠網(wǎng)計(jì)劃2.0”產(chǎn)出科普教育視頻。
目前,在淘寶和閑魚的“綠網(wǎng)計(jì)劃2.0”公益宣導(dǎo)頁面,還上線了由小朋友繪制的“美好的一天”公益畫作,“這是我們給孩子們的‘六一’禮物,希望這是美好的一天,也希望大家過的每一天都是美好的一天。”趙平說。