學校使用電腦軟件,能偵測學童的自殘和問題行為,防範未然。這些軟件有效嗎?如何避免誤報?

蒂思∙洛格斯登∙華萊士

住在美國明尼蘇達州明尼亞波里斯(Minneapolis)的艾莉西斯∙洛格斯登(Alexis Logsdon)育有一位13歲的兒子。今年9月中,艾莉西斯接獲學校輔導員的來電,表示學校的軟件,偵察到他兒子在一份作業中,曾使用「自殺」的字眼。

艾莉西斯的兒子蒂思(Teeth Logsdon Wallace)是一位跨性別的青少年,就讀第八班。去年初新冠肺炎疫情爆發後一直在家。5月時,非裔男子喬治·佛洛伊德(George Floyd)遭白人警員跪頸致死,引發連串社會動盪。他經常受直升機和警報聲干擾,令他晚上無法入睡。

為此,他剛完成了一項療程。上月,圖思在一作業中,指他的情緒問題已有所改善。他雖一度有自殺傾向,但一隊已解散的樂隊「Ramshackle Glory」的歌曲協助他度過難關。然而,這份作業卻被學校的「Gaggle」監察到,並通知校方。

在加州聖地亞哥縣馬可斯聯合校區(San Marcos Unified School District)副教育局局長(Assistant Superintendent) 蒂芬妮 ·坎貝爾 (Tiffany Campbell)說,該區採用的「Lightspeed」軟件,在今年秋季開課的一星期內,已發現5宗提及自殘字眼的作業。其中一位同學在日記中表示要輕生,學校立即通知家長提供協助。

不過,圖思的母親艾莉西斯和很多家長都不知道,美國學校所採用的監測網絡訊息軟件,如「Gaggle」,「Bark」、「Gnosis IQ」和「Lightspeed」等,可以實時監控學生有否瀏覽與學習有關的網頁,可以屏蔽不相關的網頁及停住他們的電腦畫面。軟件也可以偵測網路的某些關鍵字詞,例如自殘、自殺、暴力、毒品、色情或飲食失調等,以提早預防學生出現問題。

去年爆發新冠肺炎疫情,學校為支援遠距教學,為學生提供的許多筆記部型電腦或平板電腦,其實都裝有監視軟件,可以監看學生的聊天室私訊、電郵以及文件檔案。

非營利研究組織「民主科技中心」(Center for Democracy and Technology)今年9月發表的一項研究指出,接受訪問的80%教師與77%高中生均表示,學校提供的電子產品內裝有監視軟件。

研究引述一名學校主管表示,某些學生可能有自殺或自殘念頭,校方可透過監控軟件發現。「對於打算霸凌他人的學生,我們也可以採取相應對策。如果我們可即時挽救一名企圖自殺的學生,花在平台服務的每一分錢都是有價值的。」

提供偵測軟件的公司「Bark」,為美國2,900個校區提供服務。該公司表示,軟件可在一星期內,偵測到5,000宗有關自殘或自殺的情況。

美國康湼狄格州的城鎮韋斯特菲爾德(Westport)一位16歲學生露茜(Lucy Dockter),也是學校校報的編輯。她說,過去幾年,通訊多次被「Gaggle」發出標記。她坦言,這些經驗「確實駭人」。

露茜說,有一次生物科的中期考試,當時心情十分緊張,正擔心有甚麼出錯,卻突然收到「Gaggle」的通知,指「不當使用」及「請避免存檔或分享你檔案的不當內容」,原因有同學的投稿有粗言。

然而露茜認為,「Gaggle」並沒有向投稿的同學發出警告。她稍後也曾投訴「Gaggle」,言語中也包括一些粗話,但卻沒有遭到警告。她說:「倘校方只依賴人工智能採取行動將十分危險。」

此外,「民主科技中心」的研究更顯示,六成學生表示,由於知道有網絡監控,他們不會在社交媒體表達真正感受;八成學生表示他們要更小心在網絡搜尋資料。亦有六成家長擔心校方會斷章取義地理解學生的作業,或被誤用來處罰學生。

Facebook
Google+
Twitter
LinkedIn
Hong Kong
29°
多云
humidity: 94%
wind: 6m/s SSE
H 28 • L 28

熱門文章

明覺專稿

RSS Error: A feed could not be found at `https://www.buddhistdoor.org/tc/rss/feed/mingkok`; the status code is `404` and content-type is `text/html; charset=UTF-8`

相關網站

本網站由佛門網全力支持

佛門網應用程式

本網站由佛門網全力支持

捨方視角 © All rights reserved.