小學(xué)裝人臉識別系統(tǒng) 專家:需家長書面確認(rèn)同意
人臉識別技術(shù)應(yīng)用范圍越來越廣,但其潛在的一些安全隱患也令許多業(yè)內(nèi)專家、學(xué)者對其使用、推廣持審慎態(tài)度。
近日,寧夏銀川市興慶區(qū)回民二小觀湖校區(qū)(以下簡稱“回二觀湖校區(qū)”)將在學(xué)校內(nèi)安裝人臉識別系統(tǒng)的事情引發(fā)討論。對此有該校家長質(zhì)疑,人臉識別系統(tǒng)是否會侵犯學(xué)生隱私,存在泄露學(xué)生個人信息的安全隱患。
對此,全國政協(xié)委員、上海市信息安全行業(yè)協(xié)會名譽會長談劍鋒認(rèn)為,學(xué)校要講清楚數(shù)據(jù)怎么采集、怎么存儲、怎么使用、怎么銷毀。說清楚后,征得家長同意的情況下可以做。
中國人民大學(xué)法學(xué)院副教授、哈佛大學(xué)法學(xué)博士郭銳表示,人工智能在教育場景下的使用需特別謹(jǐn)慎。而在學(xué)校推廣使用人臉識別技術(shù),則需征得每一位家長的書面同意。
4月12日,銀川市興慶區(qū)教育局一位相關(guān)負(fù)責(zé)人就此事向澎湃新聞表示,人臉識別系統(tǒng)僅為確保孩子在校安全,目前還在前期籌備階段,最終使用需家長同意。不過澎湃新聞近日采訪多位該校家長發(fā)現(xiàn),家長們只接到學(xué)校關(guān)于提交照片的通知,并未簽署任何與人臉識別系統(tǒng)使用相關(guān)的書面知情同意書。
學(xué)校門口已經(jīng)安裝好人臉識別系統(tǒng)。本文圖片 新消息報
區(qū)教育局:暫時在前期籌備階段
多位回二觀湖校區(qū)的家長向澎湃新聞表示,近日接到學(xué)校通知,為方便出入校門“刷臉”通行,要求提交一張孩子的近期免冠證件照電子版。但學(xué)校并沒有就使用人臉識別系統(tǒng)一事向他們征求意見,只是通知在規(guī)定時間內(nèi),盡快提交學(xué)生的電子版照片和學(xué)籍號。
對此,中國人民大學(xué)法學(xué)院副教授、哈佛大學(xué)法學(xué)博士郭銳表示,根據(jù)《民法典》和《網(wǎng)絡(luò)安全法》的相關(guān)規(guī)定,需要有家長明確的書面同意書,學(xué)校方可使用學(xué)生的人臉識別數(shù)據(jù)。
寧夏本地媒體《新消息報》4月12日也報道了這一事件,一篇題為《銀川一小學(xué)實行“刷臉”通行!家長擔(dān)心泄露學(xué)生信息》的文章中寫道:銀川市興慶區(qū)回民二小信息中心主任段帥介紹,該校觀湖校區(qū)目前有4500多名學(xué)生,學(xué)校規(guī)模逐漸擴大,如何保障在校師生的安全顯得尤為重要。2020年8月,學(xué)校圍繞智能化校園安全管理建設(shè)的“智管中心”項目啟動,目前,已進入最后的信息錄入與調(diào)試階段。
上述報道提到,該項目建設(shè)完成后,學(xué)校師生進出校門將實現(xiàn)無感化人臉認(rèn)證,校內(nèi)公共開放區(qū)域及教學(xué)區(qū)域都將實現(xiàn)安防覆蓋。該系統(tǒng)還可對孩子可能存在的推搡、打架等風(fēng)險進行預(yù)警,如密度超標(biāo)報警、語音提示、遠程喊話等。系統(tǒng)運行后,一旦某位學(xué)生出現(xiàn)意外情況,只要輸入學(xué)生的班級及名字,系統(tǒng)就會自動生成該學(xué)生一天的軌跡記錄,有利于快速追溯到異常情況。在輔助教學(xué)方面,電子班牌、課堂人臉點名、巡課督導(dǎo)、考試管理都可以達到智能管理的目的。
多位家長表示,學(xué)校并未知會此次人臉采集的具體使用情況等信息。上述《新消息報》報道中提到的推搡、打架等風(fēng)險預(yù)警、輔助教學(xué)功能等,他們也不曾從學(xué)校方面獲悉、了解過。
4月12日,澎湃新聞致電銀川市興慶區(qū)教育局,一位相關(guān)負(fù)責(zé)人表示,這套人臉識別系統(tǒng)是智能安防的一部分,學(xué)校是個公益性質(zhì)的地方,主要為孩子安全著想。教育部門不會拿孩子的信息牟利。
這位負(fù)責(zé)人提到,對使用人臉識別系統(tǒng)的安全問題教育部門也做了充分考量,回二觀湖校區(qū)建立的網(wǎng)絡(luò)是一個密閉的內(nèi)網(wǎng),不允許接入互聯(lián)網(wǎng)。人臉識別系統(tǒng)就是為了確保孩子在校安全,沒有別的用途。但人臉識別系統(tǒng)是否會識別孩子上課時的面部表情和動作等,這位負(fù)責(zé)人表示尚不清楚,沒有聽到這樣的說法。
這位負(fù)責(zé)人還表示,目前人臉識別系統(tǒng)是否使用也在征求家長意見,建立在家長同意的基礎(chǔ)上,不是教育行政部門想咋干就咋干,暫時在前期籌備階段。
專家:學(xué)校需清楚告知家長數(shù)據(jù)如何采集等
4月12日,全國政協(xié)委員、上海市信息安全行業(yè)協(xié)會名譽會長談劍鋒就此事接受澎湃新聞采訪時表示,作為學(xué)校安全場景,將“刷臉”作為監(jiān)管手段和方式都可以理解,“但數(shù)據(jù)怎么采集、怎么存儲、怎么使用、怎么銷毀,這是一套機制,應(yīng)該說清楚。說清楚后,征得家長同意的情況下學(xué)??梢宰觥!?/p>
談劍鋒表示,數(shù)據(jù)采集是否僅是用在安全保衛(wèi)方面?如果數(shù)據(jù)被第三方公司獲取,學(xué)校應(yīng)該承擔(dān)什么樣的責(zé)任?學(xué)生畢業(yè)了人臉數(shù)據(jù)還要留存嗎?數(shù)據(jù)怎樣銷毀?這幾個問題要問清楚,學(xué)校不是不能用,而是看學(xué)校怎么用。
在學(xué)校北門房的監(jiān)控中心,段帥介紹各方位監(jiān)控攝像機的運行情況。針對上述興慶區(qū)教育局相關(guān)負(fù)責(zé)人提到的,人臉識別系統(tǒng)運行依靠一個“密閉的內(nèi)網(wǎng)”這一說法。談劍鋒則認(rèn)為,信息是否存在泄露風(fēng)險和內(nèi)網(wǎng)、外網(wǎng)無關(guān),很多內(nèi)網(wǎng)也有受到攻擊的。而且數(shù)據(jù)泄露不一定是靠外網(wǎng),很多數(shù)據(jù)泄露是內(nèi)部職員出賣數(shù)據(jù),只要采集就有泄露風(fēng)險。
“關(guān)鍵要說清楚,出問題后校方承擔(dān)什么責(zé)任,不是說數(shù)據(jù)出不出的去,而是一旦泄露后造成損失,誰來承擔(dān)這個責(zé)任?!闭剟︿h說,“人臉是生物特征數(shù)據(jù),生物特征數(shù)據(jù)有個特點,不可再生性、唯一性?!边@意味著,人臉信息一旦泄露,損失不可逆。
而在郭銳看來,學(xué)校和教育這個場景,是保護個人信息很敏感的場景,任何人工智能技術(shù)的使用,包括人臉識別在內(nèi),都要特別謹(jǐn)慎。任何使用都需家長同意,教育主管部門也要審查使用用途。這些用途如果不是學(xué)生和家長一起決定同意的,學(xué)校的做法就不妥當(dāng)。
對學(xué)校提及的“該系統(tǒng)還可以對孩子可能存在的推搡、打架等風(fēng)險進行預(yù)警,如密度超標(biāo)報警、語音提示、遠程喊話”這一用途。同時也是全國標(biāo)準(zhǔn)化委員會人工智能總體組社會倫理研究負(fù)責(zé)人的郭銳認(rèn)為,如涉及校園霸凌問題,用新的技術(shù)能幫助解決這一問題當(dāng)然是好事。但這背后其實體現(xiàn)的是深層次的矛盾,比如學(xué)校是否資源不夠,很少的老師要管很多的學(xué)生,當(dāng)然很多地方就管不到。技術(shù)當(dāng)然能彌補資源不足的短板,但把它當(dāng)做一個完全的解決方案,可能會比較表面,反倒產(chǎn)生這些問題的深層矛盾就不會有更多關(guān)注。
“很多霸凌都在攝像頭看不到的地方發(fā)生,甚至在學(xué)校外面發(fā)生。有時互相瞪一眼就表明了想要霸凌的意向,但技術(shù)無論如何是監(jiān)控不到的。不去解決深層矛盾,想要依靠一個技術(shù),表面化的把問題解決了,這個做法不可取?!惫J表示。
也有家長擔(dān)心,該校提及的人臉識別“智管中心”項目在輔助教學(xué)方面的功能,如“電子班牌、課堂人臉點名、巡課督導(dǎo)、考試管理”等,是否意味著學(xué)校會用人臉識別系統(tǒng)監(jiān)控學(xué)生課堂表現(xiàn)呢?
對此,郭銳認(rèn)為家長的擔(dān)心有其道理,比如小孩上課打瞌睡,其實是整體學(xué)習(xí)的一部分。要把上課表現(xiàn)這一項拎出來,恐怕是把人當(dāng)做機器對待。“一個真正的教育者不會這樣想問題。這都不能真正幫助教育,而且會侵犯學(xué)生隱私,不客氣地說這都是外行做法?!?/p>
郭銳表示,總的來說,在教育里使用人工智能技術(shù),很多人都想用它來達到一個比較簡單、直接、明確的目標(biāo)。但在教育里,很多需要解決的問題是互相關(guān)聯(lián)的,很少有一些事情是只需解決這一個問題。想要追求用技術(shù)解決一個老大難問題,這個思路其實不太對。