人臉識別技術(shù)應(yīng)用范圍越來越廣，但其潛在的一些安全隱患也令許多業(yè)內(nèi)專家、學(xué)者對其使用、推廣持審慎態(tài)度。

　　近日，寧夏銀川市興慶區(qū)回民二小觀湖校區(qū)(以下簡稱“回二觀湖校區(qū)”)將在學(xué)校內(nèi)安裝人臉識別系統(tǒng)的事情引發(fā)討論。對此有該校家長質(zhì)疑，人臉識別系統(tǒng)是否會侵犯學(xué)生隱私，存在泄露學(xué)生個人信息的安全隱患。

　　對此，全國政協(xié)委員、上海市信息安全行業(yè)協(xié)會名譽會長談劍鋒認(rèn)為，學(xué)校要講清楚數(shù)據(jù)怎么采集、怎么存儲、怎么使用、怎么銷毀。說清楚后，征得家長同意的情況下可以做。

　　中國人民大學(xué)法學(xué)院副教授、哈佛大學(xué)法學(xué)博士郭銳表示，人工智能在教育場景下的使用需特別謹(jǐn)慎。而在學(xué)校推廣使用人臉識別技術(shù)，則需征得每一位家長的書面同意。

　　4月12日，銀川市興慶區(qū)教育局一位相關(guān)負(fù)責(zé)人就此事向澎湃新聞表示，人臉識別系統(tǒng)僅為確保孩子在校安全，目前還在前期籌備階段，最終使用需家長同意。不過澎湃新聞近日采訪多位該校家長發(fā)現(xiàn)，家長們只接到學(xué)校關(guān)于提交照片的通知，并未簽署任何與人臉識別系統(tǒng)使用相關(guān)的書面知情同意書。

學(xué)校門口已經(jīng)安裝好人臉識別系統(tǒng)。本文圖片 新消息報

　　區(qū)教育局：暫時在前期籌備階段

　　多位回二觀湖校區(qū)的家長向澎湃新聞表示，近日接到學(xué)校通知，為方便出入校門“刷臉”通行，要求提交一張孩子的近期免冠證件照電子版。但學(xué)校并沒有就使用人臉識別系統(tǒng)一事向他們征求意見，只是通知在規(guī)定時間內(nèi)，盡快提交學(xué)生的電子版照片和學(xué)籍號。

　　對此，中國人民大學(xué)法學(xué)院副教授、哈佛大學(xué)法學(xué)博士郭銳表示，根據(jù)《民法典》和《網(wǎng)絡(luò)安全法》的相關(guān)規(guī)定，需要有家長明確的書面同意書，學(xué)校方可使用學(xué)生的人臉識別數(shù)據(jù)。

　　寧夏本地媒體《新消息報》4月12日也報道了這一事件，一篇題為《銀川一小學(xué)實行“刷臉”通行!家長擔(dān)心泄露學(xué)生信息》的文章中寫道：銀川市興慶區(qū)回民二小信息中心主任段帥介紹，該校觀湖校區(qū)目前有4500多名學(xué)生，學(xué)校規(guī)模逐漸擴大，如何保障在校師生的安全顯得尤為重要。2020年8月，學(xué)校圍繞智能化校園安全管理建設(shè)的“智管中心”項目啟動，目前，已進入最后的信息錄入與調(diào)試階段。

　　上述報道提到，該項目建設(shè)完成后，學(xué)校師生進出校門將實現(xiàn)無感化人臉認(rèn)證，校內(nèi)公共開放區(qū)域及教學(xué)區(qū)域都將實現(xiàn)安防覆蓋。該系統(tǒng)還可對孩子可能存在的推搡、打架等風(fēng)險進行預(yù)警，如密度超標(biāo)報警、語音提示、遠程喊話等。系統(tǒng)運行后，一旦某位學(xué)生出現(xiàn)意外情況，只要輸入學(xué)生的班級及名字，系統(tǒng)就會自動生成該學(xué)生一天的軌跡記錄，有利于快速追溯到異常情況。在輔助教學(xué)方面，電子班牌、課堂人臉點名、巡課督導(dǎo)、考試管理都可以達到智能管理的目的。

　　多位家長表示，學(xué)校并未知會此次人臉采集的具體使用情況等信息。上述《新消息報》報道中提到的推搡、打架等風(fēng)險預(yù)警、輔助教學(xué)功能等，他們也不曾從學(xué)校方面獲悉、了解過。

　　4月12日，澎湃新聞致電銀川市興慶區(qū)教育局，一位相關(guān)負(fù)責(zé)人表示，這套人臉識別系統(tǒng)是智能安防的一部分，學(xué)校是個公益性質(zhì)的地方，主要為孩子安全著想。教育部門不會拿孩子的信息牟利。

　　這位負(fù)責(zé)人提到，對使用人臉識別系統(tǒng)的安全問題教育部門也做了充分考量，回二觀湖校區(qū)建立的網(wǎng)絡(luò)是一個密閉的內(nèi)網(wǎng)，不允許接入互聯(lián)網(wǎng)。人臉識別系統(tǒng)就是為了確保孩子在校安全，沒有別的用途。但人臉識別系統(tǒng)是否會識別孩子上課時的面部表情和動作等，這位負(fù)責(zé)人表示尚不清楚，沒有聽到這樣的說法。

　　這位負(fù)責(zé)人還表示，目前人臉識別系統(tǒng)是否使用也在征求家長意見，建立在家長同意的基礎(chǔ)上，不是教育行政部門想咋干就咋干，暫時在前期籌備階段。

　　專家：學(xué)校需清楚告知家長數(shù)據(jù)如何采集等

　　4月12日，全國政協(xié)委員、上海市信息安全行業(yè)協(xié)會名譽會長談劍鋒就此事接受澎湃新聞采訪時表示，作為學(xué)校安全場景，將“刷臉”作為監(jiān)管手段和方式都可以理解，“但數(shù)據(jù)怎么采集、怎么存儲、怎么使用、怎么銷毀，這是一套機制，應(yīng)該說清楚。說清楚后，征得家長同意的情況下學(xué)?？梢宰觥！?/p>

　　談劍鋒表示，數(shù)據(jù)采集是否僅是用在安全保衛(wèi)方面?如果數(shù)據(jù)被第三方公司獲取，學(xué)校應(yīng)該承擔(dān)什么樣的責(zé)任?學(xué)生畢業(yè)了人臉數(shù)據(jù)還要留存嗎?數(shù)據(jù)怎樣銷毀?這幾個問題要問清楚，學(xué)校不是不能用，而是看學(xué)校怎么用。

　　在學(xué)校北門房的監(jiān)控中心，段帥介紹各方位監(jiān)控攝像機的運行情況。針對上述興慶區(qū)教育局相關(guān)負(fù)責(zé)人提到的，人臉識別系統(tǒng)運行依靠一個“密閉的內(nèi)網(wǎng)”這一說法。談劍鋒則認(rèn)為，信息是否存在泄露風(fēng)險和內(nèi)網(wǎng)、外網(wǎng)無關(guān)，很多內(nèi)網(wǎng)也有受到攻擊的。而且數(shù)據(jù)泄露不一定是靠外網(wǎng)，很多數(shù)據(jù)泄露是內(nèi)部職員出賣數(shù)據(jù)，只要采集就有泄露風(fēng)險。

　　“關(guān)鍵要說清楚，出問題后校方承擔(dān)什么責(zé)任，不是說數(shù)據(jù)出不出的去，而是一旦泄露后造成損失，誰來承擔(dān)這個責(zé)任?！闭剟︿h說，“人臉是生物特征數(shù)據(jù)，生物特征數(shù)據(jù)有個特點，不可再生性、唯一性?！边@意味著，人臉信息一旦泄露，損失不可逆。

　　而在郭銳看來，學(xué)校和教育這個場景，是保護個人信息很敏感的場景，任何人工智能技術(shù)的使用，包括人臉識別在內(nèi)，都要特別謹(jǐn)慎。任何使用都需家長同意，教育主管部門也要審查使用用途。這些用途如果不是學(xué)生和家長一起決定同意的，學(xué)校的做法就不妥當(dāng)。

　　對學(xué)校提及的“該系統(tǒng)還可以對孩子可能存在的推搡、打架等風(fēng)險進行預(yù)警，如密度超標(biāo)報警、語音提示、遠程喊話”這一用途。同時也是全國標(biāo)準(zhǔn)化委員會人工智能總體組社會倫理研究負(fù)責(zé)人的郭銳認(rèn)為，如涉及校園霸凌問題，用新的技術(shù)能幫助解決這一問題當(dāng)然是好事。但這背后其實體現(xiàn)的是深層次的矛盾，比如學(xué)校是否資源不夠，很少的老師要管很多的學(xué)生，當(dāng)然很多地方就管不到。技術(shù)當(dāng)然能彌補資源不足的短板，但把它當(dāng)做一個完全的解決方案，可能會比較表面，反倒產(chǎn)生這些問題的深層矛盾就不會有更多關(guān)注。

　　“很多霸凌都在攝像頭看不到的地方發(fā)生，甚至在學(xué)校外面發(fā)生。有時互相瞪一眼就表明了想要霸凌的意向，但技術(shù)無論如何是監(jiān)控不到的。不去解決深層矛盾，想要依靠一個技術(shù)，表面化的把問題解決了，這個做法不可取?！惫J表示。

　　也有家長擔(dān)心，該校提及的人臉識別“智管中心”項目在輔助教學(xué)方面的功能，如“電子班牌、課堂人臉點名、巡課督導(dǎo)、考試管理”等，是否意味著學(xué)校會用人臉識別系統(tǒng)監(jiān)控學(xué)生課堂表現(xiàn)呢?

　　對此，郭銳認(rèn)為家長的擔(dān)心有其道理，比如小孩上課打瞌睡，其實是整體學(xué)習(xí)的一部分。要把上課表現(xiàn)這一項拎出來，恐怕是把人當(dāng)做機器對待。“一個真正的教育者不會這樣想問題。這都不能真正幫助教育，而且會侵犯學(xué)生隱私，不客氣地說這都是外行做法?！?/p>

　　郭銳表示，總的來說，在教育里使用人工智能技術(shù)，很多人都想用它來達到一個比較簡單、直接、明確的目標(biāo)。但在教育里，很多需要解決的問題是互相關(guān)聯(lián)的，很少有一些事情是只需解決這一個問題。想要追求用技術(shù)解決一個老大難問題，這個思路其實不太對。