“難道我們就要一輩子躲在井底下嗎?”

　　本月初，經(jīng)典科幻電影《終結(jié)者：黑暗命運》如期上映。影片中，大反派使用人臉識別技術(shù)鎖定對方的位置信息進行追殺。面對如影隨行的危險，女主角Dan絕望而無奈地說出了這句話。很快，大反派又通過人臉識別找到了他們……

　　實際上，電影中的情節(jié)已經(jīng)在現(xiàn)實中上演。近段時間，隨著人臉識別技術(shù)的大規(guī)模應(yīng)用，有關(guān)“臉”的話題成為焦點。據(jù)媒體報道，9月初，中國藥科大學(xué)試水教室人臉識別，引發(fā)對課堂隱私邊界的爭議;10月，上海一小區(qū)電梯引入人臉識別，引發(fā)公眾對隱私泄露的擔(dān)憂;不久前，有消息稱北京地鐵將應(yīng)用人臉識別技術(shù)對乘客實施分類安檢，觸動大眾擔(dān)心個人信息安全的神經(jīng)。

　　而因不愿意“刷臉進門”，購買了動物園年卡的浙江理工大學(xué)副教授郭兵將杭州野生動物世界告上了法庭。11月3日，浙江省杭州市富陽區(qū)人民法院正式受理此案。這也被稱為國內(nèi)“人臉識別第一案”。

　　一些業(yè)內(nèi)專家近日接受記者采訪時指出，人臉識別等人工智能技術(shù)本身并無好壞，但這種技術(shù)在使用的時候必須要在法律框架內(nèi)進行。要通過規(guī)范的引導(dǎo)來進行必要的規(guī)制，以維護好安全、便利和隱私三者間的平衡。

當(dāng)事人同意并不意味著合法

　　抓捕逃犯、追蹤兒童、智慧城市……人臉識別技術(shù)除了在這些特定場景下得以應(yīng)用之外，還越來越多地滲入到普通人的日常生活中，比如進門不用刷卡，看球賽看演唱會過安檢不用憑票，超市購物不用掃碼支付。在帶來諸多便利的同時，對人臉識別技術(shù)的擔(dān)憂也隨之而來，越來越多的人擔(dān)心“刷臉”會讓自己“丟臉”。

　　在一些業(yè)內(nèi)專家看來，這種便利的代價過于巨大，一旦操作不當(dāng)，不僅會給個人帶來危險，甚至?xí)φ麄€世界秩序產(chǎn)生不堪設(shè)想的后果。更值得警惕的是，人臉識別技術(shù)的隨意擴大使用還面臨著合法性和比例原則等法律拷問。此前，就有媒體曝光某地廁所用人臉識別技術(shù)來達到避免人們重復(fù)取紙的應(yīng)用。

　　由于人臉采集不需要專門設(shè)備，幾乎可以在無意識的狀態(tài)下獲取人臉圖像，所以一旦當(dāng)事人同意，人臉信息瞬間就可以被企業(yè)等“合法”地采集走。但在北京航天航空大學(xué)法學(xué)院教授、北航備案審查制度研究中心主任王鍇看來，人臉識別應(yīng)用的合法性問題并非僅僅獲得當(dāng)事人同意就可以解決。“從個人信息自決權(quán)的角度，個人的自決要建立在充分知情的基礎(chǔ)上，即個人要充分了解風(fēng)險，同時要求個人全程參與個人信息流動的過程，至少要留給個人監(jiān)督企業(yè)使用個人信息的渠道。個人自決意味著個人隨時有權(quán)對企業(yè)使用個人信息喊停。”

　　“在當(dāng)前無法完全保障人臉信息數(shù)據(jù)庫安全性的情況下，對人臉識別廣泛應(yīng)用的擔(dān)心是可以理解的?！蓖蹂|分析指出，人臉識別的“危險”在于，一方面，人臉雖然不屬于隱私，但因為人臉這種生物特征具有唯一性，通過人臉識別可以更加容易地發(fā)現(xiàn)個人隱私;另一方面，人臉識別要依靠大型的信息數(shù)據(jù)庫，而這種數(shù)據(jù)庫的安全性是存疑的，一旦被濫用或者泄露，就會極大威脅到個人隱私乃至個人的其他權(quán)利。

　　“這就好像安樂死，盡管大家都知道它對于維護人的尊嚴的好處，但是在無法防止被濫用而且生命一旦損失就無法補救的情況下，世界各國對放開安樂死還是比較謹慎的。”王鍇說。

濫用刷臉屬于技術(shù)不當(dāng)使用

　　從密碼識別到芯片識別，再到個體生物特征識別(包括指紋、語音以及面部識別等)，就加密或識別技術(shù)而言，日新月異的科技在帶來便捷與效率的同時也帶來擔(dān)憂。

　　正因為人臉識別技術(shù)可能會導(dǎo)致對隱私和公民權(quán)利的侵犯，目前，一些國家和地區(qū)已經(jīng)開始對人臉識別技術(shù)持謹慎甚至否定的態(tài)度，并從法律層面加以防范。

　　8月，瑞典數(shù)據(jù)保護機構(gòu)對瑞典一所中學(xué)因違反《通用數(shù)據(jù)保護條例》而判處約1.9萬歐元罰款。原因是該機構(gòu)被發(fā)現(xiàn)使用人臉識別技術(shù)來監(jiān)控22名高中生的出勤率。瑞典數(shù)據(jù)監(jiān)管機構(gòu)認為，在日常環(huán)境中對學(xué)生進行攝像監(jiān)控等行為侵犯了學(xué)生的隱私，即便教育部門事先取得那些學(xué)生家長的同意，但仍然沒有足夠的合法理由，去搜集其他人的敏感數(shù)據(jù)。再以美國為例，鑒于該項技術(shù)可能會引起對有色人種的歧視，美國舊金山市今年專門出臺禁令，成為第一個禁止使用人臉識別技術(shù)的城市。此外，一些其他城市，如加利福尼亞州奧克蘭市以及馬薩諸塞州薩默維爾市也都提出了類似禁令建議。

　　中國社會科學(xué)院法學(xué)所研究員、教授姚佳分析指出，對于人類來說，除了保護人格尊嚴等精神層面，最重要的就是對生物層面的保護，因為后者才是唯一中的“唯一”，是完全無法替代的。

　　“技術(shù)本身并無好壞善惡之分，但是人們利用技術(shù)的行為應(yīng)接受評判，人們在應(yīng)用技術(shù)時應(yīng)充分考慮技術(shù)可能帶來的負面影響并將風(fēng)險降至最低。技術(shù)本來是為了便捷和提高效率，濫用‘刷臉’屬于典型的技術(shù)不當(dāng)使用?！币颜f。

人工智能技術(shù)發(fā)展須有法律規(guī)范

　　顯然，以人臉識別為代表的人工智能技術(shù)的急速擴張帶來的法律問題不容回避，但現(xiàn)行法律卻顯得“力不從心”。目前，對于包括收集主體、目的、方法、范圍與程序等在內(nèi)的關(guān)鍵問題，法律尚一片空白，尤其是缺乏對侵權(quán)責(zé)任者的追究機制。

　　值得一提的是，今年6月，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則》，提出對人工智能治理的框架和行動指南，呼吁發(fā)展“負責(zé)任的人工智能”，即技術(shù)的發(fā)展應(yīng)該符合人類的價值觀和倫理道德，避免誤用，禁止濫用、惡用。

　　“應(yīng)把保護人類能動性作為人工智能研發(fā)的底線原則?！敝袊ヂ?lián)網(wǎng)協(xié)會青年專家、國家能源集團研究院研究員畢競悅認為，以人臉識別技術(shù)為代表的人工智能的發(fā)展不應(yīng)妨礙人類自治，人類不從屬于人工智能系統(tǒng)，也不應(yīng)受到人工智能系統(tǒng)的脅迫。人類與人工智能系統(tǒng)互動時必須保持充分有效的自我決定權(quán)，有權(quán)選擇退出。

　　在畢競悅看來，科技的發(fā)展有利有弊，但總體而言利大于弊。不應(yīng)因噎廢食恐懼于科技的發(fā)展，而要善于利用科技增進人類福祉。在此過程中，政府要承擔(dān)起監(jiān)管和制定標(biāo)準(zhǔn)的責(zé)任。

　　畢競悅具體分析說，首先，在人臉識別等人工智能系統(tǒng)的開發(fā)、使用和管理過程中要確保公平。開發(fā)人員和實施者需要確保不讓特定個人或少數(shù)群體遭受偏見、侮辱和歧視，避免將弱勢群體置于更為不利的地位。在發(fā)生危害時，可以為用戶提供有效補救。政府還可以提供機制，保障特殊群體的需求。其次，透明性應(yīng)成為人工智能運行的基本要求。在使用包括人臉識別在內(nèi)的人工智能技術(shù)收集個人信息時，必須保障個體的知情權(quán)，并擁有選擇退出的權(quán)利。再次，人工智能系統(tǒng)的全生命周期都必須保護隱私數(shù)據(jù)。包括用戶提供的所有數(shù)據(jù)以及在與人工智能系統(tǒng)交互過程中生成的關(guān)于用戶的所有信息。此外，還要建立起具體、可操作的責(zé)任機制。

　　“新技術(shù)處于發(fā)展初期，法律制度不能過于嚴苛，需要鼓勵新產(chǎn)業(yè)的發(fā)展。但是，當(dāng)行業(yè)發(fā)展較為成熟，新技術(shù)影響到公眾的生活安寧，就需要嚴格法律規(guī)范予以調(diào)整，就應(yīng)該建立更加嚴格的準(zhǔn)入和監(jiān)管制度。”中國科學(xué)技術(shù)法學(xué)會常委會理事、北京市偉博律師事務(wù)所主任李偉民說。

　　李偉民建議盡快建立“人臉識別倫理規(guī)范”，評估新技術(shù)的價值和作用，加強新技術(shù)的行業(yè)監(jiān)管。時機成熟之時，建立關(guān)于人臉識別的專門法律制度，規(guī)范大數(shù)據(jù)的采集、保管、加工、交易等環(huán)節(jié)中的法律監(jiān)管，防止人臉識別過程中的信息泄露。“技術(shù)應(yīng)該服務(wù)于人類、方便為人類應(yīng)用，而不能成為限制人行為、傷害人生活安寧的工具。我們應(yīng)該建立對人臉識別技術(shù)的風(fēng)險評估、法律規(guī)范的相應(yīng)制度，讓人臉識別技術(shù)在一個合理范圍內(nèi)服務(wù)人類?！?/span>

　　同時，李偉民還建議制定人臉識別技術(shù)應(yīng)用的相關(guān)規(guī)范制度。“相關(guān)部門采用人臉識別技術(shù)應(yīng)當(dāng)遵守嚴格的程序限制，履行嚴格的審批、聽證、公開等程序，廣泛聽取民意，讓人臉識別技術(shù)的應(yīng)用做到以‘必要’為限?！?/span>

人工智能勢頭猛，立法如何跟上

　　很多時候，技術(shù)越強大，內(nèi)心越恐慌。

　　人臉識別作為生物識別的一種技術(shù)，可用來長期追蹤個人身份、去向、習(xí)慣。據(jù)悉，最新的人臉識別技術(shù)通過對人臉面部表情的深度識別，不僅能夠識別性別與估計年齡，還能夠辨別個人的面部表情，計算個體內(nèi)心世界的真實情感。這意味著，人臉識別不但能看清臉，還能讀懂心，不僅能把行蹤摸清楚，還能把內(nèi)心想明白。

　　然而，以人臉識別為代表的科學(xué)技術(shù)的高速發(fā)展和廣泛應(yīng)用，也給個人信息保護帶來巨大挑戰(zhàn)。目前，我國有關(guān)數(shù)據(jù)管理、數(shù)據(jù)安全等人工智能內(nèi)容以及個人信息保護等規(guī)定散見于一些法律之中。比如，根據(jù)現(xiàn)行刑法規(guī)定，不經(jīng)同意而非法獲取，或者將合法取得的個人信息出售給第三方，此類行為均涉嫌構(gòu)成侵犯公民個人信息罪。民法總則第一百一十一條規(guī)定，任何組織和個人需要獲取他人個人信息的，應(yīng)當(dāng)依法取得并確保信息安全，不得非法收集、使用、加工、傳輸他人個人信息，不得非法買賣、提供或者公開他人個人信息。消費者權(quán)益保護法第二十九條規(guī)定，經(jīng)營者收集、使用消費者個人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，明示收集、使用信息的目的、方式和范圍，并經(jīng)消費者同意。經(jīng)營者收集、使用消費者個人信息，應(yīng)當(dāng)公開其收集、使用規(guī)則，不得違反法律、法規(guī)的規(guī)定和雙方的約定收集、使用信息。網(wǎng)絡(luò)安全法中明確了對個人信息收集、使用及保護的要求，并規(guī)定了個人對其個人信息進行更正或刪除的權(quán)利。目前正在編纂中的民法典人格權(quán)編草案對“換臉”等人工智能技術(shù)使用等作出了回應(yīng)。草案規(guī)定，任何組織或者個人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。此外，2019年，中央網(wǎng)信辦發(fā)布了《數(shù)據(jù)安全管理辦法(征求意見稿)》，向社會公開征求意見，明確了個人信息和重要數(shù)據(jù)的收集、處理、使用和安全監(jiān)督管理的相關(guān)標(biāo)準(zhǔn)和規(guī)范。

　　然而，制定專門的數(shù)據(jù)安全法、個人信息保護法仍然是必要的。值得一提的是，十三屆全國人大常委會立法規(guī)劃中，數(shù)據(jù)安全法與其他68部法律被列為“條件比較成熟、任期內(nèi)擬提請審議的法律草案”。2019年十三屆全國人大二次會議新聞發(fā)布會上，大會發(fā)言人張業(yè)遂稱在2019年將推進數(shù)據(jù)安全法立法工作。

　　然而，立法加速的同時，不得不看到技術(shù)的突破和進步速度似乎更快。由此，給立法工作帶來的挑戰(zhàn)也不斷加碼。立法該怎樣追趕技術(shù)的腳步呢?

　　鑒于此，有專家建議全國人大常委會積極授權(quán)國務(wù)院和地方各級人大先行先試相關(guān)領(lǐng)域立法。比如，目前，大數(shù)據(jù)、網(wǎng)絡(luò)平臺治理、人工智能、生物技術(shù)等前沿科技引發(fā)的隱私權(quán)保護等問題比較突出的地方大都位于北京、上海、廣東、浙江、江蘇等地方，而這些地方人大的立法專業(yè)化水平也都較高。據(jù)了解，現(xiàn)在一些地方已經(jīng)在積極推進人工智能立法。比如，上海市最近在《上海市促進國際科創(chuàng)中心建設(shè)條例》起草過程中，將人工智能、大數(shù)據(jù)等前沿科技的安全規(guī)制等問題凝練成條款。同時，立法中還可借鑒地方立法以往采用的專業(yè)性專職委員等好的做法，將一些前沿科技治理研究的學(xué)者或者實務(wù)人員充實到立法隊伍中，以加快相關(guān)立法起草的速度和質(zhì)量。此外，考慮到前沿科技涉及利益群體較多，地方各級人大要解放思想，除了一部分涉及國家安全的條款，其他部分應(yīng)將開門立法的理念貫徹到底，要讓民眾積極地參與其中，以避免產(chǎn)業(yè)界通過立法和規(guī)范性文件的制定來進行利益立法。