央視“3·15”晚會將人臉識別的商場應用推向了風口浪尖。近日，張家港市場監(jiān)管局通報稱，發(fā)現(xiàn)轄區(qū)內一家名創(chuàng)優(yōu)品門店裝有“3·15”晚會曝光的非法采集顧客人臉信息的“萬店掌”監(jiān)控。執(zhí)法人員發(fā)現(xiàn)，店長手機APP中的人臉識別功能仍在使用。3月22日，名創(chuàng)優(yōu)品工作人員表示，將第一時間整改下架人臉識別監(jiān)控系統(tǒng)。
如何看待人臉識別在商場、小區(qū)等場所應用引發(fā)的爭議？在數(shù)字化轉型過程中，如何保持隱私保護與產業(yè)發(fā)展的平衡？近日舉行的上海交通大學計算法學與AI倫理研究中心研討會上，解放日報·上觀新聞記者采訪了學術界、政府智庫和產業(yè)界的三位專家。
人臉識別監(jiān)管可采取備案制
上海交通大學中國法與社會研究院院長季衛(wèi)東、上海市科學學研究所科技與社會研究室主任王迎春指出，人臉屬于生物識別信息，具有不可篡改性，在信息采集、傳輸、存儲等管理鏈上的任何一個環(huán)節(jié)出現(xiàn)問題，造成的社會危害往往很難逆轉。而且與指紋、虹膜等生物識別信息不同，人臉識別是無感采集，就像“3·15”晚會曝光的場景那樣，顧客在不知情的情況下就被采集了人臉。隨后，“萬店掌”能識別顧客的性別和年齡段，并根據(jù)人臉數(shù)據(jù)比對，將顧客打上“新顧客第一次到店”“熟客，第11次到店”“會員”等標簽。“人臉信息的采集必須遵循知情同意原則，所以商場將人臉識別用于精準營銷，是非法采集行為。”季衛(wèi)東教授說。
如果被采集者知情并同意，企業(yè)是否就不受約束了呢？絕非如此。兩位專家表示，人臉數(shù)據(jù)的傳輸、儲存、運用等環(huán)節(jié)如果出現(xiàn)信息泄露等問題，潛在的社會危害會很大，如引發(fā)利用人臉數(shù)據(jù)偽造證件的新型犯罪。
對此，王迎春建議國家和地方政府采取人臉識別備案制，并盡早發(fā)布人臉數(shù)據(jù)管理平臺標準。“生物醫(yī)藥領域的臨床試驗采取備案制，一旦出現(xiàn)問題，政府就能追溯調查。對于人臉識別的商業(yè)應用，我們也可采取備案制這種監(jiān)管模式。”王迎春解釋說。
人臉數(shù)據(jù)管理平臺標準對政府監(jiān)管也很重要，有了國家、行業(yè)或地方標準，就能更科學、嚴格地評估數(shù)據(jù)庫和云平臺的安全性，企業(yè)必須達標，才能獲得儲存人臉數(shù)據(jù)的資質。“在人臉識別監(jiān)管方面，上海可先行探索，比如參照醫(yī)療大數(shù)據(jù)由申康中心管理的做法，將大多數(shù)企業(yè)采集的人臉數(shù)據(jù)交由一個可信平臺進行統(tǒng)一管理。”
在季衛(wèi)東看來，上海可在成立市大數(shù)據(jù)中心的基礎上建設“數(shù)據(jù)銀行”。這是一類構建在高速分布式存儲網(wǎng)絡上的數(shù)據(jù)中心，作為中立的信托結構，對各類數(shù)據(jù)進行脫敏和存儲。“個人可以將自己的數(shù)據(jù)存到‘數(shù)據(jù)銀行’，銀行支付給個人利息，并將脫敏數(shù)據(jù)提供給企業(yè)有償使用。”建設“數(shù)據(jù)銀行”，有利于在確保數(shù)據(jù)安全可信的情況下，實現(xiàn)數(shù)字經(jīng)濟的利益分配公平，讓數(shù)據(jù)所有人獲得經(jīng)濟回報。
企業(yè)自律應遵循三個原則
除了加強政府監(jiān)管，企業(yè)自律對人臉識別的安全應用也很重要。商湯科技智能產業(yè)研究院院長、上海交通大學計算法學與AI倫理研究中心聯(lián)袂主任田豐認為，人工智能企業(yè)應遵循“透明、負責、友好”三個原則。“透明，就是要充分保證人臉信息被采集者的知情權，采集前必須獲得授權，采集后應有健全的保護機制，防止數(shù)據(jù)泄露。”田豐解釋，“負責，是指產品開發(fā)的所有步驟必須可靠、可追溯，還要有風險防范措施。友好，指人工智能的算法、應用開發(fā)和使用都是善意的，把滿足人民對美好生活的向往作為科技創(chuàng)新的落腳點。”
企業(yè)的健康發(fā)展也離不開政府的科學管理。田豐建議政府對數(shù)據(jù)實施分級分類管理，對生物特征、個人醫(yī)療健康等隱私性很強的數(shù)據(jù)嚴加保護；對與個人隱私關聯(lián)度較低的產業(yè)數(shù)據(jù)，可在脫敏后有條件地開放，釋放其產業(yè)創(chuàng)新價值。
“在人臉識別應用的一些爭議問題上，可由第三方機構開展用戶調研，了解公眾對各種人臉識別應用場景的具體需求，以及支持、反對比例。”田豐說。例如在小區(qū)門禁使用人臉識別這個問題上，居民的態(tài)度到底如何？可開展調研。
在邯鄲一個小區(qū)，居民通過人臉識別經(jīng)過出入口。新華社發(fā)
相關法律制定要保持平衡
季衛(wèi)東的觀點與田豐有些相仿。他認為，在相關法律制定上，要防止數(shù)據(jù)權利和隱私保護措施的過激化、僵硬化。“這方面的法律制定應保持規(guī)制與產業(yè)發(fā)展的平衡，并劃出清晰的倫理底線和法律底線。”個人信息保護固然重要，但也要兼顧大數(shù)據(jù)、人工智能、互聯(lián)網(wǎng)等產業(yè)的發(fā)展。“現(xiàn)在是人工智能的寒武紀，新的智能物種在大量涌現(xiàn)。為了新興產業(yè)發(fā)展，我們要‘硬法’和‘軟法’結合，在嚴格遵守法律原則和規(guī)則的基礎上，因勢利導、綜合治理，促使企業(yè)加強內部管理和倫理培訓。”
據(jù)了解，全國人大法工委去年10月公開就《中華人民共和國個人信息保護法（草案）》征求意見。草案對處理包括人臉等生物特征在內的敏感個人信息作出規(guī)定：只有在具有特定目的和充分必要性的前提下，方可處理敏感個人信息，并要求“向個人告知處理敏感個人信息的必要性以及對個人的影響”。
“以人為本的數(shù)字化轉型應遵循三個原則：效率、溫度、舒適。”王迎春說，“在追求創(chuàng)新效率的同時，政府和企業(yè)要考慮老年人、殘疾人等弱勢群體的體驗，讓數(shù)字化轉型有溫度。還要考慮轉型的舒適度，防止人臉識別等技術對個人隱私的侵犯。”在他看來，溫度、舒適與效率并不矛盾，可信安全人工智能孕育著巨大的藍海市場，有待廣大企業(yè)開發(fā)以人為本的技術解決方案。
