開學AI登場,高校用人臉識别查考勤管理學生,還敢逃課、玩手機?

近日,中國藥科大學在教室試點安裝人臉識别系統,除了能自動識别學生的出勤情況外,還能夠實現對學生課堂聽講情況的全程監控。校方認為這是在督促學習,網友卻不買賬,你怎麼看?

上學時害怕老師的火眼金睛,現在人臉識别教室來了。

近日,位于江蘇南京的中國藥科大學被推到了輿論風口浪尖,原因就是在教室使用人臉識别系統。

跷課、玩手機都逃不過它的“法眼”,南京高校試水“人臉識别教室”

據報道,中國藥科大學在兩間教室試點安裝的人臉識别系統,除了能自動識别學生的出勤情況外,還能夠實現對學生課堂聽講情況的全程監控。

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

學生是否認真聽講、課堂上是否擡頭低頭、擡頭低頭了幾次、擡頭低頭了多長時間、低頭是否在玩手機、是否閉眼打瞌睡……都逃不過這個人臉識别系統的“法眼”。

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

中國藥科大學圖書與信息中心主任許建真表示:傳統點名浪費時間、準确率不高,但是有人臉識别就沒問題了。

據悉,此舉是學校教務部門的要求,意在減少學生逃課、早退、花錢找人代課以及上課不認真聽講等行為,提高學生到課率,嚴肅課堂紀律。

然而,也有一些學生認為這樣做會侵犯個人隐私。

“為了(敦促)你學習,你還抱怨,請問你還是學生嗎?”對于教室安裝人臉識别系統侵犯學生隐私的說法,許建真表示,學校之前已向公安部門和法務部門咨詢,由于教室屬于公開場所,因此不存在“侵犯隐私”的說法。

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

除了教室,中國藥科大學在校門口、學生宿舍大門口、圖書館、實驗樓等場所均安裝了人臉識别門禁。

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

人臉識别教室引發微博網友熱議,大部分網友表示反對,認為這侵犯了學生隐私,不過一些人表示支持。

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

這位本校生表示自己沒覺得隐私受到侵犯

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

這位網友認為刷臉進出相對安全,對學生來說是好事

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

這位藥大學生認為沒什麼,刷臉進門挺方便。人臉識别教室隻是一兩個在試用,也沒說都裝。

孩子的微笑都要被監控?上海小學用AI 評估學生上課

在教室裝攝像頭并不是什麼新鮮事,但教室采用人臉識别技術分析學生的上課情況還是最近才開始的。

上個月,上海中醫藥大學附屬闵行薔薇小學将人臉識别帶入校園,通過智能課堂評價系統、智能環境分析與控制系統和智能教師培訓系統這三套“AI+學校”系統,對學生和教師進行監控。此舉同樣引發了不小的争議。

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

根據宣傳,進入教室的這套“智能課堂評價系統”可以在真實課堂的樣本數據基礎上,實現對師生行為與情感的自動檢測,通過智能算法分析,給出基于課堂表現的評價和改進建議。

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

針對學生,系統可自動檢測到學生舉手、站立、坐姿不端等行為,通過記錄分析形成對課堂效果的總體評價。可以說和南京高校使用的“人臉識别教室”有“異曲同工之妙”。

據悉,使用了這套系統後,學生在日常生活中有無微笑、有無跟老師問好、有無主動撿垃圾、隊列是否整齊等細節都會被AI捕捉,反饋到總控中心

根據“中國新聞周刊”的報道,一位上海某小學二年級學生的家長何女士聽聞此消息後,立刻緻電相關部門問詢,她認為AI進入小學,必須通知家長,并且需要家長的聯名同意,“這件事如果有一個家長反對,學校就不該實施。”她認為,“給學校裝AI,家長必須簽字。”

不過,也有人表示支持,因為這樣可以預防危險發生、降低校園霸淩、提高教學質量

瑞典一所高中用人臉識别監測學生出勤,被控違反隐私法挨罰15萬

人臉識别走入教室并非中國獨有,近日,瑞典一所高中用人臉識别監測學生出勤,被罰款20萬瑞典克朗。此案引發了關于在教育機構中進一步應用AI技術問題的讨論。

位于瑞典北部城市Skellefteå的一家當地教育機構被瑞典數據保護局處以20萬瑞典克朗(約合人民币15萬元)的罰款,因為該校通過面部識别技術來監控高中生的出勤情況。

在該校的實驗計劃中,一共在三周時間内跟蹤監測了22名學生的出勤情況,這些學生每次進入教室時都會錄制面部信息。

在這項測試任務進行之前,确實獲得了學生自己以及他們父母的許可。但是,瑞典數據保護局(DPA)的結論是,該計劃仍然違反了歐盟隐私法規“通用數據保護條例”(GDPR)的若幹條款,因此會對非法收集數據的校方處以罰款。

“Skellefteå的這所高中違反了數據保護條例的若幹條款,因此我們對該校處以罰款。”DPA總幹事Lena Lindgren Schelin在一份聲明中說。

DPA做出結論,面部識别技術侵犯了學生的隐私,同時強調,監控學生出勤率可以采用不侵犯隐私的方式,使用一些不涉及攝像監控的方法。

“面部識别技術尚處于起步階段,但發展很快。因此,我們非常需要明确可以适用于所有人的技術應用。“Schelin解釋道。

Skellefteå市政委員會的Felicia Lundmark強調,我們需要評估用于監控出勤率的AI技術的未來,不僅是在Skellefteå市,而且是在整個瑞典來做這件事。

安德斯托普高中校長約根·馬爾姆對罰款的結果表示驚訝。

“這個結果并不好。而且這個決定很有意思,因為我們處理信息的方式、以及如何在學校的環境下開發IT技術是一個很大的問題。“

參與這項實驗的學生哈裡認為,罰款是“不公正的”。

這是瑞典首次根據GDPR實施罰款,該協議于去年生效,旨在加強包括面部圖像數據在内的個人數據和隐私保護。

技術的發展沒有邊界,但技術的使用必須有邊界

科技飛速發展,人臉識别作為人工智能的一個重要領域,已經大量出現在我們的生活中,從手機解鎖到刷臉支付,甚至上下班都要用人臉識别打卡、進出……那麼對于這項技術,我們需要有所敬畏嗎?

美國多個城市禁用人臉識别,微軟删除全球最大公開面部識别數據庫

西方國家似乎對于技術的使用更加保守。比如在美國,面部識别的推進就困難重重。今年5月,舊金山成為美國第一個禁止面部識别監控的城市。

一個月後,美國國會兩黨在一場國會聽證會上正式讨論了對執法部門使用面部識别軟件所帶來的日益擔憂。兩黨一緻認為面部識别軟件有侵犯公民隐私權和抗議權的隐憂,尋求立法暫停此類工具的使用。包括面部識别軟件專家在内的團隊認為,在更完善的監管出台或技術充分成熟之前,此類面部識别工具應由國家叫停

开学AI登场,高校用人脸识别查考勤管理学生,还敢逃课、玩手机?

國會兩黨共同提案,尋求立法對面部識别進行監管

7月,美國又一城市通過了禁止在公共場所使用面部識别軟件的法令,成為繼舊金山之後全美第二個禁止面部識别技術的城市。新政策生效後,馬薩諸塞州的薩默維爾市各機構、分局或下屬部門,均不得在公共場所使用面部識别技術

除了立法的監管,科技巨頭在技術的使用上也需要謹慎。今年6月,微軟删除了包含1000萬張人臉圖像的全球最大公開面部識别數據庫MS Celeb。該數據庫最初于2016年發布,被微軟描述為世界上最大的公開面部識别數據庫,并用于培訓全球科技公司和軍事研究人員的面部識别系統。

史上最嚴數據保護條例,歐盟GDPR最高開出2億美元罰單

《通用數據保護條例》(General Data Protection Regulation,GDPR)是在歐盟法律中對所有歐盟個人關于數據保護和隐私的規範,涉及了歐洲境外的個人資料出口。GDPR 主要目标為取回公民以及住民對于個人資料的控制,以及為了國際商務而簡化在歐盟内的統一規範。

GDPR取代了歐盟在1995年推出的歐盟個人資料《數據保護指令》(Data Protection Directive),該條例包含有關處理歐盟内部數據主體的個人可識别資訊的條款和要求,适用于與歐洲做生意的所有企業。

本法案在2016年4月27日通過,緩沖期為兩年,于2018年5月25日起強制執行。

截至目前,歐盟各國以及英國已經根據GDPR對多個企業進行了處罰,其中罰款額度最高的超過2億美元,被處罰的企業涉及各個行業。

2019年7月8日,英國監管機構信息委員會辦公室(ICO)決定對英國航空公司做出高達1.83億英鎊的罰款,原因是該公司的大量用戶信息被轉移至欺詐網站上,攻擊者通過虛假的英國航空公司網站收集了大約50萬乘客的個人信息。此次信息洩露已經持續了一年有餘,航空公司方面負有不可推卸的安全責任。

其實我國也有相關的标準來規範數據保護的。2018年5月1日,《信息安全技術個人信息安全規範》(GB/T 35273—2017),其中明确規定:

收集個人信息前,應向個人信息主體明确告知所提供産品或服務的不同業務功能分别收集的個人信息類型,以及收集、使用個人信息的規則(例如收集和使用個人信息的目的、收集方式和頻率、存放地域、存儲期限、自身的數據安全能力、對外共享、轉讓、公開披露的有關情況等),并獲得個人信息主體的授權同意。

有規範是第一步,具體的落實需要各方共同的努力。最近AI換臉應用“ZAO”一夜爆紅被推到輿論風暴的中心再次印證了大家對于隐私保護的擔憂。在這個AI時代,如何權衡技術的發展與隐私的保護是值得我們深思的問題。

更新于:2019年09月03日

  • 智領江蘇(資訊)

  • 加入JSAI學會