俄国一公司打算用人脸识别检测街头暴力 专家称须注意合法性|计算机视觉|暴力|算法|合法性|人脸识别

　　据媒体报道，俄罗斯计算机视觉公司NtechLab正在开发能通过摄像头检测暴力行为的新技术，预计2021年投入市场。
　　当地时间9月23日，NtechLab在下诺夫哥罗德市举行的“俄罗斯数字工业”论坛上宣布了这一消息。据了解，这家公司的人脸识别技术具有世界领先水平，前不久刚刚获得超过10亿卢布的投资，折合成人民币约为8738万元。
　　根据NtechLab披露的信息，正在研发中的新技术能使用AI摄像头来检测暴力行为。
　　NtechLab联合创始人阿特姆·库哈连科（Artem Kukharenko）简述了背后的技术原理：AI算法将实时分析来自摄像机的视频，提取画面中具有某些“非标准动作”的行为人，并对其发出警告。
　　所谓“非标准动作”，简单而言就是一些异常动作，比如有人跌倒或者在人流中快速穿行。库哈连科说，一旦有暴力行为出现，系统会立即锁定行为人，并向集市的保安部通报消息。
　　不过，这一检测技术还处于“早期研发阶段”，远远谈不上成熟。库哈连科指出，暴力行为的识别涉及到人脸识别、动作识别和情绪识别。虽然公司现有的人脸识别和情绪识别算法具有很高的精确性，但二者与动作检测算法的结合还有待进一步的研究。
　　NtechLab公司尚未透露这一技术系统的成本与预计定价。“如果价格在20到30万卢布之间，我就准备购买。如果超过百万卢布，那就没有必要买了，多雇佣两个警卫会更简单。”Ecooffice公司集团的创始人、拥有多个购物中心的安德烈·科瓦列夫（Andrey Kovalev）说。
　　值得注意的是，除了价格，NtechLab还要解决法律方面的诸多合规问题。商业智能机构R-Techno总经理罗曼·罗马切夫（Roman Romachev）认为，有必要为这一技术建立配套的法律依据。
　　莫斯科国立法律大学教授伊戈尔·马茨克维奇（Igor Matskevich）指出，暴力行为检测系统或将威胁民众的隐私权，过于精准的识别也可能招来民众的厌恶情绪。“人们对生物识别数据的收集和分析仍然持双向态度。”
　　“如何安全地存储相关数据？不排除有信息泄露的可能。”风控产品开发商SearchInform的分析部门科学主管阿列克谢·菲拉托夫（Alexey Filatov）强调。
　　此前，俄罗斯警方曾使用NtechLab的人脸识别系统来追踪违反居家隔离令的人员，此举也引发了一些关于隐私的讨论。
　　总部位于莫斯科的国际组织Agora和数字权利运动组织Roskomsvoboda接受外媒采访时称，在空前的疫情态势下，某些对公民权利和自由的限制是合理的。但是，必须对这些限制措施进行监管，以确保其合法性、临时性和恰当性。
　　文/南都人工智能伦理课题组研究员 张弛 冯群星

---