In this talk I will describe how to plant novel types of backdoors in any facial recognition model based on the popular architecture of deep Siamese neural networks, by mathematically changing a small fraction of its weights (i.e., without using any additional training or optimization). These backdoors force the system to err only on specific persons which are preselected by the attacker. For example, we show how such a backdoored system can take any two images of a particular person and decide that they represent different persons (an anonymity attack), or take any two images of a particular pair of persons and decide that they represent the same person (a confusion attack), with almost no effect on the correctness of its decisions for other persons. Uniquely, we show that multiple backdoors can be independently installed by multiple attackers who may not be aware of each other's existence with almost no interference.

Joint work with Irad Zehavi.

嘉宾介绍

Adi Shamir

图灵奖获得者

演讲主题：Facial Misrecognition Systems

阿迪·萨莫尔（Adi Shamir），2002年图灵奖获得者、以色列魏兹曼科学研究所教授、美国外籍科学院院士、现代密码学奠基人之一。Adi Shamir早年在以色列魏茨曼科学研究所获得硕士、博士学位，1977至1980年在美国麻省理工学院学习后返回以色列，发表了许多文章，获得了多项奖励，如美国计算机学院 Kannelakis 奖、以色列数学协会Erdos 奖、IEEE W.R.G. Baker 奖、UAP 科学奖、梵蒂冈PUIS XI金奖以及 IEEE Koji Kobayashi 计算机与通信奖等等。

John Hopcroft

图灵奖获得者、美国国家科学院院士、美国国家工程院院士、中国科学院外籍院士

演讲主题：

1986年图灵奖得主、康奈尔大学教授、美国国家科学院（2009）、国家工程院（1989）、国家艺术与科学院（1987）院士。曾任美国总统国家科学委员会成员（1992-1998）。自2011年起，每年在上海交通大学工作近3个月，亲自为本科生授课，2016年获“中国政府友谊奖”，2017年当选中国科学院外籍院士。现任上海交通大学访问讲席教授、上海交大约翰·霍普克罗夫特计算机科学中心主任、致远学院计算机科学方向约翰·霍普克罗夫特班首席教授、致远学院荣誉课程建设委员会名誉主任。

姚期智

图灵奖获得者、中国科学院院士

演讲主题：

2000年图灵奖得主、中国科学院院士。哈佛大学物理学博士、伊利诺伊大学计算机科学博士，先后任教于麻省理工学院、斯坦福大学、加州大学伯克利分校、普林斯顿大学，2004年回国出任清华大学教授。2005年创办清华学堂计算机科学实验班（姚班），2011年创办清华大学交叉信息研究院及清华大学量子信息中心。2018-2020年先后创立南京图灵人工智能研究院、西安交叉信息核心技术研究院、上海期智研究院，旨在深化人工智能科技及其成果转化。

活动议程

• 
  2023-07-12 15:30:00~17:00:00

  议程描述：炉边对话：人工智能时代创新教育的“密码”

  议程详情：主持人：徐学敏 对话嘉宾：Adi Shamir、John Hopcroft、姚期智

• 
  2023-07-12 14:00:00~15:30:00

  议程描述：大师讲坛：Facial Misrecognition Systems

  议程详情：主讲人：Adi Shamir