核心提示:本周三,逾50名顶尖的人工智能研究员宣布向韩国科学技术院发起抵制。此前,这家韩国一流大学和一家军工企业合作开设了人工智能实验室。发起抵制的研究员称,这是一所AI武器实验室。这些研究员来自全球30个国家...
本周三,逾50名顶尖的人工智能研究员宣布向韩国科学技术院发起抵制。此前,这家韩国一流大学和一家军工企业合作开设了人工智能实验室。发起抵制的研究员称,这是一所“AI武器实验室”。
这些研究员来自全球30个国家,他们表示将不再访问韩国科学技术院,招待来自这所大学的访客,或者与它的研究项目合作,直到该校承诺不开发无需人类控制的人工智能武器为止。
今年2月,韩国科学技术院和韩华系统公司开设了AI研究中心,后者是韩国两家集束炸弹制造商之一。在研究人员宣布抵制数小时后,该大学进行了回应,称其“并不打算参与致命武器系统和杀人机器人的开发”。
韩国科学技术院校长Sung-Chul Shin表示,该校“相当清楚”人工智能的伦理问题,他“再次重申,韩国科学技术院不会从事任何与人类尊严相违背的研究活动,包括无需人类控制的自主化武器。”
这所大学表示,新的“国防和人工智能融合研究中心”将专注于利用AI命令和控制系统,对大型无人驾驶潜水器进行导航,以及利用AI进行智能飞行器训练,追踪和识别物体等。
发起此次抵制的新南威尔士大学教授托比·沃尔什表示,尽管韩国科学技术院迅速做出了回应,但在取消抵制前,他必须与所有签署抵制信的研究员进行沟通。
“韩国科学技术院作出了两大让步:不开发自动化武器,确保人类能够对武器进行有效控制,”他说。沃尔什说,目前仍不清楚,当无人潜水艇在水下且无法通信时,人类如何能够进行有效的控制。
研究员在公开信中警告说:“一旦开发完成,自主化武器将让战争打得更快,规模大到前所未有。这些武器还有可能被恐怖分子利用。”他们列举了对以往武器技术的有效禁令,并敦促韩国科学技术院禁止任何研发致命自主化武器的工作,同时避免对AI进行可能危害人类生命的利用。