来自全球近30个国家的50多名人工智能研发学者、人员,发起杯葛韩国科学技术院(KAIST)行动。
事缘韩国科学技术院伙拍南韩着名武器生产商Hanwha系统,在2月开展一项人工智能(AI)军事研究计划,引发外界忧虑计划将研发出人工智能武器,甚至是「杀手机器人」(killer robots),并间接催谷各国进行自动化武器的军事竞赛。
逾50名研究人工智能的学者联署公开信,呼吁业界杯葛韩国科学技术院。他们表示,将不会访问韩国科学技术院,也不会与学院进行任何合作计划。公开信指,「只要一开发出自动化武器,战争的速度就会以几何级数提升,也可能会被恐怖分子所利用。」
「韩国科学技术院可是一家享有良好声誉的大学,却选择跟道德上非常可疑的伙伴合作。」发起杯葛的新南威尔士大学教授Toby Walsh说。「人工智能可以做的好事多的是,也包括军事方面,例如用于拯救行动,但公开表明以发展自动化武器为目标,还要伙拍军火製造商,实在令人大感忧虑。」
「我们绝对不能把谁可以生存、谁人要死,交给机器来决定,这已超越道德的界线。」
韩国科学技术院在消息曝光的数小时后迅速回应,强调绝对无意参与研发致命的自动化武器系统或杀手机器人,校长Sung-Chul Shin说:「我再次保证,KAIST绝对不会参与任何有机会损害人类尊严的研究工作,包括自动化武器研究。」
韩国科学技术院表示,合作计划主要是把人工智能应用于指挥及控制系统、深海导航、智能飞行器训练、追蹤及确认目标。
Toby Walsh认为,韩国科学技术院的回应提出两点重要的让步,一是承诺不会发展自动化武器,一是确保会有人类监控。不过,他认为目前不清楚学院方面会如何监控计划,举例说,当无人深海潜艇去到无法传递讯号时,可以怎样监察其行动。
联合国下星期将于日内瓦举行会议,讨论人工智能在军事方面的应用,超过20个国家已提出要永久禁止製造杀手机器人一类的自动武器。估计韩国科学技术院的计划将成为会议焦点话题之一。
Walsh暂时未决定是否取消杯葛行动,他表示需要同各联署人商讨才有定论。
'Killer robots': AI experts call for boycott over lab at South Korea university (The Guardian) Researchers to boycott South Korean university over AI weapons work (Reuters)