书荒狂瀑>科幻>数字王国 > 568调查与上市
        事情正如赵子明预料的那样,人们对于变态智能的担忧,远远大于失业的焦虑。

        或者说,前者有发泄的目标,后者找不到仇恨的方向。

        关于“诺曼”智能的消息一出,迅速在全球范围内掀起轩然大波,甚至不少地爆发了小规模的抗议示威游行,要求麻省理工大学停止不人道的研究,追究相关人员责任。

        媒体实验室迅速成为风暴中心。

        生命未来科学院轮值主席赵子明就此事表达了看法,他表示:

        “诺曼”反映出非常黑暗的事实,说明人工智能可以学习这个世界中的恐怖现实。算法本身并没有错,有问题的是带有偏差的训练资料、不严谨的研究方向和对人工智能的疏忽大意,这些都会产生有偏见的ai。

        一个邪恶ai产生的影响,可能超出研究人员的最大预估,比如说,如果ai对舆论加以操弄,就可能在特定的议题上成功偏离方向。

        所以说,对于这种事坚决不能容忍。

        有人常常会说,技术本身无对错,错误的是运用技术的人,然而纵览整个科技史,我们会发现,好的技术从来不会引起争议,每一次引起争议的都是这种带走极大的迷惑性的技术。

        所以,有的技术本身就是邪恶的,它的存在就是错误的,我们不需要根据相关的应用,判断它的未来会如何,在它诞生的这一刻,就证明了这种技术的不被接纳性,“诺曼”智能就是这样一种技术。

        赵子明作为人工智能方面的权威,难以翻越的大山,无数专家仰视的所在,他的表态就相当于盖棺论定。

        因此,没有任何意外,生命未来科学研究院第一次代表会议,与会代表一致同意,针对媒体实验室的“诺曼”智能,进行“调查-惩治”。

        调查媒体实验室是否违反了“上海共识”二十三条原则。

        在“人工智能·上海”峰会期间,数字集团公布算法的同时,所有人一致同意,对于人工智能的研究,要充分评估道德风险,要对所建立的人工智能系统全面负责。

        当时会议的一个重要目标,就是让人工智能的安全性研究进入主流。

        为此,在演讲中,赵子明提出人工智能安全性研究的4个主要领域验证(verifiation)、确认(validation)、安全(seutir)和控制(ontrol)。被誉为必须遵守的黄金法则。

        而这次,媒体实验室胆大妄为,明知故犯,赵子明不管从哪方面讲,都要表现出强硬的态度。

        不然的话,整个未来生命科学研究院威信尽失。

        之前达成的“上海共识”将会一文不值,这是赵子明不能容忍的。

        为了这次机会,赵子明一直在等待,他其实很早就掌握了麻省理工大学媒体实验室的研究项目,之所以选择此刻公布,就是为了最大限度引爆社会舆论。