AI教父:人工智能可能改写自己的代码“失控

日期:2023-10-17 18:46:00 / 人气:174

”《财联社》10月11日电(编辑牛占林)被业界称为“人工智能教父”的计算机科学家杰弗里·辛顿(Geoffrey Hinton)表示,如果人类不小心,人工智能“可能接管一切”。
75岁的辛顿近日在接受媒体采访时表示,飞速发展的人工智能技术可能会在“五年内”获得比人类更聪明的能力。他补充说,如果出现这种情况,人工智能可能会进化到人类无法控制的水平。
辛顿指出,人工智能系统逃脱控制的可能方式之一是编写自己的计算机代码,这是我们需要认真担心的事情。
辛顿的工作被认为对当代人工智能系统的发展至关重要。1986年,他与人合著了一篇开创性的论文《通过反向传播误差学习表征》,这是人工智能技术基础神经网络发展的里程碑。2018年,他被授予图灵奖,以表彰他的研究突破。
今年4月,在谷歌工作了10年后,辛顿辞去了副总裁和工程研究员的职务,以便可以自由地谈论人工智能带来的风险。在离职后,辛顿声称对自己在开发人工智能方面的作用感到后悔。
他特别强调,人类,包括像他一样构建人工智能系统的顶级科学家,仍然没有完全理解这项技术是如何工作和发展的。
许多人工智能研究人员也坦率地承认,他们对此缺乏了解。今年4月,谷歌首席执行官桑达尔·皮查伊(sundar pichai)称之为人工智能的“黑匣子”问题。
正如Hinton所描述的,科学家为人工智能系统设计算法,从“数据集”中提取信息,如互联网。他说:“当这种学习算法与数据交互时,它会产生复杂的神经网络,擅长做某些事情。但说实话,我们真的不明白他们是怎么做到这一点的。”
皮查伊和其他人工智能专家似乎不像辛顿那样担心机器失控的问题。另一位图灵奖获得者Yann LeCun表示,任何关于人工智能可能取代人类的警告都是“荒谬的”,因为人类总是可以阻止任何变得太危险的技术。
但辛顿认为,最糟糕的情况是不确定的,医疗保健等行业已经从人工智能中受益匪浅。
此外,人工智能制作的虚假信息、假照片、假视频在网络上广泛传播。他呼吁进行更多的研究来了解人工智能,政府应该出台法规来控制这项技术,并在全球范围内禁止人工智能军用机器人。
上个月,美国科技界领袖聚集在国会山,参加参议院多数党领袖舒默举办的人工智能峰会,讨论未来对人工智能的监管。尽管科技巨头呼吁美国国会通过立法加强对人工智能的监管,但科技公司之间在如何监管方面仍存在分歧。
辛顿指出,无论人工智能护栏是由科技公司实施,还是在美国联邦政府的强制要求下,相关监管措施都需要尽快出台。
他认为人类可能正处于一个“转折点”,接下来会发生什么存在很大的不确定性。他补充说,科技界和政府领导人必须决定“是否要进一步开发这些东西,如果要开发,如何保护自己。”
(蔡莲牛占林)”

作者:杏耀注册登录官方平台




现在致电 8888910 OR 查看更多联系方式 →

COPYRIGHT 杏耀注册登录官方平台 版权所有