FPC之人工智能也会患抑郁症？

文章来源：作者：何琴查看手机网址

扫一扫！

扫一扫!

人气：4499发布日期：2018-06-29 04:28【大中小】

AI也会患上人类有的强迫症、抑郁症等心理疾病，一些研究人员已经注意到这一可能，尝试用认知心理学来理解AI的“心理”。

堪萨斯州立大学和路易斯维尔大学的三位AI安全研究人员合作发布了的一篇新论文《A Psychopathological Approach to Safety Engineering in AI and AGI》，如果AI学会像人一样思考，那么有朝一日它也可能会身患压力和抑郁症等症状。

可能大多数人会像FPC小编一样想，机器人抑郁关我什么事？机器人或许现在暂时还不需要被治疗，但认知心理学已经被发现是理解人工智能决策的有效途径。此外，一些研究人员表示，现在开始研究机器发展强迫症或抑郁倾向的可能已经不算早了。这篇论文的合著者、堪萨斯州立大学的一位博士候选人Vahid Behzadan表示，即使是当前相对基本的机器学习算法也可以表现出与人类相似的认知问题。

1、“奖励黑客”

“奖励黑客”，就是指不合适的奖励设置可能导致AI走向“强迫性表面行为”（Compulsive-seeming behaviors），也就是说，AI可能会做一些表面服从而背后偷偷耍小聪明的事。举个例子，一个清洁机器人被程序设定为每次完成清理时都会收到奖励。那么，与其保持一片无瑕的区域，它可能会更乐于反复地制造混乱，这样它就能在每次清理时获得奖励。

2、AI可以学习别人的不良行为

麻省理工学院的科学家故意创造了一个不正常的AI，通过给它灌输Reddit论坛里鱼龙混杂的评论，导致它的行为活像一个精神病患者。巧合的是，微软也做了类似的工作，即让一个名为Tay的聊天机器人学习Twitter用户们的评论方式。