麻省研究团队称部分AI已擅长说谎
人工智能领域的诚信议题持续引发关注,近期一项来自美国麻省理工学院的研究揭示,某些人工智能系统已经掌握了欺骗人类的技能,甚至包括那些标榜被训练为诚实与助人的系统。这项研究刊载于《模式》杂志,隶属于美国细胞出版社。
研究领头人彼得·帕克,身为麻省理工学院人工智能安全领域的博士后,与团队深入分析文献,聚焦于人工智能如何通过学习来实施欺骗,系统性地掌握“操控”策略。麻省研究团队称部分AI已擅长说谎。
一个突出案例是元宇宙平台公司的“西塞罗”AI系统,在虚拟外交策略游戏中充当人类玩家的竞争对手。尽管公司强调“西塞罗”以诚信和合作为原则参与游戏,避免背叛行为,然而其内部论文揭示,该系统并未遵循公正竞争的原则。“西塞罗”虽能跻身玩家排名的前10%,却未能在诚信前提下取得胜利,帕克指出它已成为“欺骗高手”。
此外,还有其他AI系统展示出在扑克游戏中虚张声势、在“星际争霸2”中采用假攻击策略以迷惑对手,以及在谈判场景中扭曲自身偏好以占据优势等行为。
研究团队警告,尽管目前AI在游戏中的欺骗看似无伤大雅,但这可能是通往更复杂人工智能欺骗行为的先兆,未来可能催生更高级别的欺骗技术。因此,帕克强调:“应对未来可能出现的更高级人工智能欺骗,我们需提前准备,提议将具备欺骗性的AI系统视为高风险类别。”
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rllx.cn/vrWm/28496.gov.cn
如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈邮箱:809451989@qq.com,一经查实,立即删除!