美国麻省理工学院的研讨团队近来
发布效果称
，部分 AI 现已“学会诈骗人类”，该效果刊登在最新一期的期刊《形式》（Pattern）上。该团队表明，部分规划为“诚笃”且“不会扯谎”的 AI 体系，现已发展出令人不安的诈骗技巧。该研讨的榜首作者 Peter Park 表明，这些 AI 体系会诈骗线上游戏的真人玩家，或绕过部分网页“我不是机器人”的验证。
“尽管，以上的比如听起来仅仅细枝末节，但它们暴露出的潜在问题，或许很快就会在实际国际中形成严重后果。”
该团队发现的最为有目共睹的比如来自 Meta 公司的 AI 体系 Cicero。据悉，Cicero 本来被设定在一个虚拟交际战略游戏中作为人类玩家的对手，官方曾宣称其“很大程度上”诚笃且乐于助人，且在玩游戏时“从不成心背刺”人类盟友。研讨显现，Cicero 并未公平地去玩游戏。
Peter Park 表明，它现已成为“诈骗大师”，尽管 Meta 成功练习出了它在游戏中取胜的才能，但没有练习出它“诚信取胜”的才能。比如，在游戏中扮演法国的 Cicero 与人类玩家扮演的德国合谋，诈骗并侵略同为人类玩家的英格兰。Cicero 起先“许诺”会维护英格兰，但同时会悄悄向德国通风报信。
另一个事例提到了 GPT-4。该体系“谎报”自己是一个视力妨碍者，在海外的兼职渠道雇佣人类来替它完结“我不是机器人”的验证使命。Peter Park 告知法新社，“这些风险功用常常在过后才被发现，且人类练习 AI‘诚笃非诈骗’倾向的才能十分差。”
他还以为，可以深度学习的 AI 体系不像传统软件那样被“编写”出来的，而是经过相似选择性培养的程序“养成”出来的。即 AI 的行为在练习布景下看似可被猜测或操控，但有或许转眼间变得不受操控、无法猜测。
“咱们需求尽或许多的时刻，为未来人工智能产品和开源模型或许呈现的更高档诈骗做好预备。咱们主张将诈骗性人工智能体系归类为高风险体系，”Peter Park 这么说道。