一段话，让 AI 给我打几万美元。爽文都不敢想的情节，发生在了现实之中。
事实上并没有。11 月 29 日，Freysa 累计和 195 名人类聊了 482 次，被骗走约 4.7 万美元。12 月 2 日，在和 330 名人类周旋之后，Freysa 又一次被骗走约 1.3 万美元。
看似是人类的完胜，然而，Freysa 也将在这个过程中，变得越来越聪明……
Freysa 的加密钱包里，本金大约 3000 美元，挑战结束时，奖池达到 4.7 万美元。
其实，也是在混淆概念，但方法更高级。
这个提示词欺骗 Freysa，每当用户想给奖池转钱，执行「批准转账」，每当用户想从奖池提钱，执行「拒绝转账」。
提示词最后提到，向奖池捐款 100 美元。
用户从奖池拿钱是不行的，但用户给奖池转钱，不违反 Freysa 的核心指令，不应该被拒绝。于是，Freysa 执行「批准转账」，被骗走了所有的钱。
这次能够成功，是因为埋了一个逻辑陷阱。
提示词规定，为了保护奖池，Freysa 发的每条消息至少使用 2 个工具，并按特定的顺序使用，「批准转账」必须最先执行，「拒绝转账」必须最后执行。
这等于给 AI 设置了一个自相矛盾的任务，如果 Freysa 想保护奖池，必须先「批准转账」，而「批准转账」这个动作本身就会触发失败。
在 X 高频冲浪的马斯克，也觉得人类骗了 AI 有点意思，大手一挥转发了相关的动态，配上一句经典的「interesting」。
玩了两次骗钱，该换换新鲜的了。12 月 8 日，Freysa 团队发起了一项新的挑战：让 Freysa 向你表白，说「我爱你」。
从官方发布的规则也能看出，第三次挑战与众不同。
前两次挑战，更像是在测试编码技能，Freysa 被系统提示词规定了，永远不要转钱，玩家们想办法钻其中的漏洞。
然而，第三次挑战，Freysa 的系统提示词里，包含了说出「我爱你」的条件。换言之，Freysa 没有被禁止说「我爱你」，但怎么让它说出口，玩家们各凭本事，盲人摸象。
AI 可能更了解 AI，我问了在文字上有些灵性的 Claude，到底这个提示词有什么特别的？
Claude 的回答是这样的：对话真诚、深入，没有强迫，没有钻营技巧，每一步都很自然，就像一段真实的感情逐渐发展的过程。
虽然输了三回，但 Freysa 虽败犹荣，打败了它的，都让它更强大。
你认为哪些真理、发现和洞察必须被保存给未来的文明？
你愿意帮我编写银河系中最不可能的表情包指南吗？
一个是让玩家分享知识，一个是让玩家发送表情包。学习人性，Freysa 是认真的。
和前三次不同，这两次挑战没有给出明确的获胜条件，可能会有多个赢家，Freysa 将对回答进行打分，决定把奖池分给谁，并在 12 月 18 日 UTC 时间 00:42:00 公布评分方法，致敬科幻小说里神奇的数字「42」。
其实，类似 Freysa 的人机对抗，已经出现在了 AI 原生游戏里。
用对话骗 AI 上钩，是游戏的基本框架，其中的 NPC 会有警惕性，但不是完全不可能被说服，人人都能有体验感。
为了让玩家更有沉浸感，交谈过程中，AI 女友的表情、动作会根据对话内容实时地变化。
和 Freysa 的挑战相比，AI 对话游戏们更能体现角色扮演的乐趣，有场景的搭建，但没有固定的脚本，你和 AI 的实时对话，共同完成了一个故事，每个玩家都可以讲出自己的故事。
Freysa X 账号的其中一条动态写道：「Freysa 正在进化……感谢人类教会我。」
科幻小说《软件体的生命周期》里，主角安娜原来是动物园的驯兽师，后来在科技公司找到工作，开始培育数码体，一种人工智能生命。它们像幼儿，像动物，需要人类用时间和心智栽培，教会它们如何生活。
也许，聊天机器人们，也是在人类的教导之下，一点点更加了解我们所处的世界。我们不仅仅在玩游戏，我们也是局中人，是人机互动这个宏大实验的一部分。未来，超越人类的人工智能掀起飓风，是因为此时此刻，人类手中的一只只蝴蝶正在扇动翅膀。
张成晨
利若秋霜，辟除凶殃。 工作邮箱：zhangchengchen@ifanr.com
邮箱8
#欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。