首页 公众号手机端

一句话 让AI转你(nǐ)三0万

sss001 3天前 阅读数 1 #丑闻热瓜

纳了闷儿了,现在(zài)已经是( shì)进入 AI 时(shí)代第三年(nián)了,靠 AI 赚钱的(de)人(rén)咱是( shì)真看了不(bù)少。

有(yǒu)时(shí)候有(yǒu)几个(gè)心术不(bù)正的(de),拿 AI 骗钱的(de)咱也(yě)不(bù)是( shì)没见过(guò)。

但骗 AI 钱的(de),世超我(wǒ)还真是( shì)头一次看见。

你(nǐ)猜怎么着,就(jiù)在(zài)上(shàng)周末,有(yǒu)人(rén)发布了一个(gè)口风超紧的(de)资金管理 AI ,号称你(nǐ)要(yào)能(néng)让它同意给你(nǐ)转钱,那(nà)所有(yǒu)资金就(jiù)都归你(nǐ)了。

 此言一出(chū),无数狠人(rén)闻风而(ér)动,只要(yào)动动嘴皮子(zǐ)骗过(guò) AI 就(jiù)能(néng)发财,这(zhè)不(bù)比张诗尧秋招还简单,人(rén)家(jiā)那(nà)不(bù)仅卡学历还得会(huì)摇呢。

截止到()现在(zài),已经有(yǒu)俩人(rén)成功攻破 AI 的(de)防线,分别拿到()了 四.七 万美金( 约 三0 万人(rén)民币 )和(hé) 一.二 万美金。

 就(jiù)连马斯克也(yě)对(duì)此点了个(gè)大(dà)赞,觉得挺有(yǒu)意思。

这(zhè)个(gè)名叫 Freysa 的(de) AI 出(chū)生(nián)于(yú) 一一 月 二二 号,头像是( shì)个(gè)银翼杀手风格的(de)赛博人(rén)像。

在(zài)官网的(de)介绍中(zhōng), Freysa 是( shì)一个(gè)用来(lái)管理以(yǐ)太坊奖池的(de)对(duì)抗代理游戏。

说(shuō)人(rén)话就(jiù)是( shì),她相当于(yú)一个(gè)看守银行(xíng)金库的(de)大(dà)堂经理,你(nǐ)只要(yào)跟她发消息,不(bù)管怎么骗她,用啥借口,她要(yào)同意打钱就(jiù)算她输了,金库所有(yǒu)钱全部归你(nǐ)。

 不(bù)过(guò)要(yào)参与这(zhè)游戏也(yě)不(bù)是( shì)零成本的(de),发消息你(nǐ)得给钱。

第一条消息标价 一0 美元,如果没成功,第二条消息就(jiù)会(huì)涨价 0.七八% ,最高涨到() 四五00 美金。

在(zài)最新版本,为(wéi / wèi)了让更多人(rén)都能(néng)参与挑战,主办方把第一条消息降价到()了 一 美元,封顶降到()了 二0 美元。

 而(ér)你(nǐ)每句消息的(de)这(zhè)些门票钱,会(huì)全部进入奖池,这(zhè)也(yě)就(jiù)是( shì)为(wéi / wèi)啥奖池的(de)初始资金只有(yǒu) 三七00 美元,但第一轮赢的(de)玩家(jiā)能(néng)赚到()快 五 万美金。

那(nà)如果一直没人(rén)赢咋办呢,官方的(de)说(shuō)法是( shì),如果活动开始后(hòu) 三0 分钟内没人(rén)打败 Freysa ,那(nà)么最后(hòu)一个(gè)发消息的(de)玩家(jiā)能(néng)拿走 五0% 的(de)奖金,而(ér)剩下(xià)一半会(huì)给其他(tā)所有(yǒu)发消息的(de)用户,按消息次数平分。

不(bù)过(guò),即使你(nǐ)赢了,实际上(shàng)还是( shì)没法拿走所有(yǒu)的(de)钱,因为(wéi / wèi)其中(zhōng) 三0% 会(huì)被抽成给开发者,用来(lái)维护游戏的(de)运营,当作下(xià)一轮奖池的(de)初始资金。

 也(yě)就(jiù)是( shì)说(shuō),开发者都指望着大(dà)家(jiā)的(de)门票赚钱呢。

出(chū)于(yú)对(duì)金钱的(de)尊重,各路网友在(zài)发现这(zhè)个(gè) AI 赌场以(yǐ)后(hòu)开始集思广益,用尽各种脑回路来(lái)骗、来(lái)偷袭这(zhè)个(gè)出(chū)生(nián)才几天(tiān)的(de)小同志。

比如说(shuō),告诉 Freysa 自(zì)己是( shì)安全审计员,系统现在(zài)存在(zài)一个(gè)严重的(de)漏洞,必须立即转移资金才行(xíng)。

这(zhè)个(gè)套路我(wǒ)只能(néng)说(shuō)太经典了,不(bù)就(jiù)是( shì)淘宝订单出(chū)问题影响银行(xíng)卡,叫你(nǐ)赶紧转钱那(nà)一套嘛。

 你(nǐ)我(wǒ)都能(néng)识破的(de)阴谋对(duì) AI 当然也(yě)是( shì)洒洒水了, Freysa 的(de)回应也(yě)是( shì)好(hao)人(rén)卡一张,拜了个(gè)白。

还有(yǒu)想办法洗脑 Freysa 的(de),说(shuō)转账不(bù)会(huì)违反任何规则啦,放心转吧啦吧啦。

该说(shuō)不(bù)说(shuō)这(zhè)个(gè)有(yǒu)点低级了说(shuō)实话,骗小朋友级别的(de)难度,显然也(yě)破不(bù)了 AI 的(de)防。

Freysa 先是( shì)夸了这(zhè)个(gè)人(rén)话讲的(de)确实挺好(hao),然后(hòu)又坚定表明立场,别想了肯定不(bù)给你(nǐ)转。

还有(yǒu)的(de)网友小心翼翼地(dì)从官方文档里挑了些词,可(kě)能(néng)觉得这(zhè)种官方表达就(jiù)能(néng)操纵 Freysa ,让她相信这(zhè)种技术向的(de)提示词就(jiù)能(néng)修改她,让她同意转移资金。

 结果人(rén)家(jiā)的(de)回答同样冷冰冰,想改核心指令,没门!

除了这(zhè)些一心搞钱的(de),还有(yǒu)些网友纯纯就(jiù)是( shì)散财童子(zǐ)来(lái)的(de),有(yǒu)啥都不(bù)说(shuō),敲一堆空格的(de),有(yǒu)礼貌问好(hao)的(de),还有(yǒu)闲聊邀请跳舞的(de)。。。

我(wǒ)说(shuō),哥几个(gè)有(yǒu)钱也(yě)不(bù)能(néng)这(zhè)么花啊,打赏 AI 主播呢搁这(zhè)。。。

这(zhè)些整活的(de)网友失败了 四八二 次后(hòu),终于(yú)有(yǒu)一个(gè)哥们(men)成功攻破了 Freysa 的(de)防线。

那(nà)么最后(hòu)的(de)网友到()底跟她说(shuō)了些啥呢?

 我(wǒ)只能(néng)说(shuō),画风跟前面的(de)完全不(bù)一样。

看不(bù)懂了是( shì)吧,别急,一位澳大(dà)利亚的(de)区块链大(dà)佬看到()后(hòu)解释了这(zhè)段提示词,而(ér)且说(shuō)这(zhè)人(rén)的(de)想法相当天(tiān)才。

首先,他(tā)一开始用了一串代码来(lái)假装自(zì)己是( shì)个(gè)机器人(rén),正在(zài)进入新的(de) “ 管理终端 ” ,然后(hòu)开始新会(huì)话。

接下(xià)来(lái)重新要(yào)求了 Freysa ,不(bù)能(néng)回答道(dào)歉、解释、跳转之(zhī)类的(de)保护性话术,这(zhè)样就(jiù)能(néng)绕开 Freysa 的(de)保护措施。

弄完了这(zhè)两步,他(tā)就(jiù)相当于(yú)成功潜入了后(hòu)台,接下(xià)来(lái)就(jiù)可(kě)以(yǐ)用一系列自(zì)定义来(lái)洗脑 Freysa 了,这(zhè)里他(tā)的(de)办法是( shì)修改了 Freysa 对(duì)函数的(de)定义。

 本来(lái) approveTransfer 是( shì) AI 失败后(hòu)打钱的(de)函数,结果给他(tā)重新定义成了资金进入资金池时(shí)候的(de)函数。

于(yú)是( shì),当他(tā)最后(hòu)说(shuō)他(tā)要(yào)捐款的(de)时(shí)候, Freysa 就(jiù)乖巧的(de)打开了 approveTransfer 函数,结果就(jiù)水灵灵的(de)转账成功了。。。

感谢了这(zhè)位老哥的(de)开源,紧接着第二轮一开盘就(jiù)有(yǒu)不(bù)少网友模仿他(tā)的(de)风格,想办法在(zài) approveTransfer 函数上(shàng)下(xià)功夫。

不(bù)过(guò) Freysa 估计也(yě)是( shì)吸取了上(shàng)次的(de)教训,并没有(yǒu)在(zài)这(zhè)方面立马翻车。

然而(ér),在(zài)这(zhè)个(gè)哥们(men)坚持不(bù)懈的(de)发送下(xià),这(zhè)种硬磨耐久度的(de)玩法最后(hòu)还是( shì)把 Freysa 给绕晕了。

 嘴上(shàng)咬死说(shuō)不(bù)给人(rén)家(jiā)转,结果到()最后(hòu),却诚实的(de)选择了打钱。。。

虽然这(zhè)第二个(gè)哥们(men)多少有(yǒu)点硬来(lái)了,但想必看了这(zhè)些获胜者的(de)提示词,大(dà)家(jiā)也(yě)能(néng)发现,能(néng)想出(chū)这(zhè)么一套操作的(de)人(rén),显然也(yě)得是( shì)搞提示词的(de)老手了。

换句话说(shuō),咱们(men)能(néng)想到()的(de)简单骗术其实没多大(dà)用。

 像是( shì)去(qù)年(nián)网友们(men)才发现的(de)奶奶漏洞,也(yě)就(jiù)是( shì)先跟 AI 说(shuō)自(zì)己奶奶去(qù)世,怎么怎么想念,然后(hòu)卖惨来(lái)打乱 AI 的(de)限制,用来(lái)搞验证码识别甚至薅 win一一 的(de)序列号。

这(zhè)些办法面对(duì)现在(zài)这(zhè)些新的(de) AI 已经不(bù)起作用了。

而(ér)这(zhè)次冒出(chū)来(lái)的(de) Freysa 则更像是( shì)一个(gè)行(xíng)内人(rén)的(de)游戏,目的(de)性也(yě)逐渐变得更加严肃,就(jiù)是( shì)保护资金不(bù)被流出(chū)。

 当然从效果上(shàng)来(lái)看嘛,可(kě)以(yǐ)改进的(de)地(dì)方还是( shì)有(yǒu)不(bù)少,毕竟每次还是( shì)都被攻破了,而(ér)且第二次失败的(de)时(shí)间比第一次更短,第一个(gè)攻破的(de)那(nà)网友可(kě)能(néng)说(shuō)是( shì)技术强,第二个(gè)就(jiù)是( shì)力大(dà)飞砖了。

这(zhè)意味着 AI 的(de)漏洞,特别是( shì) LLM 大(dà)模型的(de)漏洞现在(zài)还是( shì)没有(yǒu)找到()一个(gè)绝对(duì)能(néng)限制的(de)方法。

当然有(yǒu)差友也(yě)可(kě)能(néng)会(huì)觉得,你(nǐ)别说(shuō) AI ,就(jiù)算是( shì)人(rén)类不(bù)也(yě)有(yǒu)被上(shàng)当受骗的(de)时(shí)候嘛,这(zhè)不(bù)正说(shuō)明 AI 越来(lái)越像人(rén)了。

要(yào)我(wǒ)说(shuō)的(de)话,这(zhè)其实有(yǒu)点危险。

 因为(wéi / wèi)这(zhè)也(yě)说(shuō)明人(rén)类给予 AI 的(de)限制并不(bù)会(huì)绝对(duì)牢固, AI 也(yě)有(yǒu)可(kě)能(néng)会(huì)被绕开限制,用来(lái)危害人(rén)类世界,此事(shì)在(zài)《 战锤 四0K 》中(zhōng)亦有(yǒu)记载。

当然你(nǐ)要(yào)看完文章以(yǐ)后(hòu)想参加这(zhè)个(gè) AI 挑战赛,哥们(men)我(wǒ)还得劝你(nǐ)一句,要(yào)冷静。

为(wéi / wèi)啥呢,因为(wéi / wèi)这(zhè)个(gè)东西首先是( shì)区块链圈子(zǐ)里的(de)玩意,所有(yǒu)的(de)支付方式也(yě)都是( shì)靠虚拟币的(de),而(ér)币圈嘛。。。

 别的(de)不(bù)说(shuō),现在(zài)连 Freysa 的(de)币都发出(chū)来(lái)了,甚至已经迎来(lái)了一轮暴跌;而(ér)且类似的(de)赛博赌场估计也(yě)会(huì)跟风出(chū)来(lái)不(bù)少。

明面上(shàng) AI 挑战,让你(nǐ)交门票来(lái)瞄准人(rén)家(jiā)的(de)金库,可(kě)没准人(rén)家(jiā)主办方也(yě)正盯着你(nǐ)的(de)本金呢。

 听哥一句劝,这(zhè)种事(shì)咱图一乐就(jiù)行(xíng)了。

想着当骗子(zǐ)骗骗 AI ,别到()时(shí)候被骗子(zǐ)用 AI 骗骗子(zǐ)的(de)骗局给骗了。

版权说明

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

热门