Bitget App
交易“智”变
行情交易合约跟单BOT理财Web3
「AI投毒」防不胜防,还能用ChatGPT写代码吗?

「AI投毒」防不胜防,还能用ChatGPT写代码吗?

BlockBeatsBlockBeats2024/11/22 07:24
作者:BlockBeats

没有证据表明是刻意投毒给GPT,还是GPT主动采集

近日,一位用户在尝试为 pump.fun 开发一个自动顶贴机器人时,向 ChatGPT 寻求代码帮助,结果却意外遭遇了网络诈骗。这位用户按照 ChatGPT 提供的代码指引,访问了一个被推荐的 Solana API 网站。然而,这个网站实际上是一个诈骗平台,导致用户损失了约 2500 美元。


「AI投毒」防不胜防,还能用ChatGPT写代码吗? image 0


根据用户描述,该代码的一部分要求通过 API 提交私钥。由于操作繁忙,用户未加审查便使用了自己的主 Solana 钱包。事后回想,他意识到自己犯下了一个严重的错误,但在当时,对 OpenAI 的信任让他忽视了潜在的风险。


「AI投毒」防不胜防,还能用ChatGPT写代码吗? image 1


在使用该 API 后,诈骗者迅速展开行动,仅用 30 分钟就将用户钱包中的全部资产转移到了地址 FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX。起初,用户并未完全确认该网站存在问题,但在仔细检查该域名的首页后,发现了明显的可疑迹象。


「AI投毒」防不胜防,还能用ChatGPT写代码吗? image 2


目前,这位用户呼吁社区帮助屏蔽这个 @solana 网站,并将相关信息从 @OpenAI 平台中移除,以防更多人受害。他也希望能通过调查对方留下的线索,将诈骗者绳之以法。


Scam Sniffer 调查发现了恶意代码仓库,其目的是通过 AI 生成的代码窃取私钥。


• solanaapisdev/moonshot-trading-bot

• solanaapisdev/pumpfun-api


Github 用户「solanaapisdev」在过去 4 个月内创建了多个代码仓库,试图引导 AI 生成恶意代码。


「AI投毒」防不胜防,还能用ChatGPT写代码吗? image 3


这位用户私钥被盗的原因是其私钥在 HTTP 请求 body 里被直接发送给钓鱼网站。


「AI投毒」防不胜防,还能用ChatGPT写代码吗? image 4


慢雾创始人余弦发言表示「这些都是非常不安全的实践,各种投「毒」。不仅上传私钥,还帮用户在线生成私钥,给用户用。文档也是写得装模做样的。」


他还表示这些恶意代码网站联系方式很单一,官网没有内容,主要就是文档+代码仓库。「域名 9 月底注册的,不得不让人觉得是有预谋的投毒,但没有证据表明是刻意投毒给 GPT,还是 GPT 主动采集。」


Scam Sniffer 针对使用 AI 辅助代码创建的安全建议,包括:


• 切勿盲目使用 AI 生成的代码

• 始终仔细审查代码

• 将私钥保存在离线环境中

• 仅使用可信来源


原文链接

0

免责声明:文章中的所有内容仅代表作者的观点,与本平台无关。用户不应以本文作为投资决策的参考。

PoolX:锁仓获得新代币空投
不要错过热门新币,且APR 高达 10%+
立即参与!

你也可能喜欢

如何理解AI Agent掀开的新互联网时代序幕

拒绝接受变化的人可能被时代抛在身后

BlockBeats2024/12/23 02:55

AI Agents 框架标准是否要发币?

对于 Zerebro 这是一种开源引流和做大生态变现的商业化拓展方式,发不发新框架币或授权 MEME 币都有可能性。

Chaincatcher2024/12/23 00:40

Securitize提议将贝莱德的BUIDL代币作为Frax USD稳定币的支持

Securitize,作为BlackRock的BUIDL代币化货币市场基金的经纪商,已提交了一项治理提案,呼吁将BUIDL代币作为Frax即将重新推出的Frax USD稳定币的支持。Frax创始人Sam Kazemian告诉The Block,该稳定币将采用一种新颖的铸造-赎回系统,并可能由Superstate管理的代币化基金中的资产支持。尽管尚未进行投票,但Frax DAO成员对该提案的早期反馈是一致的。

The Block2024/12/23 00:23

特朗普任命前大学橄榄球运动员、共和党众议院候选人博·海因斯领导加密货币委员会

快速摘要 当选总统唐纳德·特朗普宣布,前大学橄榄球运动员博·海因斯将担任其“加密委员会”的执行主任,领导总统数字资产顾问委员会。特朗普写道:“在他的新角色中,博将与大卫[萨克斯]合作,促进数字资产领域的创新和增长,同时确保行业领导者拥有成功所需的资源。”特朗普还早些时候任命了斯蒂芬

The Block2024/12/23 00:23