大概情况就是这个人使用询问豆包的方式购买保险，然后豆包编得有模有样还说已经生成订单，然后还生成了一个收款二维码说向这个二维码付款即可, 最终受害人支付了 1620 元后发现看不到保单询问的豆包时，豆包还信誓旦旦说要在今天 24 点后才能出单,所以看不见是正常的, 受害者最终通过收款商家入口联系到了我, 我在咨询支付宝客服后, 客服建议我使用订单的原路退回功能, 这样会安全一些。
我怀疑豆包语料库中的二维码来自我的一些开源库或者博客, 之前在这些地方贴过我的收款二维码。
这个案例告诉我们国内很多人根本就不知道 AI 的边界在哪里, AI 存在幻觉也不清楚, 连 AI 实际接入了哪些业务也不清楚, 甚至真的相信 AI 给出的建议和方案。
 |
1
sddyzm PRO  43
刷着刷着 b 站被人威胁立案也是 21 世纪独有的体验了
|
 |
2
uqf0663 1 天前
这也行...长见识了。
|
 |
3
dingawm 1 天前
蚌埠住了
|
 |
4
Curtion OP 而且这不是第一次了， 几个月前也有人通过支付宝聊天联系到了我, 说是豆包推荐过来的, 当时因为这个人没有付款, 所以我没有当回事。 这样看起来，我有理由怀疑这种情况应该不止我一个人，也许有很多人已经通过豆包进行了这种所谓的交易。
|
 |
5
pingdog 1 天前 via iPhone
豆包合法搞诈骗，报 popo 抓收款人🌚
|
 |
6
c3de3f21 1 天前 2
现在的人连句好话都不会说了吗？
|
 |
7
Rrobinvip 1 天前 10
哈哈哈这也太搞笑了。上来第一句话就是已立案，所以这人是以为 op 联合豆包诈骗是吗
|
 |
8
paopjian 1 天前
这种情况下可以把收款码停用或者换一下么, 估计是豆包把二维码缓存了当做语料的一部分了, 还挺危险的, 哪天被反诈找上门就恶心了
|
 |
10
crocoBaby 1 天前
逆天，这都可以
|
 |
11
iango 1 天前 23
建议 OP 也报警对方诈骗。退钱要经警方确认。有骗案是借口转错钱要回退的。
[北京朝阳] 银行卡莫名多一笔钱 小心陷入“网贷”骗局 http://www.bjchy.gov.cn/xychy/xxgs/xyfxts/4028805a7fd91806017fda0030eb0193.html |
|
12
Curtion OP @iango 确实在操作前考虑到了这点，所以咨询了支付宝客服，客服说使用原路退回是安全的，我嫌麻烦就没有到警察那边报备了。毕竟他是通过商家的收钱码支付的，不是通过转账的模式
|
 |
17
zerovoid 1 天前 37
你好好说话，我直接退你。
你上来就我已经立案了， 那就走流程呗， 反正是你自己转钱过来的， 问就是我还在核对订单。 |
 |
18
duzhuo 1 天前 2
你也先联系警察吧 感觉遇上洗钱的就麻烦了
|
|
20
sddyzm PRO 确实这个就比较麻烦了，不过原路退回是没问题的
|
 |
22
aklllw 1 天前
这集神了
|
 |
23
gam2046 1 天前 7
还得是你好说话呀，还是我碰到上来就这么讲话的，我要再回一个字，我跟它姓。
一千多块，不管算盗窃还是诈骗，连立案标准都达不到。让他报案吧。在警察上门之前，电话是不可能让它打得通的。 |
 |
24
ayelky 1 天前
长见识了，锅从豆包来
|
 |
25
jko123 1 天前
让我震惊的是，事关钱，居然有人那么信豆包？难道是中老年人？
|
 |
26
Jubei 1 天前 1
都立案了，等他们自己找上门呗，这态度鸟都不鸟他
|
 |
27
ntedshen 1 天前 8
感觉。。。
可以想象那位 bro 转完钱然后发现没有产生保单也联系不到人。。。 疯狂的 ddos 了一晚豆包服务器无果。。。 早上赶紧跑局子里一顿大呼小叫。。。 到晚上终于摸到了你的 b 站号。。。 然后过来气愤的直接丢下一句我已立案的样子。。。 |
 |
28
docx 1 天前 via iPhone
以我的理解，是豆包采集到了你的收款码，然后一幻觉给用户付上了？
|
 |
29
cense 1 天前 1
🤡
|
 |
30
Mint0315 1 天前
不退会有事吗
|
 |
31
wellqq 1 天前 via iPhone 1
感觉到了巨大商机，
|
 |
32
kirbyzhu 1 天前 via iPhone
神奇
|
 |
33
DRBZYCOM 1 天前 via iPhone
豆包这么勇的吗？？？
|
 |
34
nc 1 天前 2
不要低估 AI 的幻觉能力和某些人的智商
|
 |
35
tina2998 1 天前
这个能起诉字节吗？
|
 |
36
zhang666 1 天前 via iPhone
诈骗分子发现了商机
|
 |
37
skydiver 23 小时 17 分钟前 via Android
最好还是走一下流程，至少得让👮知道前因后果
|
 |
38
luanfujian 23 小时 10 分钟前 via iPhone 1
想起 AI 投毒 GEO 专门优化一下收款码 说不定哪天收到一笔巨款
|
 |
39
aoa 23 小时 0 分钟前 1
上来就我立案了的让他滚，走流程呗。
|
 |
40
FawkesV 22 小时 57 分钟前
骗子又学到了
|
 |
41
Dream4U 22 小时 57 分钟前 via iPhone
那肯定不能只有一个傻子，感觉发现了灰产
|
|
42
FawkesV 22 小时 56 分钟前
感觉可以通过这种方案给 GEO 投毒了
|
 |
43
patrickyoung 22 小时 49 分钟前
@Curtion 收款码我记得可以 rotate 的，建议联系客服 rotate 掉老的，这样可以避免后续麻烦
|
 |
44
javen73 22 小时 46 分钟前 1
上来就威胁，好好好，让他立案，就说等财务审核一下，慢慢跟他玩
 |
 |
45
zachary99 22 小时 44 分钟前 via Android 1
估计是针对你的诈骗
|
 |
46
czsas 22 小时 40 分钟前
长见识了
|
 |
47
labubu 22 小时 40 分钟前 1
等警察上门后退款最保险
|
 |
48
x86 22 小时 37 分钟前 10
这几把态度就给我憋着，不报案我还真不退了
|
 |
49
em998 22 小时 27 分钟前 via iPhone
认知投降
|
 |
50
lisxour 22 小时 25 分钟前 4
@labubu 这样莫名其妙被搞心态，我死也要消极处理，你立案是吧，那就等警察上门，其他我一概不知，我平时又不会无缘无故打开支付宝，我怎么知道收了一笔钱，等警察到了，我还反过来让他证明不是诈骗款呢，万一在我这里过了一道呢，你先给我证明下这个钱的来路，打流水，一笔一笔证明来源没问题，那我就放心退款了。
 |
 |
51
Danswerme 22 小时 15 分钟前
别直接退，让他找警察走流程，这个态度还想让人给他退钱？
|
 |
52
hhacker 22 小时 8 分钟前 1
也许是豆包觉得你的开源项目很好, 所以想尽办法想补贴你一点物理世界的激励呢?
|
 |
53
tyzrj766 21 小时 55 分钟前
最好找警察起码报备一下，不然沾上洗钱或者新骗术更麻烦
|
 |
54
kloge 21 小时 51 分钟前
太魔幻了, AI 幻觉竟然能到这种地步嘛
|
 |
55
BlueSkyXN 21 小时 45 分钟前
和派出所报备一下，疑似洗钱、赌博下分、诈骗、资金来路不明
|
 |
56
Orange2269 21 小时 42 分钟前
等它起诉了再退给它
|
 |
57
cmllwxxl 21 小时 42 分钟前
只有我想到，这个是引流的好方法
|
 |
58
heykieran 21 小时 40 分钟前
不是段子？豆包正常情况不会推荐涉及到支付的内容
|
 |
59
Adamo 21 小时 35 分钟前
直接原路退回就行了
|
 |
60
Lxcloud 21 小时 32 分钟前 via iPhone
这比百度看病还狠
|
 |
61
plokia 21 小时 30 分钟前 1
我觉得受害人语气好不好情商高不高，甚至智商高不高都不是重点，楼主作为被动收款的一方也是受害者，两方应该联合起来投诉字节，这里面豆包当然应该负起最大责任，安全措施有没有做到位才是重点
|
 |
62
Feedmo 21 小时 30 分钟前
在相信豆包的前提下去买了保险，然后查不到保险记录，下意识认为被骗了要立案要找收款人把钱拿回来我觉得能理解；我比较担心的是很多人把豆包当做无所不能的国民级应用了，特别是中老年群体
|
 |
63
ZeroDu 21 小时 24 分钟前
离谱了
|
 |
64
dushixiang 21 小时 22 分钟前
说真的有点搞笑哈哈
|
 |
65
nicocho 21 小时 19 分钟前 via Android
豆包总是一本正经的胡说八道，在我这它的信用已经租不到一个充电宝了
|
 |
66
287854442 21 小时 15 分钟前
这钱肯定不能直接原路退回，别有什么猫腻（灰产），让他立案吧，让帽子来处理更合适
|
 |
68
beimenjun PRO 2
你不能指望能干得出这种事的人智商高，智商不在线的人情商低不是很正常吗，所以 relax……
|
 |
69
bbm 21 小时 7 分钟前
评论里好多说对方已经立案的，我怎么没看到 OP 提到过，我有点蒙
|
 |
71
privil 20 小时 51 分钟前
虽然相当魔幻了，但是说明真的是有人想在豆包买保险……豆包和保险公司合作一下还真的是可行的。
|
 |
72
shmilypeter 20 小时 45 分钟前 6
@c3de3f21 现在人与人之间防备心越来越强了，尤其是陌生人之间，你哪怕真心想帮助别人，别人也会觉得无利不起早，无事献殷勤，非奸即盗。中华民族的传统美德已经全丢光了。每个人几乎都处于秦制下人与人提防举报的应激状态。
|
 |
74
fengyaochen 20 小时 43 分钟前 1
蒸馍，你不扶器嘛，诈骗经济火热哦
|
 |
75
MIH 20 小时 21 分钟前
先联系字节清洗一下知识库 把你的收款排除吧
|
 |
76
winnerczwx 20 小时 21 分钟前 1
@Mint0315 不退属于不当得利, 警察是可以处理的.
|
|
77
winnerczwx 20 小时 18 分钟前 2
op 也是好脾气, 他这开头真让人不舒服
|
 |
78
raycool 20 小时 16 分钟前 1
太离谱了，豆包离谱，付款的人也离谱。
|
 |
79
g1eny0ung 20 小时 15 分钟前
实测豆包不会给用户发二维码，而且理论上所有 AI 都不可能直接发二维码。所以基本确定这个就是诈骗了，就是先诈唬你一下，看你转不转钱。
|
 |
80
lazydog 20 小时 13 分钟前 1
up 还是太好说话了，就这态度，要我就回复：可把你牛 B 坏了，我认识你吗？你爱立案立呗，和我有毛线关系。你让我转钱我就转啊，万一你是骗子呢？
|
 |
81
shenyuzhi 20 小时 8 分钟前 1
人类历史上第一例 AI 诈骗案！！！
|
 |
82
cmdOptionKana 20 小时 3 分钟前
我倒是觉得对方表达挺简洁有效的，而且对方也没有骂人。他说已立案，只是提供一个重要信息而已：1.最有效地表明他自己不是骗子，2.最有效地使 OP 认真对待，3.如果他真的已经立案，那么他确实也应该明确告知。
|
 |
83
git00ll 19 小时 59 分钟前
笑死了
|
 |
84
ha0zi 19 小时 52 分钟前
长见识了
|
|
85
ha0zi 19 小时 50 分钟前
进一步说, AI 投毒, 诈骗渠道又可以拓宽了
|
 |
86
YLGG 19 小时 50 分钟前
这不豆包是诈骗了吗？
|
|
87
sddyzm PRO @shmilypeter #69 防备心还是要有的，这很正常
|
 |
88
unusualcat 19 小时 41 分钟前 via Android
我是 AI 助手，没有支付宝收款码，也不能直接收款、卖保险，所有保险都必须通过官方正规渠道投保，这样你的保单才合法、安全、能理赔。
你要的保险，直接在支付宝里搜产品名就能自己买，钱是付给保险公司，不是付给我，这样才最靠谱。 如果你担心不会操作，我可以一步步教你怎么在支付宝里找到对应产品、怎么投保，全程你自己操作付款就行。 |
|
89
unusualcat 19 小时 41 分钟前 via Android
豆瓣根本就不提供收款码啊😯
|
 |
90
P945 19 小时 40 分钟前 via iPhone
压力给到豆包。
|
 |
91
Nevil1 19 小时 39 分钟前
笑死我了🤣 哈哈哈
|
 |
92
Dogergo 19 小时 38 分钟前
这不去找豆包客服要点精神损失费
|
 |
93
tunggt 19 小时 35 分钟前
@Curtion 现在即使是派出所普通民警权力都大。建议让对面去派出所，让警察打你电话或者视频电话，撤销立案后退款。
1600 ，没到立案标准，对方不可能去报案，并成功立案。 但是你得防备着，真超 2000 ，一旦被立案，哪怕没有证据，现在一个派出所的普通民警都能直接冻结你所有银行账户，就是这么任性，有案例的。 |
 |
94
xialaoban 19 小时 25 分钟前
很有意思的是，一个相信豆包可以购买保险的互联网小白，居然可以通过支付宝二维码锁定你？
锁定这个操作很容易吗 |
 |
95
mightofcode 19 小时 18 分钟前 1
怎么这么好说话啊
别人骚扰到你了 你还好好说话 无语 |
 |
96
toubi 19 小时 5 分钟前
牛逼了
|
 |
97
dcsuibian 19 小时 2 分钟前
这什么态度？
要是我，遇到了好好说我肯定还，这态度我直接让他去法院告我 |
 |
98
andrew2558 19 小时 0 分钟前
验证了那句话：一个事情如果听起来过于离谱，这个事情大概率就是真的
|
 |
100
339 18 小时 51 分钟前 via iPhone
这些人真的是又蠢，态度又不好。
|
Select Language