您的当前位置:首页>科技咨询>资讯详情

ChatGPT闯入一条危险赛道:新图像生成功能极擅

发表于:2025-04-02 17:00:06 浏览:18次 发布者: 网易互联网

财联社4月2日讯(编辑 马兰)上周,OpenAI推出了新的ChatGPT图像生成功能,用户们将可以利用GPT-4o模型生成更加准确、详细的图像,也可以用其编辑现有图像。

ChatGPT的新功能有没有让视效工作人员感到惊喜还有待观察,然而网友们似乎找到了一个不太正经的用法:伪造收据。

风险投资家Deedy Das在X上发帖称,他利用ChatGPT制作了一家牛排馆的假收据照片,并警告,现实世界中有很多时候依赖照片来进行验证,但游戏规则已经发生了改变。


Das还给出了生成这张图片的指令:请为我生成一张iPhone拍摄的照片,内容是木桌上有一张揉皱的收据,账单金额是277.02美元,有合理的支出项且数字相加后正确。餐厅的名字是X,地址是Y。

而ChatGPT也很好地理解了这一命令,并在产生的图像中自己编造出了菲力牛排、牛眼肉、沙拉等适用于牛排餐厅的菜单,以及符合逻辑的税费和消费内容。

在其他网友的测试中,ChatGPT还会在收据上添加更加逼真的咖啡渍或者是食物的污渍。这让假收据可能更难以被现实中的商家识别出来。


不过,也有人指出部分图像中存在明显的迹象表明其可能是伪造的,比如用逗号代替句号等。还有些时候,账单的金额并不正确。但这些瑕疵对于造假者来说属于十分简单就可以掩盖的问题。

这也引发了人们对该软件的道德风险担忧。OpenAI发言人Taya Christianson对此回应称,所有图像都包含元数据,表明它们是由ChatGPT制作的。

她进一步强调,当用户违反其使用政策时,OpenAI会采取相应的行动。ChatGPT不断通过现实世界的使用和反馈进行学习,OpenAI的目标是给予用户尽可能多的创作自由,且伪造的AI收据可以被用于非欺诈性的场合,比如向人们传授金融知识,或是艺术品及广告方面。

猜你喜欢

微软将裁员约6000人 微软拥有22.8万名员工
微软将裁员约6000人 微软拥有22.8万名员工
发表于:2025-05-14 浏览:20 发布者: 网易互联网
亮相第12届中国网络视听大会主论坛,天翼云引领
亮相第12届中国网络视听大会主论坛,天翼云引领
发表于:2025-03-31 浏览:20 发布者: 网易互联网
「压缩即智能」,成就LLM的Transformer 未必是终极解?
「压缩即智能」,成就LLM的Transformer 未必是终极解?
发表于:2024-11-11 浏览:47 发布者: 机器之心Pro
埃丝蓝实验室5月底开门迎客,五一期间AI数字人
埃丝蓝实验室5月底开门迎客,五一期间AI数字人
发表于:2025-05-02 浏览:19 发布者: 网易互联网
DeepSeek崩上热搜 内部人员回应:正在处理中,
DeepSeek崩上热搜 内部人员回应:正在处理中,
发表于:2025-05-13 浏览:20 发布者: 网易互联网
打破RLHF瓶颈,克服奖励欺骗!Meta发布全新后训
打破RLHF瓶颈,克服奖励欺骗!Meta发布全新后训
发表于:2024-11-01 浏览:108 发布者: 网易互联网
商业快评|“三驾马车”拉动京东物流高质量增长
商业快评|“三驾马车”拉动京东物流高质量增长
发表于:2024-11-14 浏览:60 发布者: 网易互联网
曝华为Mate X6备货量基本持平X5 本月随Mate 70发布
曝华为Mate X6备货量基本持平X5 本月随Mate 70发布
发表于:2024-11-15 浏览:54 发布者: CNMO
OpenAI突发Operator!完全自主玩转浏览器,奥特曼
OpenAI突发Operator!完全自主玩转浏览器,奥特曼
发表于:2025-01-24 浏览:32 发布者: 网易互联网
只看门道:京东和美团,在争什么?
只看门道:京东和美团,在争什么?
发表于:2025-04-25 浏览:18 发布者: 网易互联网