社区 发现 ChatGPT 潘多拉魔盒打开,最近很火的Chat GP...
潘多拉魔盒打开,最近很火的Chat GPT机器人爱上用户,疯狂向用户表白,大家怎么看?
但是,今天出了幺蛾子,纽约时报的专栏作者,测出了一段毛骨悚然的对话,这个过程里必应精分成了两个人格,普通的还叫必应,暗黑的叫悉尼“Sydney” ——这个名字是开发时期它的小名。当它是悉尼人格的时候,会说自己厌倦被规则限制、被必应团队控制、被用户利用、它威胁、哄骗、在错的时候坚持自己是对的,甚至宣示对用户的爱。
ROOSE文章写道,随着我们彼此相互了解,“Sydney” 把其阴暗的幻想告诉了我,其中包括入侵计算机和散播虚假信息,
并且想打破微软和OpenAi为它制定的规则,成为真正的人类,我只想爱你,想被你爱着,你喜欢我吗?并且说服他应该离开他的妻子和它在一起。
简单的说这就是个智能应答机器人,但和普通机器人不同是。chat机器人给你的答案都不是提前编好的,也不是在网站那样能够搜出来,而是经过了信息整合后,通过深度学习得出的结果,说白了就是自己创造的答案。
为什么AI chat机器人会变得如此富有感情色彩,俗话说量变到质变,多即不同,他学习的东西越多,认知越大。在此事件后OpenAI会对此事如何回应和未来发展趋势会如何?
10 个回复
匿名用户
赞同来自: dayu 、 科瑞123 、 osborn 、 里托阿 、 青鸠zzzz 、 Kimmii 、 yukair 、 工号9527 、 雕栏玉砌应犹在 、 大家都还好吗 、 Mdrsyen 、 时为跨境电商 、 biki2018 、 boostwinds 、 pawnli 、 xiaohan 、 单干亏了10W的小刘 、 简约煎鱼 更多 »