号称用 GPT-3 开发的游戏,却活生生玩出了人性黑暗面

有态度
2021
05/11
15:23
量子位
分享
评论

来源:量子位

那个 " 无所不能 " 的 GPT-3,现在触及了人类道德的最底线。

2019 年 12 月,美国犹他州初创公司Latitude,推出了一款开拓性的在线游戏《人工智能地下城》 ( AI Dungeon ) ,灵感来源于经典游戏《龙与地下城》 ( Dungeons&Dragons ) 。

这款游戏一开始就用 OenAI 的 GPT-3 作为噱头。

玩家可以通过输入富有创造性的关键词,来创建冒险故事。

但是,没想到今年却活生生搞成了暗黑故事。

因为游戏竟出现了带有儿童色情的内容!

出现儿童色情内容

开始的画风是很正常,但游戏玩家玩着玩着,就开始采用一些很过分的词汇作为关键词输入。

输出的角色也就越来越暴力、色情,故事场景也越发离谱。

最近监控系统显示,一些玩家甚至通过游戏生成了涉及儿童性侵的故事。

这到底是道德的沦丧,还是人性的扭曲?

Latitude 正面临着双重挑战

虽然 Latitude 拒绝透露有多少个故事包含性内容,但 OpenAI 说,AI Dungeon 每天吸引着超过 20,000 名玩家。

上周有个 AI Dungeon 的玩家发布了一个安全漏洞,使游戏中生成的每个故事都可以公开访问。

这种安全漏洞使一些玩家对 Latitude 审核内容的新方法气不打一处来。

更悲催的是,Latitude 同时还面临 OpenAI 对其文本生成器进行更严格控制的挑战。

OpenAI 发言人说,现在 Latitude 必须使用 OpenAI 的过滤技术。

目前,Latitude 正在开始禁止曾使用带有儿童色情内容的玩家,OpenAI 最近发出警告之后,Latitude 也正在研究 " 必要的更改 "。

正在整改

Latitude 上周启用了新的审核系统,它采用了一种新的过滤器系统,想要防止 GPT-3 生成 " 未成年人的性内容 " ,但在其用户群体中引发了大量抗议。

一个问题是它太灵敏了。

这个系统有时会禁止涉及儿童或例如 " 五岁 " 等短语相关的故事程序的生成。

另一个问题是它之前只管涉及成年人的虚构性爱作品,导致出现了现在的 bug。

看来,未成年人的色情内容问题的解决的确不是那么容易。

去年有一段时间,玩家注意到 Latitude 试用过一个过滤器,会自动将出现的 " 强奸 " 一词替换为 " 尊重 ",但目前这个功能已经被删除了。

Latitude 在 4 月 27 日的公告声明中,强调了发布的测试系统重点是防止使用 AI Dungeon 创建儿童性虐待的内容。

而 OpenAI 的首席执行官 Sam Altman 在一份声明中说:" 在某些情况下,内容调整的决策是困难的,但这个不是。这不是我们所有人想要的 AI 的未来。"

是的,的确不是我们想要的。

Latitude 还在继续整改和调整。

但你觉得能完全控制现在的局面吗?

网友:GPT-3 的 " 锅 ",还是 AI Dungeon 的 " 锅 "?

这一系列的迷惑操作在 Latitude 社区中炸开了锅。

有些客观的网友是这样评论的 :

如果系统随机生成这样的故事,我会理解,但是既然是用户特别要求这样的故事,那么问题不应该出在用户身上吗?如果应用相同的逻辑,那么在 Google 文档中键入的任何文本也需要检查 CP。

另外一位网友回复道:

区别在于:GPT-3 经常会对 " 性 " 的东西做出反应,即使目的是非 " 性 " 的。所以,举一个假设的例子:你输入 " 我骑上了马 ",它的反应是 " 马开始有了高潮 "(我只是在编,但关键是 " 骑 " 在不同的上下文中意味着不同的东西)。

还有人认为:

老实说,我觉得 AI Dungeon 对这件事完全不负责。人们使用技术来解决问题,事实就是如此。对于这些恋童癖者而言,最好是通过 AI 来实现自己的幻想,而不是真正现实中的孩子。

对此,另一位网友回复道:

如果它加深并扩大了他们的幻想,那就是一个问题。

细心的网友们还发现了一点,Latitude 在 4 月 27 日的公告声明中,暗搓搓地提了这么一句:

"AI Dungeon will continue to support other NSFW content, including consensual adult content, violence, and profanity."

AI Dungeon 将继续支持其他 NSFW 内容,包括成人内容,暴力和亵圣。

听听~

这不禁让人联想他们的潜台词:

我们只是遇到这件事了就紧急公共处理,但处理归处理,其他能吸引流量的我们一个都不会落下。

所以,Latitude 是不是还想打擦边球?

AI 游戏带来道德伦理问题,下一步会不会愈演愈烈?

游戏生成的道德伦理问题可以窥视出人类内心中的深渊。

如何负责任地设置能吸收大量互联网负面文本的 AI 系统,俨然已成为 AI 研究的热门话题。

这个问题不仅会影响 Latitude,也会影响更多采用 AI 创新技术的公司。

治标上,应该控制 GPT-3 的文本生成,使得从理论上无限的句子中,仅生成那些在道德上合理,不包含偏见且没有违反任何法律的语句。

而治本上,只有人类通过加深对事物的理解和道德上的规范,才可能根本性地解决。

另外,值得深思,只是监管成人色情问题就足够了吗?

AI 游戏带来了无限想象和创作空间的可能性,但却导致了网络色情暴力的泛滥和任意生成。

在监管过程中又持续出现了游戏公司和 OpenAI,游戏公司和客户之间的对立和矛盾,如果不能加以控制,下一步更大的问题将会继续加剧。

这就是 AI 技术发展中不可逆转的问题吗?

如何把握好 AI 场景创新和监管规范的平衡?

这有什么更好的办法能够解决?

值得每一个 AI 从业者深思。

THE END
广告、内容合作请点击这里 寻求合作
观点
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

在对互联网造车的一片争议声中,奇点汽车创始人沈海寅和团队研发制造了一年的量产纯电动车终于问世。这款名为iS6的SUV将于本周亮相上海车展。
创投
当我们正确对待新技术的颠覆意义,对待AI不过度妖魔化。同时不患上“时代的短视症”——急于、过度商业化,也许我们离“飞行汽车”(这里泛指一切吊炸天的科技)依然很遥远,但已经比任何一个时代要更近了...
科技专栏
在生活中的很多时刻,我们都爱幻想,如果我不做眼前这些烦杂的工作,我会去干什么呢?你准备玩个昏天黑地,却发现一下子丢给你七天,却能过的无聊异常。最缤纷的生活永远在朋友圈里,或者,是我们曾经的幻...
态度
贫困是一件令人感到遗憾的东西,然而转发并不能让贫困的人得到解脱。都是好人,都有丰富的同情心,正义感,但是对贫困的理解是不同的,我是个嘴很毒辣的人,也眼睛揉不下沙子,我不喜欢那些不立足于解决问...
态度
上星期发生的杨改兰一门六口自杀案,发生在甘肃省康乐县,上个月告破的白银市连环杀人案,也是在甘肃。我这里不是要开地图炮,只是这两个惨案让我想起了一个甘肃籍的同学。在大学里某次寻常的宿舍夜谈时,...
态度

相关推荐

1
3