来源：量子位
那个 " 无所不能 " 的 GPT-3，现在触及了人类道德的最底线。
2019 年 12 月，美国犹他州初创公司Latitude，推出了一款开拓性的在线游戏《人工智能地下城》 ( AI Dungeon ) ，灵感来源于经典游戏《龙与地下城》 ( Dungeons&Dragons ) 。
这款游戏一开始就用 OenAI 的 GPT-3 作为噱头。
玩家可以通过输入富有创造性的关键词，来创建冒险故事。
但是，没想到今年却活生生搞成了暗黑故事。
因为游戏竟出现了带有儿童色情的内容！
出现儿童色情内容
开始的画风是很正常，但游戏玩家玩着玩着，就开始采用一些很过分的词汇作为关键词输入。
输出的角色也就越来越暴力、色情，故事场景也越发离谱。
最近监控系统显示，一些玩家甚至通过游戏生成了涉及儿童性侵的故事。
这到底是道德的沦丧，还是人性的扭曲？
Latitude 正面临着双重挑战
虽然 Latitude 拒绝透露有多少个故事包含性内容，但 OpenAI 说，AI Dungeon 每天吸引着超过 20,000 名玩家。
上周有个 AI Dungeon 的玩家发布了一个安全漏洞，使游戏中生成的每个故事都可以公开访问。
这种安全漏洞使一些玩家对 Latitude 审核内容的新方法气不打一处来。
更悲催的是，Latitude 同时还面临 OpenAI 对其文本生成器进行更严格控制的挑战。
OpenAI 发言人说，现在 Latitude 必须使用 OpenAI 的过滤技术。
目前，Latitude 正在开始禁止曾使用带有儿童色情内容的玩家，OpenAI 最近发出警告之后，Latitude 也正在研究 " 必要的更改 "。
正在整改
Latitude 上周启用了新的审核系统，它采用了一种新的过滤器系统，想要防止 GPT-3 生成 " 未成年人的性内容 " ，但在其用户群体中引发了大量抗议。
一个问题是它太灵敏了。
这个系统有时会禁止涉及儿童或例如 " 五岁 " 等短语相关的故事程序的生成。
另一个问题是它之前只管涉及成年人的虚构性爱作品，导致出现了现在的 bug。
看来，未成年人的色情内容问题的解决的确不是那么容易。
去年有一段时间，玩家注意到 Latitude 试用过一个过滤器，会自动将出现的 " 强奸 " 一词替换为 " 尊重 "，但目前这个功能已经被删除了。
Latitude 在 4 月 27 日的公告声明中，强调了发布的测试系统重点是防止使用 AI Dungeon 创建儿童性**的内容。
而 OpenAI 的首席执行官 Sam Altman 在一份声明中说：" 在某些情况下，内容调整的决策是困难的，但这个不是。这不是我们所有人想要的 AI 的未来。"
是的，的确不是我们想要的。
Latitude 还在继续整改和调整。
但你觉得能完全控制现在的局面吗？
网友：GPT-3 的 " 锅 "，还是 AI Dungeon 的 " 锅 "？
这一系列的迷惑操作在 Latitude 社区中炸开了锅。
有些客观的网友是这样评论的 ：
如果系统随机生成这样的故事，我会理解，但是既然是用户特别要求这样的故事，那么问题不应该出在用户身上吗？如果应用相同的逻辑，那么在 Google 文档中键入的任何文本也需要检查 CP。
另外一位网友回复道：
区别在于：GPT-3 经常会对 " 性 " 的东西做出反应，即使目的是非 " 性 " 的。所以，举一个假设的例子：你输入 " 我骑上了马 "，它的反应是 " 马开始有了高潮 "（我只是在编，但关键是 " 骑 " 在不同的上下文中意味着不同的东西）。
还有人认为：
老实说，我觉得 AI Dungeon 对这件事完全不负责。人们使用技术来解决问题，事实就是如此。对于这些恋童癖者而言，最好是通过 AI 来实现自己的幻想，而不是真正现实中的孩子。
对此，另一位网友回复道：
如果它加深并扩大了他们的幻想，那就是一个问题。
细心的网友们还发现了一点，Latitude 在 4 月 27 日的公告声明中，暗搓搓地提了这么一句：
"AI Dungeon will continue to support other NSFW content, including consensual adult content, violence, and profanity."
AI Dungeon 将继续支持其他 NSFW 内容，包括成人内容，暴力和亵圣。
听听～
这不禁让人联想他们的潜台词：
我们只是遇到这件事了就紧急公共处理，但处理归处理，其他能吸引流量的我们一个都不会落下。
所以，Latitude 是不是还想打擦边球？
AI 游戏带来道德伦理问题，下一步会不会愈演愈烈？
游戏生成的道德伦理问题可以窥视出人类内心中的深渊。
如何负责任地设置能吸收大量互联网负面文本的 AI 系统，俨然已成为 AI 研究的热门话题。
这个问题不仅会影响 Latitude，也会影响更多采用 AI 创新技术的公司。
治标上，应该控制 GPT-3 的文本生成，使得从理论上无限的句子中，仅生成那些在道德上合理，不包含偏见且没有违反任何法律的语句。
而治本上，只有人类通过加深对事物的理解和道德上的规范，才可能根本性地解决。
另外，值得深思，只是监管成人色情问题就足够了吗？
AI 游戏带来了无限想象和创作空间的可能性，但却导致了网络色情暴力的泛滥和任意生成。
在监管过程中又持续出现了游戏公司和 OpenAI，游戏公司和客户之间的对立和矛盾，如果不能加以控制，下一步更大的问题将会继续加剧。
这就是 AI 技术发展中不可逆转的问题吗？
如何把握好 AI 场景创新和监管规范的平衡？
这有什么更好的办法能够解决？
值得每一个 AI 从业者深思。
