雷火竞技首页

号称用 GPT-3 开发的游戏却活生生玩出了人性黑暗面

小编

  雷火竞技那个 无所不能 的 GPT-3,现在触及了人类道德的最底线 月,美国犹他州初创公司

  ,推出了一款开拓性的在线游戏《人工智能地下城》 ( AI Dungeon ) ,灵感来源于经典游戏《龙与地下城》 ( Dungeons&Dragons ) 。这款游戏一开始就用 OenAI 的 GPT-3 作为噱头。

  开始的画风是很正常,但游戏玩家玩着玩着,就开始采用一些很过分的词汇作为关键词输入。

  上周有个 AI Dungeon 的玩家发布了一个安全漏洞,使游戏中生成的每个故事都可以公开访问。

  这种安全漏洞使一些玩家对 Latitude 审核内容的新方法气不打一处来。

  更悲催的是,Latitude 同时还面临 OpenAI 对其文本生成器进行更严格控制的挑战。

  目前,Latitude 正在开始禁止曾使用带有儿童色情内容的玩家,OpenAI 最近发出警告之后,Latitude 也正在研究 必要的更改 。

  Latitude 上周启用了新的审核系统,它采用了一种新的过滤器系统,想要防止 GPT-3 生成 未成年人的性内容 ,但在其用户群体中引发了大量抗议。

  去年有一段时间,玩家注意到 Latitude 试用过一个过滤器,会自动将出现的 一词替换为 尊重 ,但目前这个功能已经被删除了。

  Latitude 在 4 月 27 日的公告声明中,强调了发布的测试系统重点是防止使用 AI Dungeon 创建儿童的内容。

  而 OpenAI 的首席执行官 Sam Altman 在一份声明中说: 在某些情况下,内容调整的决策是困难的,但这个不是。这不是我们所有人想要的 AI 的未来。

  如果系统随机生成这样的故事,我会理解,但是既然是用户特别要求这样的故事,那么问题不应该出在用户身上吗?如果应用相同的逻辑,那么在 Google 文档中键入的任何文本也需要检查 CP。

  区别在于:GPT-3 经常会对 性 的东西做出反应,即使目的是非 性 的。所以,举一个假设的例子:你输入 我骑上了马 ,它的反应是 马开始有了高潮 (我只是在编,但关键是 骑 在不同的上下文中意味着不同的东西)。

  老实说,我觉得 AI Dungeon 对这件事完全不负责。人们使用技术来解决问题,事实就是如此。对于这些恋童癖者而言,最好是通过 AI 来实现自己的幻想,而不是真正现实中的孩子。

  细心的网友们还发现了一点,Latitude 在 4 月 27 日的公告声明中,暗搓搓地提了这么一句:

  AI Dungeon 将继续支持其他 NSFW 内容,包括成人内容,暴力和亵圣。

  我们只是遇到这件事了就紧急公共处理,但处理归处理,其他能吸引流量的我们一个都不会落下。

  如何负责任地设置能吸收大量互联网负面文本的 AI 系统,俨然已成为 AI 研究的热门话题。

  这个问题不仅会影响 Latitude,也会影响更多采用 AI 创新技术的公司。

  治标上,应该控制 GPT-3 的文本生成,使得从理论上无限的句子中,仅生成那些在道德上合理,不包含偏见且没有违反任何法律的语句。

  而治本上,只有人类通过加深对事物的理解和道德上的规范,才可能根本性地解决。

  AI 游戏带来了无限想象和创作空间的可能性,但却导致了网络色情暴力的泛滥和任意生成。

  在监管过程中又持续出现了游戏公司和 OpenAI,游戏公司和客户之间的对立和矛盾,如果不能加以控制,下一步更大的问题将会继续加剧。

  免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

  在对互联网造车的一片争议声中,奇点汽车创始人沈海寅和团队研发制造了一年的量产纯电动车终于问世。这款名为iS6的SUV将于本周亮相上海车展。

  当我们正确对待新技术的颠覆意义,对待AI不过度妖魔化。同时不患上“时代的短视症”——急于、过度商业化,也许我们离“飞行汽车”(这里泛指一切吊炸天的科技)依然很遥远,但已经比任何一个时代要更近了...

  在生活中的很多时刻,我们都爱幻想,如果我不做眼前这些烦杂的工作,我会去干什么呢?你准备玩个昏天黑地,却发现一下子丢给你七天,却能过的无聊异常。最缤纷的生活永远在朋友圈里,或者,是我们曾经的幻...

  贫困是一件令人感到遗憾的东西,然而转发并不能让贫困的人得到解脱。都是好人,都有丰富的同情心,正义感,但是对贫困的理解是不同的,我是个嘴很毒辣的人,也眼睛揉不下沙子,我不喜欢那些不立足于解决问...

  上星期发生的杨改兰一门六口自杀案,发生在甘肃省康乐县,上个月告破的白银市连环杀人案,也是在甘肃。我这里不是要开地图炮,只是这两个惨案让我想起了一个甘肃籍的同学。在大学里某次寻常的宿舍夜谈时,...

  砍柴网(创立于2013年,始终秉承观点独到、全面深入、有料有趣的宗旨,在科技与人文之间寻找商业新价值。