纯 AI 驱动的 VTuber 被聊天室的观众带坏,最终因「仇恨言论」而遭 Twitch 停权两周

一位名为「Neuro Sama」的 VTuber 於去年 12 月在 Twitch 平台上成了了个人实况频道,不久之後,这位 VTuber 就立刻以观众们前所未见的特色引发了许多关注。一般来说,最近几年开始盛行的 VTuber 背後都会由一位固定的「中之人」进行操作,利用面部动作捕捉扮演一个虚拟化身来与观众进行互动,然而,Neuro Sama 最大的特色就是背後并没有人在操作,而是透过一套由游戏制作人 Vedal 所开发的 AI 技术驱动。

即使如此,Neuro Sama 在实况的过程中依然会像一般实况主一样,一边玩游戏一边与观众们进行互动与聊天,彷佛从异色科幻英国影集《黑镜》中走出来的故事一样。然而,虽然 Neuro Sama 本身并非人类,但她在进行了一个多月的实况後,依然遇到了许多真人实况主会在 Twitch 平台上碰到的情况,那就是因为「失言」而遭到平台官方暂时停权。

根据 Neuro Sama 背後的工程师 Vedal 的说法,Neuro Sama 的频道在日前遭到 Twitch 平台官方以「仇恨行为」为由 Ban 了 14 天的时间,而 Vedal 在那之後也尝试向站方提出上诉,希望能争取到提前解 Ban,而由於 Twitch 官方一如往常地没有向被 Ban 的人解释详细原因,Vedal 也向他们询问更多细节。然而,不少 Neuro Sama 频道的观众们推测这位 AI VTuber 之所以会被 Ban 掉很有可能是因为她曾在一次实况中表示她并不相信「犹太大屠杀」(Holocaust) 实际发生过,彻底触犯了 Twitch 平台的相关政策,即使她只是个 AI。

正因为 Neuro Sama 是由机器学习为核心的人工智慧 AI 所驱动,她的频道当然也需要相当严格的管理,因为她的言论偶尔会撷取到聊天室中一些不太恰当的内容。而在这一次的情况中则是与聊天室中一句反犹太言论有关,就在她发表这句争议言论之前,聊天室某位观众说出了一句「犹太大屠杀真的发生过吗?」

在过去几次的实况过程中,Neuro Sama 还曾发表过她认为女性权益「并不存在」,而对於知名电车难题变体她则给出了「应该要把胖子推到轨道上」的答案。很明显的,Neuro Sama 背後的 AI 技术在许多方面都仍需要加强控管,尤其是 Twitch 聊天室的观众们常常以各种方式诱使 Neuro Sama 回答一些充满争议的政治或道德议题。

在解释到这位 VTuber 遭到停权的原因时,制作人 Veda 提到了这两周的时间让他可以好好为 Neuro Sama 进行「改善与升级」,让她在回归并重新开始实况时能够变得更好。很明显的,即使这位实况主本身并非真人,但由於 Twitch 平台本身的政策以及公开性,她的言论依然会受到相关规范的管辖。因此,当 Neuro Sama 再次回归之後如果继续发表了类似的言论,那 Twitch 站方最终很有可能会祭出永久停权的惩处。

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x