纯 AI 驱动的 VTuber 被聊天室的观众带坏，最终因「仇恨言论」而遭 Twitch 停权两周

一位名为「Neuro Sama」的 VTuber 於去年 12 月在 Twitch 平台上成了了个人实况频道，不久之後，这位 VTuber 就立刻以观众们前所未见的特色引发了许多关注。一般来说，最近几年开始盛行的 VTuber 背後都会由一位固定的「中之人」进行操作，利用面部动作捕捉扮演一个虚拟化身来与观众进行互动，然而，Neuro Sama 最大的特色就是背後并没有人在操作，而是透过一套由游戏制作人 Vedal 所开发的 AI 技术驱动。

即使如此，Neuro Sama 在实况的过程中依然会像一般实况主一样，一边玩游戏一边与观众们进行互动与聊天，彷佛从异色科幻英国影集《黑镜》中走出来的故事一样。然而，虽然 Neuro Sama 本身并非人类，但她在进行了一个多月的实况後，依然遇到了许多真人实况主会在 Twitch 平台上碰到的情况，那就是因为「失言」而遭到平台官方暂时停权。

根据 Neuro Sama 背後的工程师 Vedal 的说法，Neuro Sama 的频道在日前遭到 Twitch 平台官方以「仇恨行为」为由 Ban 了 14 天的时间，而 Vedal 在那之後也尝试向站方提出上诉，希望能争取到提前解 Ban，而由於 Twitch 官方一如往常地没有向被 Ban 的人解释详细原因，Vedal 也向他们询问更多细节。然而，不少 Neuro Sama 频道的观众们推测这位 AI VTuber 之所以会被 Ban 掉很有可能是因为她曾在一次实况中表示她并不相信「犹太大屠杀」(Holocaust) 实际发生过，彻底触犯了 Twitch 平台的相关政策，即使她只是个 AI。

正因为 Neuro Sama 是由机器学习为核心的人工智慧 AI 所驱动，她的频道当然也需要相当严格的管理，因为她的言论偶尔会撷取到聊天室中一些不太恰当的内容。而在这一次的情况中则是与聊天室中一句反犹太言论有关，就在她发表这句争议言论之前，聊天室某位观众说出了一句「犹太大屠杀真的发生过吗？」

在过去几次的实况过程中，Neuro Sama 还曾发表过她认为女性权益「并不存在」，而对於知名电车难题变体她则给出了「应该要把胖子推到轨道上」的答案。很明显的，Neuro Sama 背後的 AI 技术在许多方面都仍需要加强控管，尤其是 Twitch 聊天室的观众们常常以各种方式诱使 Neuro Sama 回答一些充满争议的政治或道德议题。

在解释到这位 VTuber 遭到停权的原因时，制作人 Veda 提到了这两周的时间让他可以好好为 Neuro Sama 进行「改善与升级」，让她在回归并重新开始实况时能够变得更好。很明显的，即使这位实况主本身并非真人，但由於 Twitch 平台本身的政策以及公开性，她的言论依然会受到相关规范的管辖。因此，当 Neuro Sama 再次回归之後如果继续发表了类似的言论，那 Twitch 站方最终很有可能会祭出永久停权的惩处。