黑棋白棋会招来封号危机？

原址：https://gigazine.net/news/20210222-youtube-ai-chess-racism/

原题：YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い

摘自：Gigazine

图片：YouTube、Wired

作者：找借口安静 YouTube的up主也太难了

拥有100万以上的关注，在国际象棋关联的频道中可以说是全球最大级的YouTube频道，却在2020年6月突然因为“上传了有害以及危险的内容”为由对该频道进行了封锁。卡内基梅隆大学的计算机科学家对这个事件进行调查后表示：“人工智能可能把国际象棋的‘黑’、‘白’等语言，作为种族歧视的语言进行了处理”。认为这个封号事件有可能是因此而导致的。

AI May Mistake Chess Discussions as Racist Talk | Carnegie Mellon School of Computer Science https://www.cs.cmu.edu/news/ai-may-mistake-chess-discussions-racist-talk

AI mistakes ‘black and white’ chess chat for racism | The Independenthttps://www.independent.co.uk/life-style/gadgets-and-tech/ai-chess-racism-youtube-agadmator-b1804160.html

agadmator频道的安东尼奥·拉蒂奇（Antonio Radić），运用着一个解说国际象棋的YouTube频道，并且拥有100万以上的关注。但是在2020年6月28日，拉蒂奇的YouTube频道上传了中村光第5次夺得大师赛冠军的棋谱解说后，该YouTube频道却遭到了封号。

而这个账号在24小时之后恢复运用。拉蒂奇表示：“这个视频当中只对国际象棋的局面进行了解说，或许国际象棋中提到的‘白’棋和‘黑’棋，使得这个账号遭到了封号的情况”。而拉蒂奇在这段期间里，并没有对YouTube频道遭到短暂封号一事进行说明。

对此，卡内基梅隆大学语言技术研究所的学者Ashique KhudaBukhsh以及他的团队，使用了掌握了可以自动选取不良评论的AI，对该国际象棋人气频道中的5个视频共68万条留言进行了筛选。

研究团队随机抽取了其中1000条不良评论，其中有82%的评论其实并没有恶意的内容。并且被误认为不良评论的内容中，不乏有“白棋（White）”、“黑棋（Black）”、“攻击（Attack）”、“威胁（Threat）”等，在国际象棋界里面常用的词语。

KhudaBukhsh表示，从人工智能的判断来看，这正是人工智能出现误判的原因。比如说，人工智能在识别“懒惰的狗”和“活泼的狗”的时候，因为活泼的狗很多都是在广阔的草原上进行拍摄的，所以AI就会把有大量绿色草坪的图片判断成“这是活泼的狗的图片”，而这种情况其实屡见不鲜。

“在YouTube上使用的AI，在它的数据库当中因为基本上没有关于国际象棋的词语，所以人工智能会出现这样的误解”KhudaBukhsh还表示，“因为人工智能只知道这是种族歧视的语言，所以就很有可能会发生这样的事情”。