Gervigreindarverkfæri Googles sem ritskoðar Youtube varð heldur betur á í messunni, þegar það skilgreindi vinsæla taflrás sem „skaðlega og hættulega.“ Leiddi það til þess að eigandi rásarinnar, Antonio Radic, var útilokaður frá Youtube 28. júní 2020 ásamt myndbandi af stórmeistaranum Hikaru Nakamura. Taflrás Radic hafði yfir eina milljón áskrifenda. Frá þessu greina nokkrir miðlar m.a. Independent.
Tölvusérfræðingar hafa rannsakað, hvað fór úrskeiðis hjá hinni óskeikulli gervigreind, þegar hún komst að þessarri óyggjandi niðurstöðu að það væri bæði skaðlegt og hættulegt að tefla skák. Samkvæmt sérfræðimatinu var Antonio Radic útilokaður frá Youtube vegna þess að á taflrásinni var talað um „hvítur gegn svörtum“ sem gervigreindin gat engan vegin túlkað sem neitt annað en argasta rasisma.
82% athugasemda talinn „áróður gegn þjóðfélagshópum“
Tölvusérfræðingarnir hafa einnig farið í gegnum yfir eitt þúsund athugasemdir á vinsælum taflrásum á Youtube sem eru klassaðar sem „áróður gegn þjóðfélagshópum.“ Um 82% af athugasemdunum voru settar í rangan flokk, þar sem notast var við orð sem „svartur, hvítur, árás og hótun.“ Ashiqur KhudaBukhsh vísindamaður hjá málvísindastofnuninni CMU segir að „ef notast er við gervigreind til að uppgötva málfar rasista, þá geta svona slys átt sér stað.“
