Вообще же вспоминается грандиозный скандал ещё 2015 года, когда нейросеть сервиса Google Photos не справлялась со своей задачей по автоматическому распознаванию содержания загружаемых фотоснимков и регулярно проставляла метка "горилла" к фотоснимкам с сильно темнокожими людьми.
В 2018 году Google был даже вынужден временно отключить эту метку.
Подробнее о скандале с предысторией:
https://www.cnews.ru/news/top/2018-01-16_google_ubral_iz_fotopoiskovika_slovo_gorilla
З.ы. была ли она включена обратно, кажется, не сообщалось.