Компьютерные специалисты из Университета Карнеги-Меллона начали расследование сбоя искусственного интеллекта после того, как в июне 2020 популярный шахматный канал на YouTube был заблокирован за «вредный и опасный» контент.

Так, хорватский шахматист Антонио Радич, известный под псевдонимом Agadmator, ведет популярный в мире шахматный канал на YouTube с более чем 1 миллион подписчиков.

В июне 2020 Радич был заблокирован на YouTube во время представления шахматного турнира с гроссмейстером Хикару Накамурой, но канал был восстановлен уже через 24 часа.

Радич уверен, что временная блокировка связана с фразой «черные против белых», хотя автор, очевидно, говорил о шахматах.

Дело в том, что система модерации YouTube основана на алгоритмах искусственного интеллекта, а это значит, что ИИ может неверно истолковать комментарии, если ее не научить правильно понимать контекст.

Исследователи проверили эту теорию, используя современный классификатор языка, чтобы просмотреть более 680 000 комментариев, собранных из пяти популярных шахматных каналов YouTube.

Выяснилось, что 82% информации были классифицированы неправильно из-за использования таких слов, как «черный», «белый», «нападение» и «угроза» — все они часто используются в шахматном языке.