Правила шахмат просты: два игрока ведут противостояние на расчерченным на клетки поле с помощью 32 фигур черного и белого цвета. Тем не менее они явно оказались слишком сложными для искусственного интеллекта видеоплатформы YouTube. Дело в том, что канал известного хорватского игрока Антонио Радича был заблокирован на 24 часа. Из-за чего? Из-за «вредоносного и опасного содержимого».
Так, алгоритм сайта посчитал, что на канале слишком часто используются такие слова как «черные», «белые» и «атака». При этом атака черной пешкой или ладьей является неотъемлемой частью шахматного вокабуляра. Искусственный интеллект посчитал это проявлением ненависти.
Непонимание смысла и контекста
Подобная ошибка тем сильней сбивает с толку, что у канала шахматиста более миллиона подписчиков, а его видео набирают в среднем 5 миллионов просмотров. Хотя блокировка продлилась всего сутки, она все равно поднимает вопрос надежности алгоритма. Как подчеркивают опрошенные Independent специалисты Университета Карнеги Меллон (Питтсбург), алгоритм не в состоянии увидеть разницу между природой слов и контекстом. «Если искусственный интеллект используется для выявления расистских заявлений, подобные инциденты могут повториться», — отмечают они, проанализировав 680 000 комментариев с пяти самых популярных шахматных каналов. Пока еще неясно, какие меры будут приняты платформой для предотвращения подобного в будущем.