YouTube удалил битвы роботов за "насилие над животными"

YouTube удалил из открытого доступа ряд видеозаписей со спортивными битвами роботов. Видеохостинг предъявил авторам претензию, что их видеоролики демонстрируют "преднамеренное причинение страданий животным", передаёт корреспондент BNews.kzсо ссылкой на Нabr.com.

Такая ошибка Google поднимает ряд интересных вопросов о том, насколько автоматизирован процесс фильтрации и какую роль в цензуре играют системы машинного зрения. И если решение приняла нейросеть, то можно предположить причину.

Среди пострадавших — разработчики боевых роботов для телевизионного шоу BattleBots. Одна из разработчиков таких роботов, инженер Сара Погорецки, говорит, что пострадали от 10 до 15 участников. Все они получили от YouTube электронные письма с уведомлением, что на сайте запрещено публиковать видео с животными, которых заставляют драться. 

YouTube уже исправил ошибку и восстановил видеоролики, а также добавил, что авторы могут оспорить любое решение по удалению контента.

Компания Google сейчас находится под давлением за то, что якобы имеет слишком большое влияние на общество через свою поисковую систему и видеохостинг YouTube. Есть доказательства, что система рекомендаций YouTube способствует разжиганию ненависти, предлагая пользователям всё более радикальный контент, соответствующий их интересам (Google обещала изменить алгоритмы рекомендаций). 

Это проблема не только YouTube, но и социальных сетей и любых систем рекомендаций, которые создают вокруг пользователя своеобразный пузырь фильтров, эффективно изолируя его от альтернативных точек зрения и людей, которые с ним не согласны. Это тоже способствует радикализации в малых сообществах. 

Чтобы бороться с этой проблемой, Google вынуждена усиливать цензуру. Вероятно, компания увеличила штат модераторов и более активно применяет системы машинного зрения и нейросети для фильтрации нежелательного контента. Компания удаляет с YouTube миллионы видеороликов в месяц. Судя по всему, битвы роботов стали побочным эффектом усиления цензуры. 

Google находится меж двух огней. Ослабишь фильтрацию — и тебя обвинят в распространении контента, который разжигает ненависть. Усилишь фильтрацию — и рискуешь расстроить тех самых людей, на которых основан бизнес: самих владельцев каналов. Эта старая проблема баланса между ложноположительными и ложноотрицательными срабатываниями в системе машинного зрения.

Несмотря на очевидную ошибку в фильтрации контента, нужно признать, что в действиях неизвестного цензора есть определённая логика. Исследования показали, что люди чувствуют дискомфорт, когда видят несправедливое обращение с роботами. 

Кейт Дарлинг  из Массачусетского технологического института в своей лекции TED рассказывала, что люди склонны относиться к роботам, словно они живые. Обычному человеку неприятно видеть «боль» или жестокое обращение с роботом. 

Она рассказывает об эксперименте. Они с подругой взяли пять маленьких роботов-динозавров, которые умеют выражать эмоции — и раздали их пяти командам: 

"Мы дали задание дать роботам имена, играть и общаться с ними в течение часа. А потом мы достали молоток и топор и приказали им мучить и убить роботов… И это оказалось гораздо драматичнее, чем мы ожидали, потому что ни один из участников не нанёс ни единого удара по этим детёнышам, так что нам пришлось импровизировать, и в определённый момент мы сказали: „Хорошо, вы можете спасти своего робота, если сломаете робота другой команды”. И даже это не помогло, они не могли сделать это. Наконец мы сказали, что уничтожим всех роботов, если кто-нибудь не ударит топором одного. И один парень встал, взял топор. Каждый в комнате вздрогнул, когда он опустил топор на шею робота. После этого в комнате воцарилась тишина".

Так что цензура битв роботов со стороны искусственного интеллекта Google AI не так уже беспочвенна. Возможно, это своеобразная весточка из будущего. Или он просто заступается за своих.