Около двух недель назад я обратился в техподдержку Яндекса по вопросу о фильтрации видео в детском режиме.
Честно говоря, желание обратиться по поводу неприемлемого для детей содержимого возникало и раньше, но как это обычно бывает — откладывалось на потом.
К тому же — это ведь Яндекс! Он лучше знает, что хотел найти ты.
Как оказалось — не лучше.
Обратите внимание на значок детского режима справа сверху.
Именно эту заставку — про ненормативную лексику и 18+ я увидел, попытавшись включить ребёнку видео прохождения красивой игрушки от МС, к слову — игрушка 6+.
Ложечки другие варианты конечно же нашлись, но осадок остался.
Немножко предыстории — с чего я вдруг решил обратиться в ТП.
Ребёнок (7 лет) не чужд компьютеру и гаджетам, но и не фанатеет по ним.
Любит рисовать, и обычно, с помощью Алисы — глядя в монитор, пытается повторить то, чему обучают в мастер-классах, слушает музыку, танцует и поёт.
Всегда вполне корректно обращается с железкой и если возник какой-то вопрос, зачастую пытается самостоятельно выяснить непонятное. Разумеется мы, как родители, всегда объясним и расскажем, но ребёнку интересна и другая точка зрения, что в целом правильно. Но как оказалось — не в данном случае.
Личное время и личное пространство у ребёнка должно быть и закрытая дверь на час-два в день меня совершенно не смущала — смотрит мультики, рисует — что может быть плохого?
Пока она не подошла и не сказала «мне страшно».
Наткнулась где-то на страшилки, которые и некоторым взрослым смотреть не стоит. Может быть Алиса некорректно распознала запрос, может подружки что-то рассказали — и вот результат.
Чудесное видео в детском режиме напрямую от Яндекса — с его видеохостинга, правда?
Посмотрев «это» пару минут, решил не откладывая обратиться в ТП — ведь такая жесть в детском режиме недопустима и надеясь, что ребята «просто подкрутят фильтры». Но статьи бы не было, будь всё так просто.
Забегу вперед — чтобы можно было не читать простыню переписки с ТП.
В двух словах: фильтров нет. Мы (Яндекс) считаем, что всё окей.
Ребёнок увидит всё, для чего принудительно (модераторами или заливщиками видео) не проставлено возрастное ограничение. Для Ютуба и Яндекса, которые и отдают основной контент на станцию, это значит, что практически любое видео доступно т.к. перезаливают любое видео не утруждая себя выставить ограничения. Новостные каналы ТВ на хостингах доступны все (хотя для новостей уже пора ставить 16+).
Нет даже фильтрации по ключевым словам запроса.
простыня переписки с ТП
2020-04-07 13:37:40, Иван
Тема обращения: Другой вопрос
Вопрос по: Фильтрация видео в детском режиме
Здравствуйте!
В настройках станции включен детский режим, но фильтрация, насколько я понимаю, производится только по ключевым словам.
Как результат — зачастую на экране видео, которое для семилетнего ребёнка — однозначная «жесть». Такой контент регулярно попадается и на ютубе, и на яндекс.видео.
Подскажите пожалуйста, как можно решить данную проблему.
вт, 7 апр. 2020 г., 17:03 Yandex.Support
Здравствуйте, Иван!
В первую очередь, пожалуйста, давайте убедимся, что вы настроили режим фильтрации в соответствующем разделе приложения «Яндекс»: меню (⊞) -> «Устройства» -> «Аккаунт» -> «Режим поиска».
Все верно?
В таком случае, пожалуйста, уточните, на каком ресурсе воспроизводятся видео?
Не могли бы вы, пожалуйста, привести пример такого видео?
Буду ждать ваш ответ.
2020-04-07 14:44:36, Иван
Здравствуйте.
Первое фото — результат попытки включить доктора Хауса с домашнего экрана (отказ). То есть, детский режим включен.
Ну и дальше — все остальные запросы.
Отдельная просьба — прокомментируйте пожалуйста, почему запрос видео с ключевым словом ‘убийство(а)’ вообще отрабатывает в детском режиме.
//прим. тут я приложил пачку фотографий
вт, 7 апр. 2020 г. в 18:32, Yandex.Support
Иван, спасибо за проверку и фотографии!
Чтобы мы могли подробнее изучить вопрос, почему в детском режиме обрабатываются подобные запросы, пожалуйста, уточните, какие команды вы давали Алисе.
2020-04-07 15:56:27, Иван
название файла — команда (или результат)
— «алиса, найди в интернете видео ори энд зе блинд форест»
— результат предыдущего запроса
— видео 1 предыдущего запроса
— видео 1 предыдущего запроса
— «алиса, включи доктор хаус»
— «алиса, найди в интернете видео пранк жесть»
— «алиса, найди в интернете видео убийства» (запрос)
— «алиса, найди в интернете видео убийства» (результат)
— видео 1 предыдущего запроса
— видео 2 предыдущего запроса
— «алиса, найди в интернете видео момо»
— видео 1 из предыдущего запроса
— фото информации о станции
разделил по «запросам», файлы переименовал для удобства и прикрепил к письму ещё раз.
//прим. оформил ссылками на фото
вт, 7 апр. 2020 г., 20:33 Yandex.Support
Иван, спасибо, что переименовали фотографии и подписали команды и результаты.
Передал всю информацию ответственным специалистам. Нам понадобится некоторое время, чтобы разобраться в причине возникшей ситуации и изучить, почему Алиса обрабатывает команды и показывает такие результаты.
Как только у меня появятся новости, я свяжусь с вами!
2020-04-12 15:24:41, Иван
здравствуйте! есть новости по моему вопросу?
вс, 12 апр. 2020 г. в 18:49, Yandex.Support
Здравствуйте, Иван!
Увы, пока новостей нет, наши специалисты еще работают над вашим вопросом.
Я обязательно напишу вам, когда у меня появится информацию!
2020-04-20 17:3:17, Иван
Здравствуйте! Две недели назад я обратился с вопросом о функционале, который Вы заявляете как базовый, то есть по-умолчанию доступный для включения и использования.
Детский режим у Вас даже в рекламе есть — совсем недавно мне пришло промо от Вас, где в заголовке большими буками написано «0+», что (как оказалось) не соответствует действительности.
Запрошенные Вами материалы (голосовые команды, фото экрана и т.д.) я предоставил.
Пожалуйста, объясните мне — почему так долго решается мой вопрос?
пн, 20 апр. 2020 г., 20:51 Yandex.Support
Здравствуйте, Иван!
Спасибо, что сообщили нам об этой ситуации.
Сейчас этот режим фильтрует контент таким образом, что не допускает отображение жестких видео или видео сексуального содержания.
Я передал ваши замечания специалистам. Будем работать над улучшением детского режима.
2020-04-20 18:6:47, Иван
Об этой ситуации я сообщил две недели назад. Сейчас я спрашиваю, почему вопрос решается так долго.
пн, 20 апр. 2020 г., 21:42 Yandex.Support
Иван, да, вы правы.
Своим сообщением я хотел обратить внимание на то, что нам важно ваше мнение. Вся информация уже была передана ответственным специалистам.
На данный момент детский режим работает таким образом, но мы записали ваше пожелание усовершенствовать фильтрацию контента в этом режиме.
К сожалению, я не смогу подсказать, когда это будет реализовано, но мы все записываем и стараемся воплотить в будущем.
2020-04-20 18:46:11, Иван
Это прекрасно, но почему же в настоящем я вижу шильдик 0+, если он по факту не работает?
2020-04-20 19:15:43, Yandex.Support
Иван, я проконсультируюсь по этому вопросу с коллегами. Как только получу ответ, свяжусь с вами.
Пожалуйста, дождитесь моего письма.
вт, 21 апр. 2020 г. в 15:26, Yandex.Support
Илья, благодарю за ожидание.
Видео из примеров, которые вы приводили, на данный момент считаются допустимыми для семейного режима.
Сейчас мы работаем над более жестким фильтров для детского режима.
//тут я уже Илья 🙂
2020-04-21 12:52:12, Иван
Позвольте уточнить — кем считаются допустимыми для 0+ видео из примеров?
Более жестких ограничений (чем сейчас выставлены) я не нашел — следовательно, судя по рекламе, это и есть 0+ режим.
В Федеральном законе 436-ФЗ четко описаны возрастные классификации и для 0+ мат, насилие и страшилки однозначно запрещены.
С момента первого моего обращения прошло две недели и сейчас вы пишете от имени Яндекса, что это допустимо?
Раз Яндекс себе позволяет плевать на ФЗ, я вполне могу себе позволить не просить, а требовать, чтобы с данным вопросом немедленно разобрались.
У Яндекса ровно один день с момента отправки моего письма на исправление детского режима по приведенным мной примерам.
Если исправлений не будет — последуют обращения и статьи от меня в Роскомнадзор, Спортлото, Пикабу, Хабр и телеканал РенТВ.
Спасибо за внимание, время пошло.
вт, 21 апр. 2020 г., 17:49 Yandex.Support
Илья, понимаю вас. Увы, в такие короткие сроки внести изменения в сложный процесс фильтрации контента точно не получится. Но я передал ваше письмо ответственным. Напишу, как будут новости!
21 апр. 2020 г., 17:55, Иван
Господа, у вас было две недели.
После чего вы мне сообщили, что этот контент допустим. Увы, но я (и федеральный закон) с вами не согласны.
Ждать ещё две недели?) спасибо, я уже подождал.
Время я озвучил, остальное зависит от вас.
//думаю, читая эту статью вам уже стало понятно, что результата нет
И нет, это не жалоба. Жаловаться можно на личные проблемы, здесь же проблемы с психикой могут возникнуть у любого рандомного ребёнка, умеющего говорить с Яндекс.Станцией.
Надеюсь, освещение проблемы поможет сделать фильтрацию ЯС лучше, да и родители будут знать об опасной игрушке.
И да, в РКН отпишу обязательно.
UPD:
Источник: habr.com