В России запущен детский сервис безопасного цифрового пространства на основе ИИ
Центр инноваций Future Crew, входящий в экосистему «МТС», объявил о начале работы сервиса безопасного цифрового пространства для детей под названием Membrana Kids.
После успешного тестирования сервис теперь доступен всем абонентам МТС в регионах присутствия цифровой экосистемы.
Уточняется, что Membrana Kids разработан для защиты детей от вредного контента в интернете в реальном времени. Встроенный ИИ анализирует каждый сайт, на который заходит ребенок, определяя, содержит ли он неприемлемую или потенциально опасную информацию, и при необходимости блокирует доступ к нему. Каждый проанализированный ИИ сайт получает одну из категорий доступа («безопасный», «опасный» или «вечно запрещенный»), после чего данные заносятся в базу информации Future Crew.
Такой подход, подчеркивают в компании, ускоряет дальнейший анализ контента в интернете и делает Membrana Kids более эффективным, позволяя бороться даже с зеркалами вредоносных сайтов. За анализ и категоризацию сайтов отвечает специализированная команда разработчиков Future Crew, использующая ML-модели.
При этом, встроенные в Membrana Kids фильтры помогают определить наиболее безопасные и продуктивные сценарии использования контента детьми в интернете в зависимости от их возраста.
«Чтобы понять, какой контент будет приемлемым и интересным для детей в зависимости от их возраста, мы обратились к психологам одной крупной московской сети медицинских клиник. После ряда встреч с ними мы определили возрастные ступени, по границе которых мы делаем контент на доступный и недоступный. Если ребенку до 5 лет, то доступ на сайты с мультфильмами будет открыт, а на сайте маркетплейсов — закрыт, а если от 12 до 14 лет — открыт будет и первое, и второе», — рассказал руководитель продукта Membrana Kids Арсений Эпов.
У родителей, подключивших детей к Membrana Kids, также есть возможность просматривать топ сайтов, на которые ребенок заходит каждую неделю. Кроме того, Membrana Kids содержит ряд функций, обеспечивающих защиту детей от различных угроз и вне сети. Так, например, функция «Умная фильтрация» анализирует входящие на устройство ребенка вызовы, проверяет номера телефонов по базе спама и мошенников и, если звонок подозрительный, блокирует его. А с функцией «доверенный список» родители смогут определить перечень номеров телефонов, от которых ребенок может принимать входящие вызовы: например, номера бабушки, мамы и брата. Остальные входящие будут заблокированы.
