Китай собирается защитить детей от ИИ

Китай предложил новые строгие правила для искусственного интеллекта (ИИ), чтобы обеспечить безопасность детей и не допустить, чтобы чат-боты давали советы, которые могут привести к членовредительству или насилию, сообщает BBC.

Согласно планируемым правилам, разработчики также должны будут убедиться, что их модели ИИ не генерируют контент, пропагандирующий азартные игры.

Это объявление было сделано после резкого увеличения числа чат-ботов, запускаемых в Китае и по всему миру.

После доработки правила будут применяться к продуктам и сервисам искусственного интеллекта в Китае, что станет важным шагом в регулировании быстрорастущей технологии, которая в этом году стала объектом пристального внимания из-за проблем с безопасностью.

“Проект внешних правил, опубликованный на выходных Управлением по киберпространству Китая (CAC), предусматривает меры по защите детей. В частности, они требуют от компаний, занимающихся ИИ, предлагать индивидуальные настройки, устанавливать временные ограничения на использование и получать согласие опекунов, прежде чем предоставлять услуги общения”, - сообщает телеканал.

Кроме того, поставщики искусственного интеллекта должны гарантировать, что их сервисы не генерируют и не распространяют “контент, который угрожает национальной безопасности, наносит ущерб национальной чести и интересам [или] подрывает национальное единство”.

Напомним, что китайская компания DeepSeek, занимающаяся разработкой искусственного интеллекта, в этом году попала в заголовки мировых СМИ после того, как возглавила чарты скачиваний приложений.

В этом месяце два китайских стартапа Z.ai и Minimax, которые вместе насчитывают десятки миллионов пользователей, объявили о планах размещения акций на фондовом рынке.

Эта технология быстро завоевала огромное количество подписчиков, и некоторые из них используют ее для общения или терапии.