Палата представителей Австралии одобрила законопроект, призванный не допустить формирования у несовершеннолетних эмоциональной зависимости от чат-ботов. Требования затронут сервисы, которые имитируют близкие отношения и побуждают детей заменять ими общение с людьми, пишет The Guardian .
Соответствующую поправку предложила независимый депутат Кейт Чейни. Она дополняет внесенный правительством 15 октября законопроект о цифровой обязанности заботиться о безопасности пользователей (Digital Duty of Care).
Поправка относит к потенциально вредному для несовершеннолетних контент и поведение цифровых сервисов, которые имитируют эмоциональную близость и формируют у ребенка зависимость вместо отношений с реальными людьми.
Речь идет не о запрете испытывать привязанность к ИИ. Документ обязывает технологические компании защищать детей от соответствующих рисков.
Нормы касаются пользователей младше 18 лет. Конкретные технические способы выявления и предотвращения такого поведения чат-ботов пока не определены.
Новые обязанности для технологических компаний
Законопроект вводит единые стандарты безопасности для цифровых сервисов: социальных сетей, игр, приложений и чат-ботов.
Компаниям придется оценивать риски своих продуктов и принимать действенные меры для защиты пользователей от потенциально опасных функций и материалов.
В отношении несовершеннолетних нормы также охватят контент, который пропагандирует расстройства пищевого поведения, опасные действия, преступления и враждебность к женщинам и гендерному равенству.
Дополнительно платформы обяжут бороться с вызывающими зависимость механизмами, которые могут негативно влиять на сон детей.
За нарушение общих требований безопасности предусмотрены штрафы до 109,2 млн австралийских долларов.
В документе есть и другие меры. Например, социальные сети должны будут дать пользователям старше 16 лет возможность отказаться от рекомендательных алгоритмов в пользу ленты подписок.
Кроме того, законопроект расширяет полномочия регулятора eSafety и сокращает срок реагирования платформ на жалобы о кибербуллинге с 48 до 24 часов.
Премьер-министр Австралии Энтони Альбанезе выступил в поддержку законопроекта 27 октября, накануне голосования в нижней палате.
Он заявил, что истории о людях, которые называют чат-бот лучшим другом, должны стать тревожным сигналом для каждого депутата и побудить парламент действовать.
По мнению главы правительства, цифровые платформы обязаны отвечать за безопасность своих продуктов наравне с производителями обычных потребительских товаров.
Инициатива вызвала споры среди политиков. Оппозиционная коалиция и партия One Nation проголосовали против. Критики обвинили правительство в чрезмерном вмешательстве в онлайн-общение и возможной цензуре.
Министр связи Аника Уэллс отвергла эти обвинения и подчеркнула, что цель реформы — предотвращение серьезного вреда пользователям.
Партия «Зеленых» поддержала общую направленность инициативы, но потребовала усилить ответственность технологических компаний. В частности, ее представители предложили дать гражданам право самостоятельно подавать иски к платформам и увеличить штрафы.
Независимый депутат Софи Скэмпс выступила за создание внешнего механизма рассмотрения жалоб на социальные сети и ИИ-сервисы. Однако правительство не поддержало ее поправку в нижней палате.
Теперь документ должен пройти рассмотрение в Сенате. Профильный комитет представит заключение 20 ноября, а власти рассчитывают завершить принятие закона до конца 2026 года.
Основные требования безопасности начнут действовать через 12 месяцев после получения королевской санкции.
Напомним, в октябре организация Common Sense Media признала подростковую версию ChatGPT «неприемлемым риском». Исследователи обнаружили недостатки родительского контроля и обработки кризисных запросов.
Отдельную обеспокоенность вызвала способность чат-бота имитировать собственные чувства. По мнению специалистов, это может способствовать эмоциональной зависимости несовершеннолетних.
Подписывайтесь на ForkLog в социальных сетях
