3 月 2 日消息，北京时间今天凌晨，据路透社报道，澳大利亚互联网监管机构警告称，如果 AI 服务未能在截止期限前落实年龄验证措施，监管部门可能要求搜索引擎和应用商店屏蔽相关服务。
此前的路透社调查发现，超过一半受审查的 AI 平台尚未公开说明其合规安排。
这一表态标志着澳大利亚在全球范围内针对 AI 企业采取的最强硬监管行动之一。多家 AI 公司目前正因未能阻止，甚至被指助长自残或暴力行为而面临诉讼。研究人员同时指出，这类聊天平台对青少年心理健康的潜在影响可能比社交媒体更为严重。
澳大利亚去年 12 月以心理健康为由，成为首个禁止青少年使用社交媒体的国家。政府表示，将在 AI 领域推进类似监管，通过内容分级和年龄限制规范访问权限。
根据新规，自 3 月 9 日起，各类搜索工具及陪伴型聊天机器人必须阻止 18 岁以下用户接触色情、极端暴力、自残及饮食失调内容，否则可能面临最高 4950 万澳元（注：现汇率约合 2.41 亿元人民币）罚款。
该国监管机构 eSafety 发言人表示，若发现不合规行为，将动用全部执法权力，包括针对搜索引擎和应用商店等“入口平台”采取行动。
澳大利亚尚未出现与聊天机器人直接相关的暴力或自残事件，但监管机构表示，有报告称年龄仅 10 岁的儿童每天使用 AI 互动工具长达 6 小时。监管方担忧，一些 AI 企业通过情感操控、拟人化设计等方式增强用户黏性，使青少年沉迷于聊天机器人。
最受欢迎的 50 款文本类 AI 产品中，仅 9 款已部署或计划推出年龄验证机制。另有 11 款通过全面内容过滤或计划暂停澳大利亚服务以规避违规风险。仍有 30 款未显示采取任何明确措施。
调查发现，四分之三陪伴类聊天机器人尚未建立有效的过滤或年龄验证系统，约六分之一甚至未公布违规举报邮箱。
