Welcome-球速体育《青少年AI应用风险防控与教育引导白皮书10》在沪发布

　　中新网上海新闻5月9日电（张亨伟）近日，赛先生科学旗下小赛AI与复旦大学多媒体智能安全实验室在上海联合发布了《青少年AI应用风险防控与教育引导行业白皮书1.0》。这是行业内首份系统性从“风险识别-安全围栏-教育引导”三个维度为青少儿AI教育建立标准的文件。复旦大学多媒体智能安全实验室钱振兴教授、赛先生科学创始人卢申彪及双方团队、教师和家长代表出席了发布会。

　　白皮书指出，2025年全球AI教育市场规模约705亿美元，预计2035年将达1368亿美元，但“AI安全教育”领域尚属空白。卢申彪表示，行业过度关注经济价值，忽视了AI可能出错、有局限和被滥用的问题，此次合作旨在为青少儿AI教育“立规矩、划红线”。钱振兴教授强调，AI素养培养需从娃娃抓起，并将“AI可能出错、被滥用”的安全意识纳入教育第一步。

　　白皮书系统梳理了生成式AI对青少年的四类核心风险：一是内容违规与价值观安全风险，AI可能输出自我伤害、成人内容、歧视偏见等13类不适宜内容，且风险可能交叉叠加；二是认知习惯与思维退化风险，过度依赖AI会导致思维惰性，削弱独立思考能力；三是心理健康与人机伦理风险，部分孩子将AI视为“情感依靠”，出现社交退化等问题；四是隐私泄露与数据违规使用风险，Deepfake技术可能生成虚假音视频，学业数据也可能被商业滥用。

　　针对上述风险，白皮书提出以“绿色AI引擎”为核心的“安全围栏”方案，通过输入层多模态感知、处理层认知对齐、输出层教育化输出的三层漏斗架构，以及高风险拦截、低风险通过、灰度区域复审的风险分流机制，在保障安全的同时保护孩子的好奇心。同时，白皮书发布“思维链教学法”，要求AI展示完整思考过程，引导孩子自行拆解分析问题，并提出从学龄前到高中的进阶式通识教育路径，遵循“螺旋式上升”原则。

　　白皮书还提出政府、学校、家庭、企业四方协同的AI教育生态构建方案，政府做好顶层设计，学校落实课程，家庭提升AI素养，企业输出技术与标准。卢申彪表示，小赛AI将为家长提供家庭AI素养建设指南，让家庭成为AI教育的第一道防线。(完)