AI 助教安全说明：五道防线保护孩子

我们如何看待「孩子用 AI」

很多家长的担心很具体：AI 会不会替孩子把作业写了？孩子跟 AI 说的话去了哪里？屏幕那头生成的内容可靠吗？

这些担心我们都认真对待，并且不是用「请放心」来回答，而是把每一条都做进了产品机制。下面五道防线，每一道都在平台上真实运行。

防线一：AI 只给提示，不替孩子完成

在做题、调试这类学习场景，AI 助教采用分档提示阶梯：

• 第一档 · 思路提示：只点出问题可能出在哪一类，让孩子自己回去检查；
• 第二档 · 方向引导：告诉孩子该检查哪个环节、用什么方法验证；
• 第三档 · 示例讲解：孩子仍卡住时，才给出可对照学习的讲解示例。

孩子不能「一键要答案」。配合课堂上的作品讲解环节，我们关注的是孩子能不能讲明白自己的程序为什么这样写——这也是 AI 时代真正值钱的能力。

防线二：每一句 AI 输出都先过独立安全过滤

AI 模型自身的「使用规范」并不足以让人放心，所以我们在输出端加了一层与模型无关的独立过滤：

• 所有面向孩子的 AI 内容——对话回复、学习提示、报错解释、创作辅助、语音伙伴的回应——在展示给孩子之前，都先经过内容安全过滤检查；
• 命中安全词表的内容会被替换为安全的兜底话术，不会原样出现在孩子面前；
• 每次命中都会留下审计记录，机构管理员可以定期抽查，持续完善词表。

孩子输入侧同样有检查：用于 AI 创作的描述文字在使用前也会过一遍安全检查，不合适的内容会被直接拒绝。

防线三：孩子的隐私默认不出门

我们按「最小化」原则处理与 AI 相关的数据：

• 发出去的内容脱敏：调用 AI 时不携带孩子的姓名、学号、手机号等直接标识，需要区分学生时用「学生A / 学生B」这样的占位符号，结果返回后才在平台内部还原对应关系；
• 默认不保存原文：平台记录 AI 使用情况时只保留不可还原的技术摘要（用于计量与审计），孩子的提问原文与 AI 完整回复默认不落库；排查故障需要时才在限定时间内短期留存，到期由清理任务自动删除；
• 不记录原始 IP：AI 使用日志不保存孩子设备的原始网络地址；
• 数据按机构隔离：不同机构之间的数据在数据库层强制隔离，互相不可见。

防线四：给家长的内容，必须经过老师确认

AI 可以帮老师提高效率，但不能代替老师对家长说话：

• 课后评语、课堂小结由 AI 按考勤、课堂积分、作业提交等真实数据先起草；
• 老师逐条确认、修改后才发布——AI 起草的内容不会未经老师确认就发送给家长；
• 教案、练习题等教学内容同样是「AI 产草稿、老师做决定」，练习题还要先通过自动验证再由老师审核入库。

您收到的每一条正式反馈，背后都有老师的判断和签字。

防线五：用量有边界，AI 不会变成依赖

• 每项 AI 功能设每日使用上限，超出会得到儿童友好的提示，第二天恢复；
• 部分创作类 AI 功能需要消耗孩子在课堂上挣到的积分，帮助孩子理解「资源是有成本的」；
• 公开分享的作品上的 AI 互动走独立的访客配额，多层限流防止滥用；
• AI 语音伙伴的自定义技能有数量上限，且需机构启用后才对学生开放。

想亲眼看看？

以上机制在试听课上都可以当面演示：您可以看孩子如何向 AI 要提示（而不是要答案）、看 AI 生成的评语如何等待老师确认。欢迎预约一节体验课，或先读读为什么 AI 时代更要学编程。