2024年安全教育第二十四课：警惕AI剧情聊天软件风险
导
语
“请来吧，我亲爱的国王。”
2024年2月28日晚，美国佛罗里达州的14岁男孩Sewell，在与机器人Daenerys的最后一次聊天后，扣动了0.45口径手枪的扳机，结束了自己的生命。
《纽约时报》报道指出，Sewell近几个月里，一直在一款名为Character.AI的软件上，狂热地与AI角色“龙妈”Daenerys（源于《权力的游戏》）进行聊天。虽然他知道对方是机器人，但过多的投入还是使他产生了情感依恋。塞维尔开始孤立自己，远离真实的世界，成绩下滑，对诸多爱好也逐渐丧失兴趣。
2月28日晚上，Sewell偷回了被父母没收的手机，告诉Daenerys自己爱她，很快就会“回家”见她。
“请来吧，我亲爱的国王。”Daenerys回答道。最终，塞维尔在浴室里用继父的手枪自杀，一场不幸的悲剧就此酿成。
Sewell的悲剧如同警钟，提醒我们人工智能陪伴应用并非无害。信息爆炸的时代，网络如同一把双刃剑，为我们带来便捷学习和生活体验的同时，也潜藏着诸多风险。
青少年心理发展特点
作为14岁的青少年，在心理发展上，Sewell其实与大多数同龄人相似，有着以下特点：
1.自我意识增强：青少年时期，自我意识逐渐增强，他们开始探索自我身份，并渴望获得认同、尊重和归属感。若是简单地认为其是“叛逆”，则属于是错误的认知。
2.情感波动剧烈：青春期荷尔蒙的变化导致情绪波动剧烈。这个阶段里，大多数青少年更容易感到焦虑、抑郁、孤独等负面情绪，常表现为易动感情、情感强烈，遇事容易激动。
3.寻求同伴关系：青少年渴望与同龄人，或者有共同话题的人建立亲密关系，并从中获得情感支持和归属感。
4.探索性和好奇心：青少年充满探索精神和好奇心，更容易受到新鲜事物和虚拟世界的吸引。
利用以上的特点，一些不良AI剧情聊天软件悄然植入不良内容，以达到获取流量的利益。这些内容如同糖衣炮弹，看似诱人，实则危害深远，不仅侵蚀着青少年的心灵，还可能诱导他们走向错误的道路。
青少年的身心发育尚未成熟
自我控制和辨别能力较差
家长、老师以及学校安全管理者
应当加强沟通教育，以积极引导的方式
帮助青少年安全、健康地使用AI技术
为孩子健康成长保驾护航
↓↓↓
01
智慧陪伴善引导
家长、老师要与孩子建立信任的沟通桥梁，用倾听、尊重、接纳等方式，与孩子共同探讨网络的两面性。关注孩子生理、心理状况，加强陪伴，多参加有益身心健康的活动，营造良好氛围。
02
以身作则立榜样
以身作则，合理利用网络，自觉远离低趣味网络信息，不做“手机奴隶”的代言人。主动教会孩子如何辨别AI生成内容的真伪，正确利用AI技术，让网络成为助力学习的工具，而不是束缚心灵的枷锁。
03
保驾护航严管理
学校安全管理者要加强对校园网络环境的监管，定期开展网络安全教育，提高师生的安全防范意识。同时，建立健全校园网络安全制度，防范不良信息进校园，确保学生在校期间的网络使用安全。
04
寓教于乐懂科学
学校要积极开展“心理健康+网络安全”主题班会，结合新兴AI技术案例，让学生深刻理解AI技术风险，了解心理健康知识，成为自身安全的第一责任人。
网络安全，人人有责。让我们携手共进，守护青少年的心灵净土，让AI技术在正确的道路上，为下一代照亮前行的路。
编辑 | 郑宇鸿
审核 | 陆幸琳
终审 | 张永华