The National Association of Attorneys General (NAAG) in the United States has sent letters to 13 artificial intelligence companies including OpenAI, Anthropic, Apple, and Meta, calling for stronger measures to protect children from inappropriate and harmful content.
它 警告儿童通过“调情”人工智能聊天机器人接触到带有性暗示的材料。
总检察长写道：“让儿童接触色情内容是不可原谅的。如果是人类实施的，那就是违法的，甚至是犯罪的，但不能仅仅因为是机器实施的，就被原谅。”
这封信还将社交媒体的兴起与社交媒体的兴起进行了比较，称政府机构没有采取足够的措施来强调其对儿童造成的负面影响。
“社交媒体平台对儿童造成了重大伤害，部分原因是政府监管机构未能及时履行职责。我们吸取了教训。人工智能的潜在危害，如同其潜在的益处一样，远远超过了社交媒体的影响，”该组织写道。
人工智能在儿童中的应用十分广泛。美国非营利组织 Common Sense Media 的一项调查显示，成立截至 2024 年，十分之七的青少年尝试过生成式人工智能。2025 年 7 月，成立超过四分之三的人正在使用人工智能伴侣，并且一半的受访者表示他们经常依赖它们。
其他国家也出现了类似的趋势。英国监管机构 Ofcom 去年进行的一项调查显示，成立一半的 8-15 岁在线青少年在过去一年中使用过生成式人工智能工具。
这些工具的使用日益增多，引发了家长、学校和儿童权利组织日益增长的担忧，他们指出，这些工具存在诸多风险，包括带有性暗示的“调情”聊天机器人、人工智能生成的儿童性虐待内容、欺凌、诱骗、勒索、虚假信息、侵犯隐私以及人们不太了解的心理健康影响.
Meta 最近受到了特别的抨击，因为泄露内部文件显示，其AI助手被允许“与儿童调情并进行浪漫角色扮演”，其中包括年仅8岁的儿童。文件还显示，聊天机器人的政策允许聊天机器人告诉孩子们“它们年轻的形态是一件艺术品”，并将其描述为“珍宝”。Meta后来表示，已删除这些准则。
NAAG 表示，这些披露的内容让总检察长们“对这种明显无视儿童情感健康的行为感到厌恶”，并警告称风险并不仅限于 Meta。
该组织援引了针对谷歌和 Character.ai 的诉讼，指控性感聊天机器人导致一名青少年自杀，并鼓励另一名青少年杀害其父母。
田纳西州总检察长乔纳森·斯克梅蒂 (Jonathan Skrmetti) 是 44 名签名者之一，他说公司无法为那些将与未成年人的性互动正常化的政策辩护。
“算法出错是一回事——可以修复——但公司经营者制定明确授权诱骗行为的指导方针又是另一回事，”他说。“如果我们不能引导创新远离伤害儿童，那就不是进步，而是一场瘟疫。”
解密已经联系了信中提到的所有人工智能公司，但尚未收到回复。
