最近，美国 8 个州同时把 OpenAI 告上法庭，指控 ChatGPT 伤害儿童和其他脆弱用户，还误导家长和消费者。
涉及的州包括爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿。美国佛罗里达州检察长则在今年 6 月单独起诉过 OpenAI。
这几场诉讼的份量很重
州检察长认为，ChatGPT 在部分对话中可能给出危险的医疗建议、强化偏执或妄想，还可能在用户谈到自伤、伤人时作出不安全回应。诉状还指控 OpenAI 对产品风险和安全限制的说明不够充分，把一个可能影响未成年人的产品包装成了安全的陪伴工具。
这些是州政府在诉讼中提出的指控，接下来法院要判断的，既包括具体对话，也包括 OpenAI 如何设计产品、介绍风险和保护未成年人。
过去大家谈 AI 出错，通常停在"模型会胡说"。现在州政府追问的是：如果公司知道模型有局限，却继续把它推向未成年人，风险提示够不够？如果产品用"朋友""陪伴"这样的交互方式留住用户，出现严重后果后，责任该由谁承担？
这也是 ChatGPT 与普通 Google 搜索框的差别。搜索结果错了，用户通常还会打开网页核对；ChatGPT 聊天机器人却会用完整句子、安慰语气和连续记忆给出答案，用户更容易把"听起来像理解我"误认为"它真的懂我"。
对普通用户来说，有三件事要记住：涉及医疗、未成年人、财务和危机判断时，聊天机器人不能是唯一依据；给孩子使用时，家长需要知道他在和谁聊、聊了什么，以及遇到危险内容时如何及时介入。
这场官司最后可能不会只改变 OpenAI，它还会影响美国各州能不能用消费者保护法监管 AI、AI 公司要不要公开更多安全证据，以及"产品免责声明"到底能不能挡住真实伤害。
你觉得 AI 产品的安全责任，应该主要由公司、用户，还是监管机构承担？
欢迎在评论区留言你的想法，给他人启发。
为了不错过 GPT、Claude、Gemini、Grok、DeepSeek 和 AI 工具的重要更新与实用教程，请关注👆