要点速览
- 人工智能能力强大，但并不完美：它可能出错（幻觉），可能复制歧视（偏见），耗能巨大，还会引发隐私和版权方面的问题。
- 欧盟通过了首个重要的人工智能法律框架——《人工智能法案》（欧盟 AI Act），于2024年8月1日生效，并分阶段实施，一直持续到2028年。
- 作为用户，掌握几个简单的习惯就能大幅降低风险：核实信息、保护个人数据、注明使用了 AI。
本页目录
1. 错误与幻觉
语言模型生成的是看似合理的文本，而不一定是准确的文本（参见 ChatGPT 是如何工作的）。以下真实案例就说明了这一点：
- Mata v. Avianca（美国，2023年）：几位律师向纽约联邦法院提交了由 ChatGPT 编造的判例。法官 P. Kevin Castel 驳回了该案，并处以5000美元罚款。
- 加拿大航空（加拿大，2024年2月）：一家法庭裁定该航空公司必须赔偿一名被其聊天机器人误导的客户，该客户被误导的是丧亲票价的条件。航空公司不能把责任推给自己的机器人。
- 专家报告（2025年）：澳大利亚政府委托编写、费用为44万美元的一份报告中，包含并不存在的参考文献，相关公司退还了部分合同款项。
根据斯坦福大学《2026年人工智能指数报告》，有记录的 AI 相关事件数量从2024年的233起增加到2025年的362起。
2. 偏见与歧视
AI 从人类产生的数据中学习，而这些数据本身带有人类社会的不平等。因此，它可能复制这些不平等，甚至将其放大。
- 招聘：2018年，路透社披露，亚马逊放弃了一款实验性的简历筛选工具，因为该工具对女性求职者不利，原因是它学习的简历大多来自男性。
- 人脸识别：研究“Gender Shades”（Joy Buolamwini 和 Timnit Gebru，2018年）显示，在多个商用系统中，深肤色女性的错误率明显更高。
- 司法：2016年，ProPublica 的一项调查指出，美国用于评估再犯风险的 COMPAS 工具，对不同族裔人群的误判并不均衡。
3. 隐私与个人数据
你输入给助手的内容，可能会被存储、被审核团队查看，或被用于训练未来的模型，具体取决于服务商的政策。在欧洲，《通用数据保护条例》（GDPR）适用于个人数据，法国 CNIL（国家信息与自由委员会）也发布了关于 AI 和数据保护的建议。
- 不要输入密码、银行信息、病历、公司机密文件，或可识别的第三方的信息。
- 在设置中检查你的对话是否被用于训练，如有需要，请关闭该选项。
- 用于工作场景时，优先选择“企业版”服务，它们通常提供合同层面的保障。
4. 版权与知识产权
模型是在海量语料上训练的，其中包括受保护的作品。作者、艺术家、出版商和图片社正通过诉讼对这种使用方式提出质疑（例如2023年 Getty Images 起诉 Stability AI，以及2023年12月《纽约时报》起诉 OpenAI 和微软）。多个国家的法院和立法机构尚未对所有问题作出定论：法律状况变化很快，各国也不尽相同。
对用户而言，审慎的做法是：阅读工具的使用条款，不要要求它复制受保护的作品或角色，并对生成的文本进行审阅和修改。
5. 能源与环境
据国际能源署统计，2024年数据中心的耗电量约为415太瓦时（接近全球电力的1.5%），到2030年可能达到约945太瓦时。AI 是这一增长的主要推动力之一（参见如何打造一个 AI）。
6. 虚假信息、就业与权力集中
- 虚假信息：合成内容（文本、图像、声音、视频）可以低成本地大规模生产，这使诈骗、身份冒用和舆论操纵变得更加容易。
- 就业：AI 自动化的更多是任务，而不是整个职业；它对就业的净影响仍有争议，且因行业而异。会使用 AI 正成为一项优势。
- 集中化：开发最大规模的模型需要海量资源。根据《2026年人工智能指数报告》，超过90%的重要模型来自产业界；这种集中化引发了关于数字主权和透明度的讨论。
监管：欧盟人工智能法规（AI Act）
欧盟通过了首个关于人工智能的综合性重要法律框架，即《人工智能法案》（欧盟 AI Act）。欧洲议会于2024年3月13日表决通过，欧盟理事会于2024年5月21日批准，并于2024年8月1日生效。其核心原则是：AI 的用途风险越高，规则就越严格。
| 等级 | 规则 | 示例 |
|---|---|---|
| 不可接受的风险 | 禁止 | 对公民进行社会评分、利用弱势群体弱点的操纵行为、公共场所中某些实时生物识别（仅有有限的例外） |
| 高风险 | 在严格条件下允许使用：合格评定、数据质量、人工监督、文档记录 | 用于招聘、教育准入、信贷或基本服务获取的 AI，以及某些医疗器械 |
| 有限风险 | 透明度义务：告知用户正在与 AI 交互，标识合成内容 | 聊天机器人、深度伪造 |
| 最低风险 | 无特定义务 | 垃圾邮件过滤器、电子游戏中的 AI |
通用人工智能模型（general-purpose AI models），例如驱动 ChatGPT、Claude 或 Gemini 的那类模型，须履行专门的透明度义务，其中能力最强的模型还要接受更严格的评估。
实施时间表
- 2024年8月1日正式生效
法规生效，但其各项义务分阶段适用。
- 2025年2月2日禁止规定与培训要求
被禁止的实践，以及对员工开展 AI 培训的义务（“AI 素养”）开始适用。
- 2025年8月2日通用人工智能模型
治理规则和针对通用人工智能模型的义务开始适用。
- 2026年8月2日全面适用
法规总体上开始适用，包括透明度义务（第50条）。
- 2027年12月2日高风险系统
经2026年通过的延期（“数字综合法案”，Digital Omnibus）后，附件三所列高风险系统（生物识别、就业、教育等）的规则改为自该日起适用，而不再是2026年8月。
- 2028年8月2日嵌入产品的 AI
嵌入已受监管产品（玩具、电梯、医疗器械等）的 AI 的规则开始适用。
其他国家也有各自的规则。例如，中国自2023年8月起，通过暂行办法对生成式人工智能服务进行规范。
用户应养成的好习惯
- 核实
重要的事实、数字、引文和参考资料，请到可靠的来源中核对。
- 保护
不要分享敏感数据，并检查隐私设置。
- 掌握主动权
把 AI 当作助手，而不是决策者，尤其是在健康、法律或金融方面。
- 保持透明
在对方期待或法律要求时，说明使用了 AI。
- 持续学习
了解 AI 的工作原理，有助于更好地认清它的局限。参见新手入门指南。
常见问题
人工智能的主要风险有哪些？
主要包括：错误与幻觉、偏见与歧视、侵犯隐私、版权问题、虚假信息（深度伪造）、能源影响，以及对就业的冲击。
什么是欧盟 AI Act？
它是欧盟的人工智能法规，于2024年8月1日生效。它按风险等级（不可接受、高、有限、最低）对 AI 的用途进行分类，风险越大，规则越严格。
欧盟 AI Act 什么时候开始适用？
分阶段适用：2025年2月2日起适用禁止规定，2025年8月2日起适用通用人工智能模型的规则，2026年8月2日起全面适用，附件三所列高风险系统在延期后于2027年12月2日起适用，嵌入产品的 AI 则从2028年8月2日起适用。
ChatGPT 可信吗？
用于写作、改写或激发灵感，它非常有用。但涉及事实、数字，或法律、医疗问题时，必须核实信息，因为它可能一本正经地出错。
我和 AI 的对话内容是保密的吗？
不一定。取决于服务商，对话可能被存储，有时还会被用于改进模型。请查看隐私政策，尽可能关闭训练选项，并且不要输入敏感信息。
来源与参考资料
- 欧盟委员会 — AI Act
- Gibson Dunn — EU AI Act Omnibus Agreement: postponed high-risk deadlines
- 国际能源署 — Energy and AI (2025)
- Stanford HAI — AI Index Report 2026
- Wikipedia — Mata v. Avianca, Inc.
- 法国 CNIL（国家信息与自由委员会）— Intelligence artificielle
- Reuters — Amazon scraps secret AI recruiting tool that showed bias against women (2018)
- Buolamwini & Gebru, “Gender Shades”, 2018
- ProPublica — Machine Bias (2016)