有人担忧人工智能将使人类在劳动力市场中变得无足轻重，但丹尼斯·克莱因里希特（Denise Kleinrichert）并不这么认为。作为旧金山州立大学的管理学教授，她预测AI的使用将像手机一样普及，而负责监督AI应用的组织部门也将如人力资源部门般常见。

“AI会完全取代所有人类吗？我无法预见在我们有生之年或未来会发生这种情况，”她说，“它只是在改变我们的工作方式。”

然而，克莱因里希特指出，要实现这一乐观前景，员工必须了解AI的工作原理、其偏见所在、何时可能威胁隐私，以及如何识别AI输出中的明显错误。为此，她在旧金山州立大学开设了AI伦理与合规课程，作为该校自2019年起提供的“伦理人工智能研究生证书”项目的一部分。“雇主正在寻找对AI伦理有一定敏锐度的员工，”她说，“我们需要为学生做好准备。”

这一需求正推动以AI伦理为核心的课程、证书和硕士项目的流行。部分项目面向几乎没有计算机科学背景的学生，另一些则聚焦于AI在特定领域的应用，但所有项目的核心都是强调避免伤害。

“AI关系到每一个人，”佛罗里达大学的AI与伦理教授索尼娅·施默-加伦德（Sonja Schmer-Galunder）表示，“我们需要提供更全面的教育，聚焦于如何安全且合乎伦理地使用AI。”

什么是AI伦理师？

劳动力市场分析机构Lightcast发布的2025年报告发现，要求非技术岗位（包括医疗、酒店、教育、金融）具备生成式AI技能的职位发布数量在2022年至2024年间增长了九倍。同时，越来越多的职位明确要求具备AI伦理专业知识——即确保技术在组织或业务中得到负责任且公平的使用。

根据2025年的一项研究，每年发布的AI伦理专业人才职位超过10万个。尽管许多技术技能可以在工作中学习，但AI伦理高度跨学科——涉及数据科学、商业和哲学。

任何使用AI的人都必须权衡依赖该工具的风险与收益。但对一些人而言，评估AI工具的伦理可靠性正是其工作核心。AI伦理师的任务是确保雇主对AI的使用符合法律及组织自身的道德准则。伦理师将AI工作原理与基本伦理原则相结合，通常负责对AI工具进行可信度审计。

他们可以遵循最佳实践进行这些审计，包括美国国家标准与技术研究院（NIST）发布的聚焦网络安全的联邦政策框架，以及国际内部审计师协会（IIA）发布的更通用指南。通常，审计围绕基本问题展开：AI使用的风险如何应对？训练AI模型的数据是否准确？AI工具在部署前是否经过测试？

一些学术伦理项目甚至要求学生设计自己的AI工具，然后对其进行审计。“如果他们开发医疗应用，就必须讨论系统可能出现的错误所产生的影响，”旧金山州立大学AI伦理证书项目中教授计算机科学课程的德拉古廷·佩特科维奇（Dragutin Petkovic）说，“如果它产生幻觉怎么办？这将如何影响患者？”

佩特科维奇希望学生提出的问题包括：在医疗紧急情况下，人类能否切断AI工具的电源？他说，预想最坏情况是伦理师工作的一部分。

政府法规为伦理师增加了必须监控的法定层面。去年12月，唐纳德·特朗普总统签署了一项行政命令，呼吁制定联邦AI政策。上月，白宫向国会发布了统一的AI国家框架立法建议，呼吁优先于各州单独法规。

施默-加伦德教授一门面向技术领导者的AI伦理课程，该课程属于AI系统硕士学位项目。她表示，监管AI技术使用很重要，有助于防范伤害，同时可能将社会对AI益处的目标法典化。她认为，使用AI的组织应深思熟虑如何利用AI解决社会问题。

“无论我们试图开发、执行或部署什么，都应询问它是否会促进人类繁荣、清洁水源或产生积极的社会成果，”她说。在以利润为导向的企业环境中，这是一个挑战。然而，在她的课程中，学生们讨论监管如何激励伦理AI成为竞争优势。

她的学生分组进行角色扮演，模拟科技公司中常见的职位：项目经理、用户体验、预算、技术实施和伦理师。他们共同讨论产品开发场景，以及未经充分测试就发布AI集成产品的潜在风险。施默-加伦德正在开发一个专注于AI伦理的独立跨学科硕士学位，她以聊天机器人为例：“我们已经看到，当人们不仅将AI拟人化，而且产生扭曲的现实观时，可能会造成严重后果。”当AI聊天机器人刚出现时，开发者讨论如何控制机器人个性的某些方面。但2024年，佛罗里达州一名14岁少年在据称爱上聊天机器人并自我隔离后自杀身亡，家长团体将责任归咎于类人AI机器人。

“我希望看到人们提高对‘构建并发布，然后观察结果’这种工程思维的认识，”施默-加伦德说，“从而意识到要对自己的行为负责，并成为理性的声音。”

AI的局限性

许多学术项目聘请哲学教授审视AI，并质疑其工作原理的假设。波士顿东北大学的哲学教授杰伊·古普塔（Jay Gupta）教授一门技术与人类价值观的本科课程。他认为，即使是“人工智能”这一术语也值得质疑，因为它可能提高人们对AI能力的期望。“将自主性等概念读入AI系统的表现，即使我们称之为自动驾驶汽车，这合适吗？”他说，“我们使用的语言可能会模糊而非澄清人类认知与计算过程之间的重要区别。”古普塔表示，AI伦理师“应保持对这类术语模糊性的哲学警觉”。

同样，AI工具确实使许多工作更轻松，尤其是涉及网络研究时。马特·科登（Matt Cordon）在德克萨斯州韦科的贝勒大学教授AI伦理与法律课程。贝勒大学证书系列中的其他课程聚焦于医疗和商业领域的AI。科登表示，当律师撰写诉状或备忘录时，手动研究可能耗时。使用AI工具查找案例引用很高效，但也带来巨大风险。

“它引用一个案例，给出案例名称和司法辖区。但你去查找那个案例，却发现它不存在，从未存在过，”他说，“律师因将这些回复复制粘贴到文件中而受到制裁。该行业正面临这一问题的挑战。”去年在加利福尼亚州就发生过此类事件：一名律师因提交充满AI生成虚假引用的上诉而被罚款1万美元。9月，该州司法委员会发布指南，要求法院工作人员要么禁止使用AI，要么制定自己的使用政策。

科登的学生包括律师、律师助理及其他有兴趣高效使用AI且避免重大错误的人。他说，除了提供虚假信息（如不存在的案例），AI还可能产生与语言相关的关键错误。成功的法律写作需要使用精确的语言，而AI工具无法理解特定语境中的精确性。例如，“模糊”和“歧义”在大多数情况下可互换使用，但在法律语境中含义不同。“模糊”的法规可能因未明确禁止行为而被宣布无效，而“歧义”仅指可作不同解释。

“大型语言模型基于互联网上普遍可访问的数据训练，而互联网并不总能区分‘模糊’和‘歧义’的含义，”科登说，“人工智能不一定能识别所有细微差别。人类必须认识到这一点。AI不会发现自己的错误。”

在日益嵌入AI的劳动力市场中，员工需要具备批判性思考AI使用方式及其输出准确性的技能。“医疗公司和银行需要受过教育的人才。这正是我们证书项目的目的，”旧金山州立大学的佩特科维奇说，“此外，州或联邦政府中处于决策岗位的人也需要了解AI的工作原理。”