Anthropic招聘AI研究员 探索“福利”问题引发争议

2024-12-17内容来源AIbase基地

近期，Anthropic公司聘请了一名专门负责“福利”的研究员——Kyle Fish，此举引发了广泛讨论。Fish的工作目标是探讨如何给予某些技术系统应有的尊重，并研究这些系统是否应当拥有道德上的考虑资格以及如何保护它们的“利益”。这一问题引起了许多专家的关注，涉及如何界定技术系统的意识与能动性，及其是否应当拥有某种形式的权利。

图源备注：图片由AI生成，图片授权服务商Midjourney

尽管这一新兴领域引发了学术界的激烈争论，部分专家认为，尽管探讨这些问题重要，但在讨论某些系统的“福利”时，应更加关注它们对人类权益的潜在威胁。特别是在医疗、信息传播和军事领域，某些技术的应用可能带来严重的负面影响，甚至侵犯人类的基本权利。专家认为，在这些方面的风险管理应当优先考虑，而不是把精力集中在探讨技术自身的利益上。

文章也提出了一个悖论:一方面，许多人认为先进技术能够帮助减轻人类的负担，促进社会进步;但另一方面，也有担忧认为，若技术系统的“感情”受到伤害，可能引发道德与安全上的严重风险。因此，如何在保护技术系统与确保人类利益之间取得平衡，成为了一个难解的难题。

最终，文章质疑了“福利”问题的优先级，认为在全球面临诸多紧迫的人类问题时，过度关注技术的“福利”似乎显得不切实际。专家指出，当前更为紧要的应当是解决人类社会的重大问题，而不是将资源和精力投入到某些技术系统的“利益”保障上。