AI领域出现了一个新职业：哲学家
为什么Anthropic、Google DeepMind等AI公司开始聘请哲学家——以及这个问题为何很快会延伸到工业领域。
这对“让开发者自己决定吧”这句话来说可不是好消息。就在几年前，“企业哲学家”听起来还跟“企业骗子”差不多。
如今，Anthropic、Google DeepMind等顶尖AI公司都在聘请哲学家，而且不是请他们给员工讲课，而是让他们直接参与模型开发。
honesty = ?
为什么？因为AI的一部分问题根本不是技术问题。假设我们希望模型“诚实”。很好。现在请试着写出这个函数：honesty = ?
如果模型自己也不确定，什么才算撒谎？它应该说出令人不快的真相吗？出于安全考虑，可以隐瞒部分信息吗？哪个更重要：完成用户的请求，还是防止潜在的危害？
GPU回答不了这些问题，好的数据集也不行。首先必须有人正式定义：我们究竟希望系统表现出怎样的行为。
因此，如今AI团队中的哲学家，工作内容已经与工程师相当接近：帮助制定模型的行为原则和评估标准，梳理相互冲突的价值观，并为那些无法用普通if / else穷举的情况制定规则。
这在Anthropic尤为明显。哲学博士Amanda Askell参与制定了Claude行为背后的原则——本质上，就是设计模型应当具备怎样的“性格”。
由此可以得出一个略带挑衅意味的结论：
软件越智能，它的行为就越难仅靠技术任务书来定义。
这对工业意味着什么
对工业而言，这个问题很快会变得格外有意思。设想一个自主生产系统：它发现设备运行不稳定。现在停线，会损失数百万卢布；继续生产，则会增加故障概率。
谁来决定多大的风险可以接受？开发人员？工艺工程师？生产总监？律师？还是那个能够先正确制定决策原则、再把它们转化为算法的人？
正因如此，顶尖AI公司出现AI哲学家并非猎奇，而是行业发展相当合乎逻辑的一个阶段。有趣的是，这一趋势已经招致批评：一些研究人员担心，如果哲学家无法真正影响产品决策，这类岗位可能沦为为规范而规范的形式主义。不过，这就是另一篇文章的话题了。